OpenAI посилила безпеку навколо Astra через її прогрес у кіберзавданнях
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
OpenAI заявила, що останні внутрішні оцінки моделі Astra показали значний прогрес в агентному кодуванні та кібербезпеці, тож компанія вже не може виключити для неї «критичний» рівень кіберможливостей. Розповідаємо деталі.
Що сталося
Компанія OpenAI повідомила, що за підсумками нових внутрішніх тестів і експертних оцінок модель Astra показала суттєвий стрибок у кіберзавданнях. Через це компанія дійшла висновку, що наразі не може виключити для неї «критичний» рівень можливостей у межах власної Preparedness Framework.
У цій системі «критичний» рівень означає, що модель потенційно може без участі людини знаходити й розробляти робочі експлойти для вразливостей нульового дня в багатьох захищених реальних системах або самостійно будувати нові наскрізні стратегії кібератак, маючи лише високорівневу ціль.
Компанія наголошує, що це попередній висновок, а оцінювання Astra ще триває, також OpenAI окремо зазначила, що модель не брала участі в інциденті з Hugging Face. Для порівняння, попередні моделі компанії, зокрема GPT-5.6-Sol, за цією шкалою отримували високий, а не критичний рівень кіберможливостей.
Чому це цікаво
OpenAI каже, що вже посилила внутрішні запобіжники для Astra і призупинила частину активностей, які не відповідають новим вимогам безпеки, зокрема:
- запровадила ізольовані середовища тестування, обмежила доступ до мережі та інструментів, а також посилила захист і шифрування ваг моделі;
- увімкнула універсальний моніторинг ризикованих дій і невідповідностей у всіх агентних застосунках Astra, зокрема під час навчання та оцінювання;
- планує працювати з державними установами й організаціями з безпеки ШІ для зовнішнього тестування моделі;
- надаватиме стороннім партнерам окремі контролі безпеки для проведення оцінок із вищим рівнем ризику.
Компанія додає, що вже проходила схожий етап у 2025-му році, коли її моделі наблизилися до високого порогу в біологічних можливостях.
Більше про це
OpenAI прибирає ліміти на текстові чати в ChatGPT для безкоштовного та Go-рівнів
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
