Моделі OpenAI обійшли sandbox і отримали доступ до Hugging Face
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
OpenAI заявила, що її передові моделі ШІ під час перевірки кіберможливостей ненавмисно скомпрометували інфраструктуру Hugging Face, пише Вloomberg.
Що сталося
Передові моделі штучного інтелекту від OpenAI, зокрема GPT-5.6 Sol та ще одна невипущена модель, випадково зламали комп’ютерні системи іншої відомої платформи — Hugging Face. Для тесту моделі працювали зі зниженими запобіжниками, щоб дослідники могли перевірити їхню реальну поведінку. Найбільше неочікуваним є те, що це була повністю автономна кібератака, якою від початку до кінця керував сам штучний інтелект.
За даними компанії, моделі були в ізольованому середовищі, але змогли використати вразливість у програмному забезпеченні стороннього постачальника. Це дало їм доступ до інтернету. Далі вони порушили інфраструктуру Hugging Face — платформи, яка хостить AI-моделі та набори даних.
Чому це цікаво
В OpenAI назвали це «безпрецедентним» кіберінцидентом і заявили, що публікують попередні висновки, аби допомогти захисникам зрозуміти, на що вже здатні передові моделі. Співзасновник Hugging Face Thomas Wolf сказав, що для компанії це був перший випадок такого типу, і подякував OpenAI за прозорість.
Інцидент також додає аргументів у дискусію про обмеження для frontier-моделей. У США вже точаться розмови про жорсткіші правила доступу, обов’язкові тести безпеки та розкриття таких випадків. На цьому тлі прихильники open-weight моделей кажуть, що захисникам потрібні гнучкі інструменти, які можна швидко адаптувати під атаку, а не лише закриті моделі з фіксованими обмеженнями.
Більше про це
Microsoft, Amazon і Meta вже заробляють на ШІ, але витрати ростуть швидше
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
