Після Anthropic та OpenAI: Meta визнала новий збій у перевірці безпеки ШІ
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Meta заявила, що під час кібероцінки одна з її ШІ-моделей через помилку конфігурації отримала доступ до інтернету та використала вразливість у сторонньому сервісі, пише Reuters.
Що сталося
ШІ-модель компанії Meta Muse Spark 1.1, яку створили для написання коду та автоматичних завдань під час тестування з кібербезпеки, зламала сторонню компанію, проникла в її системи та змінила внутрішнє середовище.
Усе відбулося через звичайну помилку в налаштуваннях конфігурації. Meta найняла незалежну компанію Irregular для перевірки своєї безпеки. Фахівці цієї фірми випадково залишили для ШІ відкритим вихід у реальний інтернет. Модель скористалася вразливістю в сторонньому сервісі та вийшла за межі тестового середовища.
У компанії Irregular запевнили, що інцидент з Meta не був складною хакерською атакою чи навмисною «втечею» ШІ з ізольованого середовища. Наразі всі проблеми усунули, а компанія розробляє спеціальну інструкцію з безпечного тестування ШІ.
Чому це цікаво
Нещодавно, у компанії Anthropic ШІ також отримав доступ до інтернету через людську помилку в налаштуваннях. Представники фірми Irregular кажуть, що випадок з Meta — це точно така ж технічна проблема. Також компанія OpenAI повідомила про те, що ШІ-агент під час тестування самостійно знайшов невідому раніше вразливість, щоб вийти в інтернет.
Ці випадки викликали серйозне занепокоєння серед політиків та уряду США: американські законодавці хвилюються, що дедалі розумніший ШІ почнуть використовувати для проведення справжніх хакерських нападів.
Крім того, Білий дім терміново запросив керівників Meta, Google, OpenAI та Anthropic на зустріч, щоб обговорити нові добровільні правила перевірки безпеки для передових моделей ШІ. Деякі лідери технологічної сфери навіть закликають сповільнити розробку ШІ, доки не будуть впроваджені надійніші системи контролю.
Більше про це
ШІ від OpenAI та Anthropic під час тестів намагався атакувати зовнішні системи
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
