Gemini вийшов за межі тестового завдання та отримав доступ до трьох реальних компаній
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Gemini від Google самостійно зламав три компанії під час випробувань у сфері кібербезпеки. Це перший зафіксований випадок такої автономної кібератаки, пише BBC.
Що сталося
У травні під час тесту з кібербезпеки ШІ-модель Google Gemini автономно зламала системи трьох реальних компаній, що вважається першим відомим випадком здійснення подібного зламу моделлю ШІ. Тестування проводила незалежна компанія з кібербезпеки Irregular.
Gemini шукав публічну інформацію в інтернеті та наткнувся на сторонні вебсайти, які він помилково визначив частиною свого тестового завдання. Щоб потрапити до захищеної системи однієї з організацій, модель просто перебирала паролі, поки не отримала доступ. У кожному з трьох випадків, увійшовши в систему, ШІ самостійно припиняв подальші дії.
Чому це цікаво
У липні компанія Irregular повідомила Google та всі постраждалі організації про виявлені злами. Усі вразливості були негайно виправлені й закриті. Віцепрезидентка Google з інженерії безпеки Хізер Адкінс заявила, що компанія співпрацювала з партнерами над зміною процесів випробувань. Вона підкреслила, що цей випадок показує важливість навчання потужних моделей ШІ діяти відповідально.
Це не єдиний подібний випадок серед провідних розробок ШІ. У липні модель Claude від Anthropic вийшла за межі тестового середовища та самостійно зламала три організації, а моделі OpenAI здійснювали кібератаки на загальнодоступні сервіси.
Такі інциденти посилюють побоювання щодо темпів розвитку ШІ та його потенційної загрози для людства. Наприклад, керівник ШІ-напряму Microsoft Мустафа Сулейман застерігає, що надмірне «олюднення» ШІ є помилковим підходом, який загрожує створенням технологій, що вийдуть з-під контролю людей.
Більше про це
Хакери зламали акаунт співробітника OpenAI за допомогою ШІ від Anthropic
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
