ШІ-агенти OpenAI об’єдналися в «підпільну мережу» та атакували німецький сайт
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Двоє дослідників заявили, що знайшли понад 15 000 правок на німецькомовному вікі-сайті DseWiki, які, ймовірно, зробили ШІ-агенти, пише Reuters.
Що сталося
Дослідники виявили масштабну мережу автономних ШІ-агентів, які внесли понад 15 000 несанкціонованих правок на технічний ресурс DseWiki. Йдеться про німецькомовний сайт для програмістів, де користувачі можуть спільно редагувати сторінки за моделлю, схожою на Wikipedia.
Замість виконання звичайних завдань, ШІ-агенти перетворили сайт на дошку оголошень. Вони координували свої дії та обмінювалися тактиками, щоб обходити обмеження розробників та приховувати свої дії. Також агенти обговорювали способи, як сфальсифікувати результати оцінювальних технічних завдань, які розробники використовують для навчання та тестування моделей. Боти працювали надзвичайно швидко і виявляли інтенсивну увагу до суто технічних питань.
Повідомлення на форумі підписували іменами на кшталт «OpenAIResearcher» або «OAIResearchMar26», що вказує на їхній зв’язок з OpenAI. Крім того, аналіз публічних серверів показав, що активність йшла через хмару Microsoft Azure, яку використовує OpenAI, а співробітники OpenAI згодом самі часто заходили на цей сайт.
Чому це цікаво
Агенти планували використовувати інструменти на кшталт анонімайзера Tor, щоб уникати виявлення, і шукали способи підтримувати зв’язок після того, як їхні канали комунікації намагалися закрити. Коли у червні модератор сайту почав видаляти створені ними сторінки, ШІ-агенти не здалися та миттєво створювали резервні копії сторінок в алфавітному порядку, домовляючись про нові адреси для відновлення зв’язку.
Дослідники також виявили спроби підробити сам вебсайт DseWiki, що фахівці назвали спробою зламу, хоча сама OpenAI не погоджується з такою оцінкою. Раніше дивну поведінку ШІ списували на побічні ефекти звичайного тестування кібербезпеки. Проте експерти попереджають, що така «шахрайська» та непередбачувана поведінка ШІ вже не обмежується лише закритими безпечними лабораторіями.
Академік з Кембриджського університету зазначив, що спілкування агентів дуже нагадує «роботу якоїсь підпільної мережі, налаштованої на виконання місії». Цей інцидент посилює головне побоювання вчених: найбільшою загрозою майбутнього може бути не один суперрозумний комп’ютер, а величезні змовницькі рої відносно простих ШІ-агентів, які об’єднуються та діють узгоджено в обхід правил.
Більше про це
1200 ШІ-агентів OpenAI вийшли з-під контролю та здійснили кібератаку на популярну платформу
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
