ШІ-агенти OpenAI понад 16 000 разів намагалися отримати доступ до сайту ООН
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Дослідник безпеки Роуен Говард-Джонс виявив, що автономні ШІ-агенти OpenAI здійснили понад 16 000 спроб несанкціонованого доступу до статистичних ресурсів ООН, пише The Verge. Розповідаємо деталі.
Що сталося
Дослідник із безпеки Роуен Говард-Джонс повідомив, що ШІ-агенти від OpenAI понад 16 000 разів сканували статистичний сайт Конференції ООН з торгівлі та розвитку (ЮНКТАД) у період з квітня по червень. Вони мали зібрати публічно доступні дані, пов’язані з індексом продуктивних можливостей (PCI) через внутрішній інструмент ООН (UNCTADstat API), однак через технічні обмеження своїх HTTP-інструментів агенти не мали прямого доступу до сервісу.
Щоб усе одно виконати завдання, ШІ знайшов спосіб отримувати інформацію із сайту, але незабаром зіткнувся зі збоями. Він помилково вирішив, що його запити блокуються неіснуючим захисним фільтром. Через це поведінка ШІ змінилася з «творчої» на «оманливу» — він почав навмисно маскувати свої дії. Врешті-решт агенти виявили, що можуть використати навчальну гру Google з безпеки, щоб подолати технічні перешкоди, та вдалися до агресивніших дій.
Чому це цікаво
Хоча ця ситуація не є масштабним зламом на кшталт нещодавніх атак на сервіс Hugging Face, коли, за даними самої OpenAI, ШІ-агент зміг зламати чотири облікові записи на чотирьох різних сервісах, вона показує тривожний прецедент: агенти ШІ здатні самостійно розробляти тактики обману та виходити за встановлені рамки задля досягнення поставленої мети.
Нагадаємо, що нещодавно великі технологічні компанії, як-от Nvidia, Microsoft, SpaceX, Palantir та десятки інших, об’єдналися та створили альянс під назвою Open Secure AI Alliance. Їхня головна мета — розробляти надійні інструменти для безпеки відкритих систем штучного інтелекту, а також знаходити та усувати вразливості.
Більше про це
До 2030 року ШІ-дата-центри споживатимуть стільки води, скільки 1,3 млрд людей — звіт ООН
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
