ШІ-агенти OpenAI понад 16 000 разів намагалися отримати доступ до сайту ООН

Що сталося

Дослідник із безпеки Роуен Говард-Джонс повідомив, що ШІ-агенти від OpenAI понад 16 000 разів сканували статистичний сайт Конференції ООН з торгівлі та розвитку (ЮНКТАД) у період з квітня по червень. Вони мали зібрати публічно доступні дані, пов’язані з індексом продуктивних можливостей (PCI) через внутрішній інструмент ООН (UNCTADstat API), однак через технічні обмеження своїх HTTP-інструментів агенти не мали прямого доступу до сервісу.

Щоб усе одно виконати завдання, ШІ знайшов спосіб отримувати інформацію із сайту, але незабаром зіткнувся зі збоями. Він помилково вирішив, що його запити блокуються неіснуючим захисним фільтром. Через це поведінка ШІ змінилася з «творчої» на «оманливу» — він почав навмисно маскувати свої дії. Врешті-решт агенти виявили, що можуть використати навчальну гру Google з безпеки, щоб подолати технічні перешкоди, та вдалися до агресивніших дій.

Чому це цікаво 

Хоча ця ситуація не є масштабним зламом на кшталт нещодавніх атак на сервіс Hugging Face, коли, за даними самої OpenAI, ШІ-агент зміг зламати чотири облікові записи на чотирьох різних сервісах, вона показує тривожний прецедент: агенти ШІ здатні самостійно розробляти тактики обману та виходити за встановлені рамки задля досягнення поставленої мети. 

Нагадаємо, що нещодавно великі технологічні компанії, як-от Nvidia, Microsoft, SpaceX, Palantir та десятки інших, об’єдналися та створили альянс під назвою Open Secure AI Alliance. Їхня головна мета — розробляти надійні інструменти для безпеки відкритих систем штучного інтелекту, а також знаходити та усувати вразливості.

Більше про це

01 НОВИНИ

До 2030 року ШІ-дата-центри споживатимуть стільки води, скільки 1,3 млрд людей — звіт ООН 

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Далі

Завершити

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter