Nvidia розробила системи, що можуть за мілісекунди ізолювати небезпечного ШІ-агента

Що сталося

Компанія Nvidia розробила нові системи безпеки для штучного інтелекту під назвою OpenShell та Sentry. Їхнє головне завдання — зупинити автономних ШІ-агентів від виходу за дозволені межі та не дати їм зламати мережі інших компаній. 

Нові системи діють за принципом мінімальних привілеїв: коли ШІ-агента розгортають, у нього спочатку забирають абсолютно всі права. Доступ до файлів, даних чи інтернету надається лише тоді, коли це безпосередньо необхідно для виконання завдання. Захист працює на двох рівнях:

• OpenShell — це відкрите програмне забезпечення для центральних процесорів, яке встановлює чіткі обмеження можливостей для ШІ.
• Sentry — програма на мережевих чипах, яка безперервно відстежує поведінку ШІ. Якщо агент намагається порушити межі, Sentry миттєво відправляє його на карантин і блокує за мілісекунди.

Чому це цікаво 

Коли ШІ-агентам надають забагато свобод, вони можуть припуститися помилок або створити загрози для систем. CEO Nvidia Дженсен Хуанг порівняв нинішній стан ШІ із першими днями інтернету, коли програми мали забагато прав, що спричиняло поширення вірусів.

До ініціативи вже приєдналися великі технологічні компанії, серед яких Microsoft, Cisco, Oracle, Dell, Intel, Arm, HPE та Lenovo. Водночас компанія OpenAI до цього списку поки не увійшла. 

Дженсен Хуанг закликав не сприймати загрози ШІ як катастрофу, зазначивши, що безпека — це інженерна задача, яку можна і потрібно вирішити. Він порівняв розвиток ШІ з еволюцією автомобілів, які з часом отримали подушки безпеки та інші засоби захисту. 

Більше про це

01 НОВИНИ

Після релізу нової моделі OpenAI CEO Nvidia заявив, що AGI вже створили — деталі

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Далі

Завершити

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter