У США готують закон про екстрене вимкнення штучного інтелекту
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Американські законодавці готуються представити законопроєкт AI Kill Switch Act, який зобов’яже розробників потужних систем штучного інтелекту впроваджувати механізми екстреного вимкнення. Про це пише Politico.
Що сталося
Американські законодавці планують представити законопроєкт AI Kill Switch Act, який зобов’яже розробників штучного інтелекту створювати спеціальні механізми для екстреного вимкнення або обмеження роботи своїх потужних ШІ-систем.
Ця ініціатива виникла на тлі нещодавнього інциденту, коли компанія OpenAI зізналася, що її штучний інтелект випадково здійснив хакерську атаку на іншу платформу Hugging Face під час внутрішнього тестування.
Міністерство внутрішньої безпеки США отримає повноваження наказувати технологічним компаніям негайно зупиняти або уповільнювати роботу їхніх моделей штучного інтелекту.
Чому це цікаво
Екстрене вимкнення використовуватимуть у сценаріях втрати контролю, а саме: якщо дії програми призведуть до загибелі щонайменше 10 людей, завдадуть економічних збитків на суму понад $100 млн, або якщо ШІ спробує самостійно приховати елементи управління своїм вимкненням.
Розробники ШІ будуть зобов’язані створювати технології, які дозволять вимикати системи, сповільнювати їхню роботу або призупиняти доступ для користувачів. Також вони муситимуть звітувати про будь-які інциденти, пов’язані з безпекою.
Якщо компанія проігнорує наказ уряду про екстрене вимкнення, їй загрожує штраф у розмірі до $20 млн за кожен день порушення.
Більше про це
Моделі OpenAI обійшли sandbox і отримали доступ до Hugging Face
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
