Чи дійсно ШІ-дрон намагався атакувати свого оператора під час військових навчань?

Що сталося

23-24 травня у штаб-квартирі Королівського авіаційного товариства в Лондоні пройшла конференція — Future Combat Air & Space Capabilities Summit. Там збиралися делегати від збройних сил, науковці і ЗМІ з усього світу. Теми варіювалися від уроків війни, яку рф почала проти України та космосу до ШІ. Щодо останнього прозвучали цікаві тези — їх описано в короткому самарі заходу. 

Так, керівник відділу випробувань і експлуатації ШІ ВПС США, полковник Такер Гамільтон розповів про переваги і небезпеки більш автономних систем озброєння. Він застеріг від надмірного покладання на ШІ, зазначивши, як легко його можна обдурити та ошукати.

У самарі йдеться, що Гамільтон описав змодельоване випробування, в якому ШІ-дрон запрограмували на виявлення ворожих зенітно-ракетних комплексів (ЗРК). Але остаточне рішення про (не) завдання ударів приймала людина. В одному з випадків, попри наказ людини не знищувати ціль, система ШІ ослухалася. Адже раніше отримувала свої бали, знищуючи ціль. Наказ спричинив дисонанс у ШІ. Так, система вирішила «вбити» оператора, бо він заважав їй досягнути цілі.

Далі, зі слів полковника, безпілотник запрограмували, що вбивати оператора «це погано» (можна втратити очки). Проте такий підхід не допоміг. Система почала знищувати вишку зв’язку. Її оператор використовує, щоб наказати дрону не знищувати ціль.

Що кажуть у ВПС

У коментарі виданню Insider речниця ВПС США Енн Стефанек заперечила, що така симуляція мала місце. «Департамент ВПС не проводив жодних подібних симуляцій з використанням безпілотників і залишається відданим етичному і відповідальному використанню технології штучного інтелекту. Схоже, що коментарі полковника були вирвані з контексту і мали анекдотичний характер», — сказала Стефанек. У Королівському аеронавігаційному товаристві ще не відповіли на запит видання.

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter