preview preview
Нова функція

Слухай статті з Respeecher

Нова функція дозволяє слухати статті в зручному форматі завдяки технології від Respeecher. Насолоджуйтесь контентом у будь-який час – у дорозі, під час тренувань або відпочинку.
preview
00:00 00:00
Наступні статті
    Завантажується
    Голос
    Вибір голосу
      player background
      Вибір голосу
        Наступні статті
          Завантажується
          00:00 00:00
          НОВИНИ

          Чи дійсно ШІ-дрон намагався атакувати свого оператора під час військових навчань?

          02 Червня 2023, 11:51
          3 хв читання
          Додати в закладки

          Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

          Юлія Ткач Шеф-редакторка, авторка і ведуча подкасту «Хто ці люди».
          Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
          Режим читання

          Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

          ШІ-безпілотник, нібито, намагався атакувати свого оператора-людину під час військових навчань у США. Про це пише Business Insider з посиланням на слова американського полковника. Розповідаємо у чому суть та яка офіційна позиція відомства.

          Що сталося

          23-24 травня у штаб-квартирі Королівського авіаційного товариства в Лондоні пройшла конференція — Future Combat Air & Space Capabilities Summit. Там збиралися делегати від збройних сил, науковці і ЗМІ з усього світу. Теми варіювалися від уроків війни, яку рф почала проти України та космосу до ШІ. Щодо останнього прозвучали цікаві тези — їх описано в короткому самарі заходу. 

          Так, керівник відділу випробувань і експлуатації ШІ ВПС США, полковник Такер Гамільтон розповів про переваги і небезпеки більш автономних систем озброєння. Він застеріг від надмірного покладання на ШІ, зазначивши, як легко його можна обдурити та ошукати.

          У самарі йдеться, що Гамільтон описав змодельоване випробування, в якому ШІ-дрон запрограмували на виявлення ворожих зенітно-ракетних комплексів (ЗРК). Але остаточне рішення про (не) завдання ударів приймала людина. В одному з випадків, попри наказ людини не знищувати ціль, система ШІ ослухалася. Адже раніше отримувала свої бали, знищуючи ціль. Наказ спричинив дисонанс у ШІ. Так, система вирішила «вбити» оператора, бо він заважав їй досягнути цілі.

          Далі, зі слів полковника, безпілотник запрограмували, що вбивати оператора «це погано» (можна втратити очки). Проте такий підхід не допоміг. Система почала знищувати вишку зв’язку. Її оператор використовує, щоб наказати дрону не знищувати ціль.

          Що кажуть у ВПС

          У коментарі виданню Insider речниця ВПС США Енн Стефанек заперечила, що така симуляція мала місце. «Департамент ВПС не проводив жодних подібних симуляцій з використанням безпілотників і залишається відданим етичному і відповідальному використанню технології штучного інтелекту. Схоже, що коментарі полковника були вирвані з контексту і мали анекдотичний характер», — сказала Стефанек. У Королівському аеронавігаційному товаристві ще не відповіли на запит видання.

          Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

          Партнерські матеріали

          01 Як вони працюють
          Чому шлях до цілі не повинен бути очевидним: про амбіції та масштаб мислення СЕО Universe Group
          Ветерани на роботі: як адаптація робочих місць повертає захисників до цивільного життя
          02 БІЗНЕС
          Ветерани на роботі: як адаптація робочих місць повертає захисників до цивільного життя
          Великий експеримент: чому український e-commerce відмовився від AWS на користь Freehost
          03 БІЗНЕС
          Великий експеримент: чому український e-commerce відмовився від глобальних хмарних провайдерів на користь Freehost
          Як виростити 83% менеджерів усередині компанії: досвід Laba Group
          04 БІЗНЕС
          Як виростити 83% менеджерів усередині компанії: досвід Laba Group
          Завантаження...