Упередження та «тривога Франкенштейна». Чому ми так боїмося ШІ?

Нещодавно понад 1000 експертів, підприємців та топменеджерів (серед яких, наприклад, Ілон Маск та Стів Возняк) підписали відкритого листа із закликом зробити принаймні піврічну павзу в розробці просунутого ШІ. А футуролог Еліезер Юдковський у своїй колонці для Time взагалі закликає до жорсткої заборони подальшого розвитку ШІ, оскільки це загрожує виживанню людства. Чому ми так сильно боїмося штучного інтелекту і як впоратися з цими страхами?

На ці питання в спільному тексті спробували відповісти Head of Operations Fuelfinance Джейн Давидюк, директор Інституту поведінкових досліджень Американського університету в Києві Володимир Вахітов та адміністраторка Інституту Наталія Заїка. 

Які страхи у нас є

А що, якщо ми створимо машину, а вона нас покине? Як у фільмі «Ex Machina». Або ми набриднемо машині, як у стрічці «Вона» Спайка Джонза? Це два фільми, які відображають страх людства перед штучним інтелектом. Вони показують набір занепокоєнь — не через те, що машини вб’ють нас, а тому що ми станемо непотрібними. 

Люди намагаються з’ясувати природу власних емоцій, спостерігаючи за останніми змінами у світі ШІ і власними реакціями на ці зміни. Ми ставимо собі запитання: 

• «А як взаємодіяти з ШІ. Чи його результат роботи залежатиме від мого формату подачі або емоційного забарвлення?»; 
• «А скільки потрібно практикуватися, щоб писати наповненіші тексти, ніж пише ChatGPT?»; 
• «А які з моїх навичок достатньо унікальні, щоб мене не замінила нова версія рішення від OpenAI?»

Щось змушує нас постійно відчувати страх. Яка ж природа його та всіх емоцій, які ми проживаємо щодня, читаючи топ-10 новин, де свідомо чи несвідомо зображена саме загроза від ШІ? 

Чим зумовлені страхи

Важливо зрозуміти, що страхи людей щодо ШІ здебільшого зумовлені когнітивними упередженнями. Це викривлене мислення, в результаті чого ми не можемо повністю нейтрально сприймати інформацію та ухвалювати раціональні рішення. 

• Наприклад, підтверджувальне упередження. Воно підштовхує нас шукати інформацію, яка підтверджує наші переконання та ігнорувати ту, яка їм суперечить. Це упередження може змусити людей зосереджуватися на негативних новинах про ШІ та ігнорувати позитивні.
• Подібним чином працює евристика доступності. Це ментальне «скорочення шляху», коли ми переоцінюємо важливість інформації, яка вперше впадає нам в очі. Воно може змусити людей переоцінювати поширеність і вплив ШІ.
• Тенденція до антропоморфізації нелюдських істот є ще одним із упереджень, яким можна пояснити наш страх перед ШІ. Люди схильні наділяти штучний інтелект людськими якостями, такими як емоції, наміри та свобода волі. Це може призвести до різного роду страхів і занепокоєння. Оскільки люди проєктують власні страхи та тривоги на цю нелюдську сутність. 

У відомому романі Мері Шеллі «Франкенштейн, або Сучасний Прометей» вчений Віктор Франкенштейн створив у своїй лабораторії розумну істоту, поєднавши компоненти різних мертвих тіл за допомогою власної (фантастичної) технології. 

«Монстр Франкенштейна» спочатку нешкідливий. Проте він швидко стає дуже жорстоким, оскільки люди не розуміють його, бояться, відштовхують і намагаються завдати йому шкоди. Цей твір популяризував у науці термін «тривога Франкенштейна». Саме її ми відчуваємо зараз, все ближче стикаючись з ШІ. 

Насправді ми боїмося не самого штучного інтелекту або можливостей, які він нам відкриває. Ми боїмося себе.

Ми не знаємо, чим людство наповнить резервуар штучного інтелекту, і чи гратиме він з нами на одному боці. Схоже, проєктуємо власні тривоги на нову, вже реальну технологію. Коли ми запитуємо: «Чи вб’ють нас роботи?», — ми насправді запитуємо: «Чи вб’ємо ми самі себе за допомогою ШІ?» 

Щобільше — багатьом не вистачає інтуїтивного розуміння, як ця технологія працює. Люди часто сприймають ШІ як чорну скриньку, яка видає результати, але не розуміють, як він їх отримав. Відсутність прозорості здатне викликати відчуття занепокоєння щодо ШІ. Люди можуть відчувати, що вони не в здатні контролювати роботу його алгоритмів, а отже — і передбачити його дії і їхні наслідки.

Що робити

Розуміючи наші когнітивні упередження та обмеження власного сприйняття, ми можемо почати підходити до ШІ більш раціонально і об’єктивно. Це дозволить нам краще зрозуміти потенційні переваги та ризики. А ще приймати зважені рішення про те, як ми будемо використовувати ці системи та взаємодіяти з ними в майбутньому. Людство саме розробляє алгоритми, тож те, що ми в них вбудовуємо, і визначить, чим (або ким) вони стануть.