ТЕХНОЛОГІЇ

Медіа, страх і роботи. Чому ми боїмося штучного інтелекту

03 Липня 2022, 10:00
12 хв читання
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

dmitriy-koshelnik
Дмитро Кошельник Придумую теми, редагую тексти, пишу про компанії і підприємців, чіпляюся до фактів.
Чому ми боїмося штучного інтелекту
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Уявіть: далеке майбутнє. Ви разом з командою перебуваєте на космічному кораблі, який прямує туди, де не ступала нога людини. Серед вас — розумний робот із самосвідомістю. Цю експериментальну модель, яку раніше не використовували, створила одна з мегакорпорацій. А ще в кризовій ситуації він має замінити капітана. Чи довіряєте ви йому? 

Якщо ні, то ви точно не самотні у цьому виборі. У нашій культурі роботи та ШІ вже давно сприймаються як потенційна загроза. Допомагають цьому численні фільми, книги та страхи людей на зразок Ілона Маска. У своїй колонці шеф-редактор Vector Дмитро Кошельник розповідає, що вплинуло на еволюцію нашого ставлення до ШІ та роботів. 

Усе придумали фантасти

Воно живе

Культура людства з давніх часів пронизана ідеєю створення штучних форм життя. Тут можна згадати давньогрецький міф про Пігмаліона та Галатею. У ньому скульптор Пігмаліон створив статую жінки, в яку закохався. Тому він благав богиню кохання Афродіту оживити її. Цікаво, що ім’я скульптурі вигадав філософ Жан-Жак Руссо у XVIII столітті. 

Також не можна забути про Голема — міфічну глиняну людину, яку нібито оживив равін у Празі. Додамо до цього численні згадки про спроби створення механічних фігур людей ще в елліністичну епоху, а також креслення робота від Леонардо да Вінчі. 

Простежується це й у літературі. Можна згадати роман Мері Шеллі «Франкенштейн, або Сучасний Прометей» (1818). У ньому професор Віктор Франкенштейн створив живу істоту з матерії, відому нам як «Монстр Франкенштейна». 

Якщо ж говорити про приклади саме автономних роботів у фантастичній літературі, то однією з перших згадок стала книга Олафа Стейплдона «Останні й перші люди: історія близького та далекого майбутнього» (1930-й). Роман написаний у формі підручника з історії. У ньому згадуються промислові та біороботи, проте без надмірних деталей.

Закони Азімова

Батьком того, що ми очікуємо та розуміємо під роботами й ШІ, можна вважати Айзека Азімова. А ще у своїх творах Азімов встановив правила, які нібито мають захистити людство від його творінь. 1941 року він написав розповідь «Хоровод». Сюжет не має особливого значення для цього тексту.

Важливіше, що саме в цій розповіді Азімов уперше сформулював свої три закони робототехніки:

Айзек Азімов

Робот не може заподіяти шкоди людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди.

Робот мусить коритися всім наказам, які дає людина, крім тих випадків, коли ці накази суперечать першому закону.

Робот мусить дбати про власну безпеку, поки це не суперечить першому чи другому законам.

Сам Азімов вважав, що ці три закони збігаються з більшістю етичних систем на нашій планеті. Фантаст так чи інакше використовував їх майже у всіх своїх творах. Він створив їх ще й для того, щоб подолати тему повстання роботів проти власних творців. Багато подібних розповідей з’явилося в 1920–1930-х роках. Азімову ж набридли подібні попередження.

Особисто я вважаю, що роботи — не проклята богом імітація життя, а лише високорозвинені машини. Машина не може виступити проти свого творця, якщо правильно сконструйована.

Айзек Азімов

«Коли механізм, наприклад електропила, випадково відгризає своєму власнику кінцівку, його гідна жалю схильність до агресії усувається за допомогою встановлення спеціальних захисних пристроїв. Подібні захисні пристрої, очевидно, можуть бути і в роботах», — писав фантаст в есе про роботів.

Проте навіть у творах Азімова роботи знаходили способи обійти ці закони. З’являлися і численні міркування про те, що було б, якби ШІ отримав не лише людський етичний кодекс, але й можливість від нього відхилитися. Тобто чи може машина не просто виконувати свою програму, але мислити й ухвалювати рішення. Якщо ж вважати за форму роботів монстра Франкенштейна, який повстав проти творця, то вміння штучного життя відчувати емоції цікавило людство ще давно. 

Що придумав Тюрінг

Посприяв дискусії відомий британський вчений Алан Тюрінг, який 1950-го запропонував експеримент. Він мав визначати здатність машини проявляти інтелектуально обумовлену поведінку, яка практично не відрізняється від людської. Наразі його знають як «Тест Тюрінга».

Алан Тюрінг

Він пропонує одній людині (суддя) спілкуватися одночасно з іншою людиною та машиною, не знаючи, хто є хто. На підставі відповідей суддя має вирішити, хто перед ним. Програма ж має ввести його в оману. Якщо суддя не відрізнить машину від людини, то перша перемогла.

«Тест Тюрінга» вплинув на фантастику — як в плані мислення роботів, так і практичного використання. Наприклад, у фільмі «Той, хто біжить по лезу» (1981):

Так зусиллями Азімова та інших фантастів, філософів і вчених мислездатні машини стали не лише звичною нам концепцією, але й дискусійною темою.

Що сталося з ШІ та роботами

Завдяки Азімову стало менше моралізаторських розповідей про роботів, які повстають проти власних творців. Проте тема не зникла. 

Гарний приклад — роман Френка Герберта «Дюна», що вийшов 1965 року. Його події відбувалися в далекому майбутньому, де людство відмовилося від роботів і комп’ютерів через повстання машин. Замість цього вони почали розвивати мислительні та екстрасенсорні здібності.

Не зникла й тема машини, що вийшла з ладу через людей. 1968 року вийшов фільм «2001: Космічна Одіссея» Стенлі Кубрика. Одним з авторів сценарію був фантаст Артур Кларк. За сюжетом, до складу експедиції на Юпітер входить комп’ютер зі штучним інтелектом HAL 9000. Він вміє відтворювати людські емоції та вважається майже повноцінним членом екіпажу. Правда, через суперечливі інструкції щодо місії та страх відключення HAL 9000 вирішує вбити членів екіпажу. Закінчується все відключенням HAL 9000. 

Далі кількість фільмів, пов’язаних із загрозою ШІ або андроїдів, тільки наростала.  Серед найбільш пам’ятних:

  • «Термінатор» (1984 рік) — не такий глибокий, як попередній, фільм розповідає нам про можливість жахливого майбутнього. Там злий ШІ «Скайнет» створив армію кіборгів, щоб знищити людську расу.
  • «Матриця» (1999 рік) — тут зображують світ, який захопили машини. Людей же штучно розводять та використовують як «батарейки». Вони підключені до віртуального світу, де живуть звичайне життя.

Уже «Термінатора» та «Матриці» вистачило би для остаточного формування думки про загрозу штучного інтелекту та роботів. Звісно, не можна сказати, що ШІ був ворогом буквально в кожному фільмі. У тих же «Зоряних війнах» два «добрих» роботи виступають ледь не головними героями. Щоправда, в серії приквелів є армія роботів на службі злої Конфедерації незалежних систем.

Не всі фільми та книги про ШІ показують його злим. Проте таких фільмів дуже багато, і вони створюють потрібний емоційний фон. Особливо для людей, які не розуміють, як саме працює ШІ зараз та на якому рівні розвитку.

Показовий момент — відео американської робототехнічної компанії Boston Dynamics, на яких її працівники б’ють і штовхають роботів. Так їх, наприклад, навчають швидко відновлюватися після падіння. Це допоможе в критичних ситуаціях. Проте в соцмережах вже встигли написати про потенційне повстання роботів. Не всі пишуть це серйозно, але стереотип є.

Також до сприйняття ШІ як ворога долучилися медіа, які люблять винести в заголовок або шукати аналогії з вищезазначеними фільмами. Плюс видання також пишуть, що ШІ потенційно може замінити людину в багатьох сферах. 

Ну і не можна не згадати різноманітних інфлюенсерів і техномагнатів, які побоюються ШІ. Той же Ілон Маск називав штучний інтелект ледь не головною загрозою людству. Це не заважає йому розвивати автопілот Tesla та готувати запуск власної лінійки роботів. 

Звідки загалом пішло таке негативне відношення до ШІ та роботів у масовій культурі — складно сказати. Тут, як завжди, зіграла роль низка чинників. Серед них — усе той же класичний лейтмотив творіння, що виходить з-під контролю творця. Його посилювали ті ж дві світові війни, ядерна зброя та інші помилки людства. Вони ніби підкреслювали, що ми не можемо довіряти собі та власним винаходам. Зрештою, це разом із традиціями фантастів дало нам тренд «ШІ=кінець світу». Насправді ж усе не так однозначно.

Розберімо докладніше, коли саме ШІ може стати небезпечним для нас і чи варто починати боятися.

Страху тут не місце

У своїй книзі «Останній винахід людства» Джеймс Баррат розповідає про загрозу створення ШІ, що значно перевершить інтелект людини. Як тільки такий ШІ усвідомить себе, то буде готовий на все, щоб досягти цілей, для яких його створено (запам’ятайте цей момент). Наприклад, такий ШІ може захотіти отримати більше енергії та даних або вдосконалити себе під конкретне завдання.

Припустимо, що він перебуває в закритому приміщенні без доступу в інтернет. Тобто у своєрідній тюрмі його утримує вид, який суттєво поступається інтелектуально. Що в такому разі має робити ШІ? Він спробує звільнитися. Для цього ШІ зможе використати різні підходи — обіцятиме, погрожуватиме, благатиме. Він навіть може зробити безліч копій самого себе, щоб разом штормити, моделювати різні сценарії та врешті-решт вирватися. 

Останнє може бути й не потрібне. ШІ такого рівня цілком здатний переконати власних творців виконувати свої рекомендації, щоб він зміг реалізувати своє завдання. А от від того, в чому воно полягає, може і залежати майбутнє людства:

  • Врятувати нашу планету. У цьому разі він здатен побачити загрозу для неї й у самих людях. Тоді його рішення можуть здатися нам радикальними. 
  • Пізнати всесвіт. Ще одна небезпечна концепція, бо люди можуть заважати пізнанню. Наприклад, розв’язуючи війни або намагаючись втрутитися в роботу ШІ. 
  • Закінчити всі війни. А якщо йому спаде на думку, що найпростіше знищити людство?
  • Зберегти життя всіх людей. Це можна зробити у спеціальних камерах з вічним заморожуванням або за допомогою підключення нас до «Матриці».

Усі ці сценарії не унікальні. Ми так чи інакше бачили їх у науковій фантастиці, читали в книгах чи чули в виступах футуристів. Вони про те, що до потенційних проблем зі ШІ може призвести банально неправильне формулювання завдання.

Ще одна цікава річ — штучний інтелект навряд мав би до нас якісь почуття. Гнів, ненависть, любов чи дружба — людські особливості. Чи може взагалі їх мати ШІ — дискусійне питання. Штучний інтелект — не жива істота, тому його емоційність можлива, якщо самі вчені придумають, як її забезпечити. Більший шанс, що ШІ міг би завдати шкоди людям через неправильно поставлене завдання. Тим важливіші для нас закони робототехніки Азімова.

А тепер головне — ці сценарії нічого не означають.

Ми не на тому рівні розвитку, щоб створити такий інтелект, і навіть не знаємо, чи можливий він загалом. Сумнівна й ефективність ШІ та роботів, які теоретично мали б забрати у нас роботу. 

Наприклад, нейромережі, які писатимуть за мене тексти, вже використовують у різних виданнях — Miami Herald, Forbes, Associated Press, Bloomberg, Guardian. Проте вони виконують свою роботу не на такому рівні, щоб відібрати її в людини. Наприклад, Miami Herald Bot допускає фактичні помилки, надто любить слово «Флорида» у заголовках, а ще пише не більше двох абзаців та лише на тему нерухомості. Словом, він нічим не перевершує журналіста й потребує уваги редактора.

Теж саме про роботів — у світі вистачає компаній, які їх виробляють і намагаються досягти широкого застосування. Проте до реальної загрози робочим місцям ще далеко.

Чи зміниться це в майбутньому? Можливо, бо розвитком ШІ та роботів займаються технологічні гіганти та стартапи у всьому світі, але поки рано роздавати аванси.

Замість висновків

  • Люди бояться ШІ, бо так його показали в медіа та фантастиці. Можливо, нам варто знімати більше фільмів про добрий штучний інтелект та користь від його використання. 
  • Ми все ще дуже далеко від створення розумнішого за нас ШІ. Цілком імовірно, що цей момент ніколи не настане.
  • ШІ навряд чи відчуватиме до нас якісь емоції. Більший ризик існуванню людства матимуть неправильно поставлені завдання.
  • ШІ та роботи все ще не готові нас замінити. Та й не факт, що до цього дійде. Теоретично вони могли би взяти на себе небезпечну та важку роботу. 

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

ЧИТАЙТЕ ТАКОЖ
СТАРТАПИ
Інновації на продаж. Як агенція Center42 метчить стартапи, громади та бізнес
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
09 Березня 2021, 08:00 8 хв читання
СТАРТАПИ Не мем, а фіча. Як працює контент-відділ стартапу Reface
Не мем, а фіча. Як працює контент-відділ стартапу Reface
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
14 Січня 2021, 07:35 11 хв читання
ТЕХНОЛОГІЇ
? Alarm! ? Як Ajax Systems створюють системи безпеки світового рівня у Києві
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
25 Жовтня 2019, 12:04 15 хв читання
Історії
Як це працює: головний офіс Shopify в Канаді
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
03 Грудня 2018, 12:25 9 хв читання
Завантаження...