Нова книга Ювала Ной Харарі змусить вас переосмислити майбутнє ШІ та людства
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Вчений Ювал Ной Харарі у своїй новій книзі розмірковує про те, чи готове людство до суперінтелекту, про це автор розповідає в інтерв’ю Wired. Розповідаємо про найцікавіші тези.
Що сталося
В інтерв’ю медіа Wired історик і автор книги Nexus Ювал Ной Харарі розповів, чого очікувати людству від штучного інтелекту, важливість регуляції ШІ, та чи зможе суперінтелект захистити демократію.
Його минула книга «Сапієнс» про історію людства стала міжнародним бестселером. Пізніша робота — Homo Deus зобразила майбутнє людства, викликане появою суперінтелекту. Остання книга — «Nexus: Коротка історія інформаційних мереж від кам’яного віку до штучного інтелекту» є своєрідним попередженням про ймовірну загрозу штучного інтелекту.
Нещодавні вибори президента США в листопаді посилили тенденції до технофашизму, які, своєю чергою, виникли на фоні загострення популізму і ШІ, спонукали Харарі у своїй нещодавній книзі Nexus застерегти про потенційні загрози ШІ для демократії та ризики тоталітаризму, а також про «чужорідність» штучного інтелекту.
Ось п’ять головних тези з інтерв’ю Харарі.
Людство не стає мудрішим
Зі збільшенням інформації людство не стало мудрішим, вважає автор, бо інформація — це не правда. Більшість інформації не є точним відображенням реальності. Головна роль, яку вона відіграє, полягає в тому, щоб з’єднувати багато речей та людей. Іноді останніх пов’язує правда, але часто їм простіше скористатися вигадкою чи ілюзією.
Основна маса інформації, що існує, не є правдивою, адже істина вимагає значних зусиль: її пошук дорогий, вона часто складна, а також може бути болючою. Натомість вигадка легко створюється, проста для розуміння та приємна для сприйняття. Очікування, що інтернет сприятиме поширенню істини та порозумінню, виявилися наївними. Для того, щоб докопатися до правди, необхідно докладати спеціальних зусиль, ретельно перевіряючи факти.
Вперше людство ділить планету з суперінтелектом
З історії людства можна винести важливі уроки, особливо в контексті розвитку штучного інтелекту. Розуміння минулого допомагає усвідомити унікальність ШІ, який є не просто інструментом, а самостійним агентом. На відміну від попередніх інформаційних технологій, таких як друкарський верстат, ШІ здатен створювати власний контент і приймати рішення, що є абсолютно новим явищем в історії.
Люди домінують на планеті не завдяки індивідуальній силі, а завдяки здатності до широкомасштабної співпраці. Ця співпраця стала можливою завдяки створенню та поширенню спільних історій, таких як релігія чи гроші, які об’єднують мільйони людей.
Однак ШІ ставить перед людством безпрецедентний виклик. Вперше в історії люди ділять планету із суперінтелектом, який може створювати історії навіть краще.
Людство близьке до сингулярності
На думку Харарі, сингулярність — це точка, в якій ніхто більше не розуміє, що відбувається. Це точка, за якою уява та розуміння не встигають. І людство можемо бути дуже близьке до неї через появу ШІ.
Сингулярність відбудеться тоді, коли людство втратить здатність розуміти світ через розвиток мережі штучних інтелектів. Навіть без квантових комп’ютерів мільйони ШІ, що діють разом, можуть змінити економіку, політику та культуру. Важко оцінити, чи це добре чи погано, але очевидно, що людство ризикує втратити контроль над майбутнім, подібно до тварин, які не розуміють людських систем.
Для захисту демократії потрібно обмежити висловлювання ШІ
Алгоритми соціальних мереж хоч і не створені для поширення фейкових новин, але стимулюють їхнє розповсюдження, оскільки гнів і ненависть збільшують залученість користувачів. Проте, змінивши цілі алгоритмів, можна досягти протилежного ефекту — підвищити довіру та правдивість інформації. Для збереження демократії важливо розрізняти людську комунікацію та взаємодію з ботами, що вимагає законодавчого регулювання та чіткого маркування ШІ, не порушуючи при цьому свободу слова людей.
ШІ несе руйнування довіри між людьми та маніпуляції
Розвиток штучного інтелекту створює дві ключові проблеми: руйнування довіри між людьми та ризик тотальної маніпуляції. На відміну від перших днів інтернету, коли люди об’єднувалися, зараз вони опиняються в інформаційних «коконах», сформованих ШІ. Це несе загрозу відірваності від реальності, оскільки такі культурні продукти як поезія чи гроші, можуть створюватися не людським розумом. Вирватися з цієї нової ілюзії, яку ШІ здатен генерувати, буде надзвичайно складно.
Також Хірарі підкреслює, що поява нової технології, зокрема штучного інтелекту, не є апріорі негативною, але людство часто не готове до її ефективного використання через відсутність відповідних моделей, законів чи правил. Проблема полягає не в самій технології, а в необхідності створення суспільства, здатного гармонійно співіснувати з ШІ.
Оскільки ШІ здатний самостійно приймати рішення та проводити експерименти, існує ризик непередбачуваних наслідків. Тому критично важливим є розробка механізму самокоригування, який дозволить виявляти та виправляти помилки до настання критичних ситуацій. Однак, на відміну від лабораторних досліджень, моделювання історичних процесів у контексті ШІ є надзвичайно складним завданням.
