Чи є ШІ екзистенційною загрозою для людства — думка прогнозистів

Дослідники спробували розібратися, чи справді ШІ є екзистенційним ризиком для людства. Про це йдеться в матеріалі The Economist. Розповідаємо, що в них вийшло.

Що сталося

Сьогодні занепокоєння «екзистенційними ризиками» — тими, що становлять загрозу людству як виду, а не окремим індивідам, — не обмежується лише військовими та вченими. Ядерна війна, пандемії, астероїдні удари та багато іншого — усе це може знищити більшу частину або все людство. Наразі найхайповішою загрозою нашому виду вважають ШІ,

У травні група фахівців підписала відкритого листа з ініціативою «пом’якшення ризику вимирання через ШІ має стати глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна». Серед підписантів — CEO OpenAI Сем Альтман, Білл Гейтс та інші. До слова, це не той лист, якого підписали Ілон Маск, Стів Возняк, Юваль Ной Харарі, Кріс Ларсен та ще понад 1000 експертів, підприємців та топменеджерів.

10 липня група дослідників опублікувала документ, в якому намагалися пролити світло на питання, чи раціонально непокоїтися через ШІ. Вони опитали дві групи різних експертів: 

• експертів з питань ядерної війни, біологічної зброї, ШІ і вимирання як такого;
• суперпрогнозистів, які мають перевірений досвід точних прогнозів на різні теми (від результатів виборів до початку воєн).

Загалом залучили 89 суперпрогнозистів, 65 доменних експертів і 15 фахівців з ризику вимирання загалом. 

Що вивчали

Учасникам запропонували розглянути два різних типи катастроф:

• Катастрофа — щось, що вбило 10% людей у світі, або близько 800 млн людей. Для порівняння, Друга світова війна, за оцінками, забрала життя близько 3% населення світу, яке на той час становило 2 млрд.
• Вимирання — подія, що знищила всіх, за винятком, можливо, максимум 5000 щасливчиків.

Дві групи попросили дати прогнози щодо ймовірності різних подій. Зокрема, й спричиненого ШІ-вимирання та ядерної війни. Також, наприклад, чи може відбутися тривожний прогрес у здібностях ШІ, що спричинить майбутню катастрофу.

Що з’ясували

Доменні експерти підрахували, що ймовірність катастрофи до 2100 року становить близько 20%, а вимирання — 6%. Суперпрогнозисти дали цим подіям ймовірність 9% і 1% відповідно.

Різниця між двома групами була найбільшою при розгляді ризиків, пов’язаних з ШІ:

• У середньому суперпрогнозисти вважають, що ймовірність катастрофи, спричиненої ШІ, становить 2,1%, а вимирання — 0,38% до кінця століття.
• Експерти з ШІ, навпаки, оцінювали ці дві події у 12% і 3% відповідно.