НОВИНИ

Чи є ШІ екзистенційною загрозою для людства — думка прогнозистів

12 Липня 2023, 17:09
3 хв читання
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Юлія Ткач Керую відділом новин, популяризую підприємництво, надихаю конкурентів та вірю в український бізнес.
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Дослідники спробували розібратися, чи справді ШІ є екзистенційним ризиком для людства. Про це йдеться в матеріалі The Economist. Розповідаємо, що в них вийшло.

Що сталося

Сьогодні занепокоєння «екзистенційними ризиками» — тими, що становлять загрозу людству як виду, а не окремим індивідам, — не обмежується лише військовими та вченими. Ядерна війна, пандемії, астероїдні удари та багато іншого — усе це може знищити більшу частину або все людство. Наразі найхайповішою загрозою нашому виду вважають ШІ,

У травні група фахівців підписала відкритого листа з ініціативою «пом’якшення ризику вимирання через ШІ має стати глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна». Серед підписантів — CEO OpenAI Сем Альтман, Білл Гейтс та інші. До слова, це не той лист, якого підписали Ілон Маск, Стів Возняк, Юваль Ной Харарі, Кріс Ларсен та ще понад 1000 експертів, підприємців та топменеджерів.

10 липня група дослідників опублікувала документ, в якому намагалися пролити світло на питання, чи раціонально непокоїтися через ШІ. Вони опитали дві групи різних експертів: 

  • експертів з питань ядерної війни, біологічної зброї, ШІ і вимирання як такого;
  • суперпрогнозистів, які мають перевірений досвід точних прогнозів на різні теми (від результатів виборів до початку воєн).

Загалом залучили 89 суперпрогнозистів, 65 доменних експертів і 15 фахівців з ризику вимирання загалом. 

Що вивчали

Учасникам запропонували розглянути два різних типи катастроф:

  • Катастрофа — щось, що вбило 10% людей у світі, або близько 800 млн людей. Для порівняння, Друга світова війна, за оцінками, забрала життя близько 3% населення світу, яке на той час становило 2 млрд.
  • Вимирання — подія, що знищила всіх, за винятком, можливо, максимум 5000 щасливчиків.

Дві групи попросили дати прогнози щодо ймовірності різних подій. Зокрема, й спричиненого ШІ-вимирання та ядерної війни. Також, наприклад, чи може відбутися тривожний прогрес у здібностях ШІ, що спричинить майбутню катастрофу.

Що з’ясували

Доменні експерти підрахували, що ймовірність катастрофи до 2100 року становить близько 20%, а вимирання — 6%. Суперпрогнозисти дали цим подіям ймовірність 9% і 1% відповідно.

Різниця між двома групами була найбільшою при розгляді ризиків, пов’язаних з ШІ:

  • У середньому суперпрогнозисти вважають, що ймовірність катастрофи, спричиненої ШІ, становить 2,1%, а вимирання — 0,38% до кінця століття.
  • Експерти з ШІ, навпаки, оцінювали ці дві події у 12% і 3% відповідно. 

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

ЧИТАЙТЕ ТАКОЖ
Досвід і думки
Авто Apple, Defence Builder та «Ріплі». Що читати та дивитися на вихідних
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
06 Квітня 2024, 13:00 5 хв читання
Досвід і думки
Створення ШІ-асистента, технократія та віагра. Що читати та дивитися на вихідних
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
30 Березня 2024, 13:12 4 хв читання
Досвід і думки
Вибір шеф-редактора. Що читати та дивитися на вихідних?
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
16 Березня 2024, 13:00 5 хв читання
Досвід і думки Онколог-маркетолог. Як я пройшла ШІ-тест від Держслужби зайнятості
Онколог-маркетолог. Як я пройшла ШІ-тест від Держслужби зайнятості (оновлено)
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
13 Листопада 2022, 11:30 5 хв читання
Завантаження...