Мільярдер Ілон Маск сказав, що попри ризики ШІ для людства, все одно існує позитивний сценарій. Про це пише Insider. Розповідаємо деталі.
Що сталося
Нещодавно Ілон Маск виступав на семінарі «Великі дебати про ШІ» на чотириденному саміті Abundance. Серед іншого, він говорив про оцінку ризиків, пов’язаних з технологією ШІ. «Я думаю, є певна ймовірність того, що вона покладе край людству. Я, напевно, згоден з Джеффом Хінтоном, що це близько 10% або 20% або щось подібне. Я думаю, що ймовірний позитивний сценарій переважає негативний», — сказав Маск.
Але він не уточнив, як проводив свої розрахунки. Роман Ямпольський, дослідник безпеки ШІ і директор Лабораторії кібербезпеки в Університеті Луїсвілля, сказав Insider, що Маск має рацію, кажучи, що ШІ може бути екзистенційним ризиком для людства. Ба більше, науковець вважає, що мільярдер навіть применшує ризики.
«На мою думку, реальна загроза набагато вища», — сказав Ямпольський, маючи на увазі p(doom), «ймовірність загибелі» або ймовірність того, що ШІ візьме під контроль людство, створить нову біологічну зброю, чи спричинить крах суспільства через масштабну кібератаку або ядерну війну.
Чому це цікаво
Термін p(doom) офіційно розшифровується як «ймовірність загибелі», і, як випливає з назви, це означає ймовірність того, що ШІ спричинить сценарій судного дня. Термін виник як напівсерйозний жарт на технічних дошках оголошень, щоб описати ймовірність того, що ШІ знищить людство.
Газета New York Times назвала p(doom) «хворобливою новою статистикою, яка охоплює Кремнієву долину», а різні керівники технологічних компаній, на яких посилається видання, оцінюють ймовірність апокаліпсиса, спричиненого ШІ, від 5 до 50%.
Ямпольський оцінює ризик «на рівні 99,999999%». За його словами, оскільки просунутий ШІ неможливо буде контролювати, наша єдина надія — ніколи не створювати його у першу чергу.