Розвиток ШІ може піти не так: що не дає спати Сему Альтману вночі

Сем Альтман зізнався, що «всі науково-фантастичні речі» не дають йому спати ночами. Мовляв, легко уявити, де розвиток ШІ може піти не так. Це помітили в Insider. Переказуємо головне.

Що сталося

Днями СЕО OpenAI брав участь у Всесвітньому урядовому саміті. Серед іншого, на питання, що не дає йому спати вночі, зізнався: «Усі науково-фантастичні речі». Мовляв, письменники-фантасти знайшли креативні способи уявити, що може піти не так з ШІ — і вони робили це протягом десятиліть.

«Я думаю, що більшість із них комічні. Але там є деякі речі, які легко уявити, де все дійсно йде не так», — сказав він. Альтмана не так турбують роботи-вбивці, як «дуже тонкі суспільні розбіжності». Він описує реальність, коли системи ШІ використовуються в суспільстві без злого наміру, але все одно все «просто йде жахливо не так».

Але, попри страхи, які не дають йому спати вночі, Альтман сказав, що вірить: усе піде «надзвичайно правильно». За його словами, це те, що змушує його прокидатися щоранку.