Маск, Возняк та ще понад 1000 експертів закликали призупинити розвиток ШІ. Чому?

Ілон Маск та понад 1000 експертів підписали спільного листа із закликом зробити принаймні піврічну павзу в розробці просунутого ШІ. Про це повідомляє агентство Reuters.

Що сталося

Ілон Маск, Стів Возняк, Юваль Ной Харарі, Кріс Ларсен та ще понад 1000 експертів, підприємців та топменеджерів підписали відкритого листа, який опублікував Інститут майбутнього життя (Future of Life Institute). Це некомерційна організація, яка працює в напрямку зменшенням глобальних катастрофічних та екзистенціальних ризиків, з якими стикається людство.

В листі підписанти закликають принаймні на шість місяців призупинити розробку систем, потужніших за GPT-4 від OpenAI. Зробити це просять, щоб дати можливість створити загальні протоколи безпеки таких проєктів, інтегрувати їх та провести перевірку за участі незалежних експертів. У листі також міститься заклик до урядів втрутитися і ввести мораторій, у разі якщо не вдасться швидко поставити розробку на паузу.

Які аргументи в підписантів

Свою позицію підписанти аргументують тим, що потужні системи ШІ слід розробляти лише тоді, «коли ми будемо впевнені, що їхні наслідки будуть позитивними, а ризики — керованими». Вони вказують на потенційні ризики для людства й суспільства. Серед них — розповсюдження дезінформації та широка автоматизація робочих місць.

Що буде далі

Наразі листа підписали 1125 людей. Проте не зрозуміло, чи матиме він результат, окрім численних публікацій в медіа. Як помітили в AIN.UA, 2015-го Ілон Маск, Стівен Гокінг та ще понад тисячу дослідників підписали лист із пропозицію стосовно заборони використання ШІ у війнах. Це не зупинило розробку.