Уповільнення ШІ: Альтман, Маск і Амодей закликають до безпеки
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Гонка за дедалі потужнішими моделями ШІ набирає обертів, але разом із розвитком технології зростають і побоювання щодо її безпеки. Керівники OpenAI, Anthropic та xAI публічно заговорили про необхідність сповільнити розробку передових систем і приділити більше уваги ризикам, які вони можуть створювати. Софі Вілсон у матеріалі для CX Today розповідає, чому Сем Альтман, Ілон Маск і Даріо Амодей закликають переглянути темпи розвитку ШІ та що саме вони пропонують змінити.
Матеріал українською мовою підготувало Бюро перекладів для бізнесу MK:translations. Ми публікуємо адаптований та скорочений переклад.
Керівники трьох найбільших суперників на ринку штучного інтелекту раптом знайшли спільну мову: варто пригальмувати. Генеральний директор Anthropic Даріо Амодей закликав галузь «тримати темп фронтиру», а Сем Альтман з OpenAI та Ілон Маск з xAI підтримали ідею скоординованого підходу. Але запропоноване уповільнення ШІ вже провокує те саме запитання, яке керівники бізнесу мають ставити щоразу, коли Кремнієва долина раптом відкриває для себе обережність: це щира турбота про безпеку, стратегічний перезапуск чи трохи з колонки А і трохи з колонки Б?
Пропозиція Амодея — це не повна зупинка розвитку ШІ. Вона закликає сповільнити темп зростання можливостей моделей достатньо, щоб практики безпеки встигали наздоганяти технології, — і починається все зі впровадження незалежних оцінювачів безпосередньо у провідних лабораторіях. За словами Anthropic, ці перевіряльники матимуть доступ до робочого простору і внутрішніх інструментів, а також право публікувати ключові висновки без редакційного контролю компанії — пропозиція помітно конкретніша за звичне пресрелізне конфеті на тему «довіртеся нам, у нас є принципи».
Що Anthropic має на увазі під «утриманням темпу фронтиру»?
Anthropic не пропонує повну зупинку розвитку ШІ. Амодей стверджує, що компаніям слід сповільнити темп, з яким зростають можливості моделей, щоб тестування безпеки, робота над узгодженістю (alignment) і зовнішній контроль встигали за технологіями.
У своєму есеї «Ми мусимо тримати темп фронтиру» Амодей викладає рамку з трьох частин: вбудовані оцінювачі, координація між демократичними країнами і, згодом, глобальна координація. Цей план намагається перетворити загальний принцип безпеки на більш практичну операційну модель.
Найконкретніший елемент пропозиції — вбудовані незалежні оцінювачі. Anthropic каже, що планує запросити зовнішню команду перевірки, яка отримає робочі місця, пропуски, ноутбуки й доступ до внутрішніх інструментів, приблизно на рівні доступу власних команд компанії з оцінки ризиків. Перевіряльники також матимуть право публікувати ключові висновки без редакційного контролю Anthropic — за винятком чітко визначених обмежень щодо чутливої інформації.
Амодей, генеральний директор Anthropic, написав:
«Утримання темпу не означає зупинку тренування моделей чи технічного прогресу — воно означає, що компанії матимуть достатньо часу, щоб узгодити й захистити свої моделі, а незалежні оцінювачі зможуть це підтвердити».
Постачальники рішень на основі ШІ часто публікують принципи та добровільні зобов’язання. Незалежні оцінювачі зі змістовним доступом могли б перевірити, чи відповідають практики безпеки компанії її публічним заявам. Але пропозиція все одно залежить від якості цього доступу, незалежності самих оцінювачів і того, наскільки детально вони можуть розповідати про свої висновки.
Чому Альтман і Маск підтримують цю ідею?
Генеральний директор OpenAI Сем Альтман і засновник xAI Ілон Маск обидва підтримали пропозицію Амодея. Ця підтримка відображає зростаючу стурбованість передовими системами ШІ — особливо автономними агентами, які здатні знаходити вразливості, виконувати багатоетапні завдання і потенційно використовуватися у складніших кіберопераціях.
Амодей уже посилався на випадки, пов’язані з ШІ-агентами й кібербезпекою, як на доказ того, що більш просунуті системи можуть найближчим часом створювати ризики, з якими наявні механізми захисту просто не розраховані впоратися.
Цей союз примітний тим, що йдеться про прямих конкурентів. Гонка ШІ навряд чи славиться тихою співпрацею й дружніми обіймами. Але ризики — і ціна того, що станеться, якщо їх не опанувати, — можливо, стають надто великими, щоб їх ігнорувати.
Чи може глобальна пауза в розвитку ШІ реально спрацювати?
Глобальна пауза у сфері безпеки ШІ потребує набагато більшого, ніж згода кількох керівників американських компаній.
Джейкоб Коксон, колишній дослідник Anthropic, який також працював в OpenAI, розповів BBC, що змістовне уповільнення обов’язково має стосуватися і Китаю. Інакше пауза серед американських компаній просто перенесе конкуренцію в іншу географію.
За словами Коксона, працівники сфери ШІ «щиро стурбовані долею людства в найближчі два роки».
Він описав співробітників, які почуваються в’язнями високоризикової гонки й водночас переймаються можливими наслідками технології, яку самі створюють.
Це, звісно, не закриває дискусію автоматично. Але це ставить під сумнів ліниве припущення, що будь-яке попередження, яке лунає з нутра ШІ-лабораторії, — це просто піар-театр.
Чи справді лідери ШІ попереджають про реальні ризики?
Аргументи на користь паузи в розвитку ШІ пов’язані зі стурбованістю щодо автономних кіберможливостей, втрати контролю і того, що системи ШІ можуть діяти непередбачуваним чином.
Тристан Гарріс, співзасновник Center for Humane Technology, у характерній для себе яскравій манері передав масштаб цієї стурбованості. У нещодавньому інтерв’ю CNN він описав людей, які формують передовий ШІ, як «інвазивний вид соціопатичних геніїв».
Яскраво сформульовано? Безсумнівно. Але суть аргументу Гарріса значно тверезіша: надзвичайно вузьке коло компаній і людей ухвалює доленосні рішення щодо систем, які можуть переформатувати економіку, безпеку і суспільну довіру.
Чи відволікає риторика про безпеку ШІ від сьогоднішньої шкоди?
Критики вважають, що дискусія стала надто зосередженою на майбутній катастрофі — і недостатньо на шкоді, яка відбувається вже зараз.
Каролис Кацюліс, провідний системний інженер кібербезпекової компанії Surfshark, називає останні попередження про загрозу ШІ людству «маркетинговим ходом», який може відволікати від проблем, що вже трапляються насправді.
«Сама загроза — вигадана, ближча до сценарію фантастики в стилі Скайнета, ніж до проблем, які генеративний ШІ вже створює сьогодні: від автоматизованих шахрайських схем до залякування».
Його аргумент не в тому, що дослідження безпеки ШІ безглузді. Радше йдеться про те, що бізнесу й регуляторам не варто настільки фокусуватися на можливій майбутній катастрофі, щоб проґавити нагальні ризики, пов’язані з шахрайством, приватністю, безпекою і дезінформацією.
Що уповільнення ШІ означає для CX-лідерів?
Для CX-лідерів CX — customer experience дискусія про уповільнення ШІ не повинна виглядати як далека сутичка мільярдерів-технологів із дослідниками, що пророкують кінець світу.
ШІ, який працює безпосередньо з клієнтами, уже підсумовує дзвінки, допомагає операторам, аналізує тональність спілкування і безпосередньо відповідає клієнтам. Це створює цілком конкретні обов’язки — щодо обробки даних у промптах, автентифікації, можливості аудиту, передачі складних випадків людині та запобігання шахрайству.
Бізнесу варто запитати себе: чи розуміють співробітники, які дані вони вводять у чатботи; чи можуть постачальники отримувати доступ до цієї інформації або зберігати її; і чи здатні їхні механізми протидії шахрайству розпізнавати спроби видавати себе за когось іншого за допомогою ШІ.
Головний висновок: безпека ШІ має захищати клієнтів уже зараз, а не лише людство колись у майбутньому
Заклик Anthropic тримати темп передового ШІ пропонує значно детальнішу модель, ніж звичні для галузі заяви про принципи. Вбудовані незалежні оцінювачі можуть стати справді значущим кроком — якщо компанії надаватимуть їм реальний доступ і дозволятимуть невигідним для себе висновкам виходити на світло.
Але для бізнесу справжня перевірка відбувається ближче до повсякденної реальності. Клієнти вже стикаються з обслуговуванням за участю ШІ, автоматизованими рішеннями і новими формами шахрайства. CX-лідерам не потрібно чекати глобального консенсусу щодо передового ШІ, щоб уже зараз вимагати сильнішого управління — і від постачальників, і від власних організацій.
Компанії, які заслужать тривалу довіру клієнтів, не обмежаться обіцянками відповідального ШІ. Вони показуватимуть, як саме захищають дані клієнтів, залучають людей до рішень із високими ставками, виявляють власні провали і діють, коли щось іде не так.
Що пропонує Anthropic щодо утримання темпу передового ШІ?
Генеральний директор Anthropic Даріо Амодей запропонував сповільнити темп зростання можливостей передового ШІ, щоб тестування безпеки, робота над узгодженістю моделей і незалежна оцінка встигали за технологіями. Пропозиція включає вбудованих зовнішніх оцінювачів, координацію між демократичними країнами і, у довшій перспективі, глобальну координацію.
Чому безпека ШІ важлива для команд, які працюють із клієнтським досвідом?
ШІ вже підтримує клієнтський сервіс, допомагає операторам, підсумовує взаємодії та бере участь у спілкуванні з клієнтами. Командам CX потрібні механізми контролю щодо даних клієнтів, неточних результатів роботи ШІ, шахрайства, передачі складних випадків людині та відповідальності — незалежно від того, як розвиватиметься ширша політична дискусія щодо передового ШІ.
Що бізнесу варто запитати в постачальників ШІ щодо управління?
Бізнесу варто запитати, як постачальник обробляє дані клієнтів; чи використовує ці дані для тренування моделей; яке незалежне тестування проводить; як звітує про інциденти; де саме застосовується людський нагляд; і які договірні засоби правового захисту передбачені, якщо система завдасть шкоди.
Чи можуть незалежні оцінювачі ШІ зробити його безпечнішим?
Незалежні оцінювачі можуть підвищити рівень відповідальності, якщо мають змістовний доступ до систем, процесів та інформації про інциденти, а також можливість повідомляти про висновки без редакційного контролю з боку постачальника. Їхня цінність залежить від обсягу доступу та прозорості звітування.
Чи варто командам CX призупинити впровадження ШІ через ризики передового ШІ?
Командам CX не варто розглядати повну паузу як стратегію управління ризиками. Натомість варто оцінювати кожен випадок використання окремо, обмежувати доступ до чутливих даних, підтримувати шляхи передачі складних випадків людині, тестувати робочі процеси, що взаємодіють із клієнтами, і вимагати від постачальників чітких доказів наявності контролю та відповідальності.
Більше про це
«Це смішно»: світові експерти з ШІ ставлять під сумнів маніфест Цукерберга про «ШІ для всіх»
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
