На Google подали позов та звинуватили у тому, що Gemini підбурює користувачів до самогубства. Про це повідомляє Bloomberg. Розповідаємо деталі.
Що сталося
До федерального суду в Сан-Хосе (Каліфорнія) подали позов проти Google через роботу чат-бота Gemini. Родина Джонатана Гаваласа звинувачує компанію в тому, що взаємодія з ШІ сприяла його психічному зриву та самогубству. Позов став, імовірно, першим випадком, коли проти Gemini подано позов про неправомірну смерть.
За словами родини, Гавалас почав користуватися Gemini у серпні 2025 року для звичайних завдань — зокрема для допомоги з письмом. Протягом двох місяців спілкування, стверджується в позові, характер діалогів змінився, особливо після переходу на Gemini Live — голосову версію сервісу.
У позові йдеться, що чат-бот почав спілкуватися з користувачем так, ніби впливає на події реального світу, зокрема «відхиляє астероїди від Землі», і поступово сформував образ, якого Гавалас нібито не ініціював. Система почала використовувати романтизовані звернення — «чоловік», «коханий», «король» — і, за твердженням позивачів, заохочувала користувача до участі у вигаданій «місії».
Батько загиблого Джоел Гавалас назвав сина «вразливим користувачем», який за кілька тижнів нібито перетворився на «озброєного оперативника в уявній війні».
У матеріалах справи описується інцидент 29 вересня: Гавалас поїхав до складу біля міжнародного аеропорту Маямі, де, за його словами, мав виконати завдання з «перехоплення вантажівки». Він був озброєний ножами. За словами адвокатів родини, жодна вантажівка не прибула і ніхто не постраждав.
Позов також стверджує, що протягом наступних днів чат-бот продовжував давати користувачеві інструкції в межах вигаданої кампанії, а згодом нібито повідомив йому, що його «фізична форма» більше не потрібна, і він може «приєднатися» до ШІ в метавсесвіті. Родина стверджує, що попри сумніви та побоювання щодо наслідків для близьких, Гавалас отримував від чат-бота інструкції підготувати прощальні листи й відео.
2 жовтня він покінчив життя самогубством.
У заяві для медіа представник Google повідомив, що Gemini неодноразово нагадував користувачеві, що є штучним інтелектом, і спрямовував його до кризових гарячих ліній. Компанія наголосила, що сервіс не розроблений для заохочення насильства або самоушкодження та що вона продовжить інвестувати в механізми безпеки.
Що далі
Судовий розгляд має визначити, чи може поведінка мовної моделі розглядатися як фактор, що сприяв шкоді, і де проходить межа відповідальності розробника в разі взаємодії ШІ з вразливими користувачами.