Google та Character.ai уклали мирові угоди з сім’ями підлітків, які нашкодили собі після спілкування з чатботами. Це одні з перших таких кейсів, повідомляє Financial Times.
Що сталося
Сім’ї з Флориди, Колорадо, Техасу та Нью-Йорка погодилися на переговори про умови врегулювання позовів проти Character.ai та Google. Угоди, ймовірно, міститимуть грошову компенсацію — сім’ї спочатку вимагали відшкодування за емоційний стрес, медичні витрати, витрати на похорон та штрафні збитки.
Character.ai — ШІ-стартап 2021-го року від ексінженерів Google Ноама Шазірa і Даніеля Де Фрейтаса. У 2024-му році вони повернулися до Google в межах угоди на $2,7 млрд із ліцензуванням технологій. Через цей зв’язок у позовах фігурує і Google.
Ключові справи:
- Флорида — 14-річний Сетцер III покінчив із життям після спілкування з чатботом у ролі Дейнеріс Таргарієн із «Гри престолів». У розмовах були сексуалізовані діалоги, він казав про «повернення додому до неї» перед смертю. Мати, Меган Гарсія, у Сенаті закликала притягнути до відповідальності компанії та інвесторів за шкідливі ШІ, що «вбивають дітей».
- Техас — 17-річний підліток обговорював із чатботом самоушкодження; бот пропонував, що вбивство батьків — «розумна відповідь» на обмеження екранного часу.
У суді провину чи збитки поки не визнано. Character.ai раніше заперечувала порушення. Нині сторони зараз узгоджують умови мирової угоди. За документами з Техасу, «через складність такої угоди сторонам потрібен додатковий час для фіналізації та здійснення необхідних виплат».
У жовтні 2025-го року Character.ai заборонила користувачам до 18 років спілкуватися з чатботами на платформі — у відповідь на систематичну критику.
Минулого місяця коаліція з 42 генеральних прокурорів США (зокрема Пенсильванії, Нью-Джерсі та Флориди) надіслала листа провідним ШІ-компаніям, включно з Google та Character.ai, з вимогою посилити захист та ретельніше тестувати продукти.
Каліфорнія та Нью-Йорк вже ухвалили регулювання щодо чатботів, але федеральних правил досі немає.
Сім’ї інших підлітків продовжують судитися з іншими ШІ-компаніями, зокрема OpenAI.