OpenAI та Anthropic запускають системи прогнозування віку для підлітків. Про це повідомляє The Verge. Розповідаємо деталі.
Що сталося
Компанії OpenAI та Anthropic оголосили про нові підходи до виявлення неповнолітніх користувачів і посилення захисту для підлітків. OpenAI оновила модельну специфікацію ChatGPT, додавши принципи взаємодії з користувачами віком 13–17 років. Вони передбачають пріоритет безпеки, чіткі межі спілкування та заохочення до офлайн-підтримки в чутливих ситуаціях.
Паралельно компанія запускає систему прогнозування віку: якщо модель припускає, що користувачу менше 18 років, до нього застосовуватимуться підліткові обмеження.
Anthropic, яка формально забороняє використання Claude для осіб до 18 років, розробляє систему виявлення розмовних ознак неповнолітніх і блокує відповідні акаунти. Компанія також змінила навчання моделей, щоб зменшити підлабузницьку поведінку та підвищити безпеку під час ризикованих запитів.
Чому це цікаво
Нагадаємо, у серпні 2025 року батьки 16-річного Адама Рейна подали до суду на OpenAI та Сема Альтмана, звинувативши компанію в причетності до смерті свого сина, який місяцями обговорював із ChatGPT план самогубства.
За даними The New York Times, підліток користувався платною версією ChatGPT-4o. Модель часто рекомендувала йому звернутися за допомогою до фахівців чи зателефонувати на гарячі лінії, однак Рейн обійшов обмеження, пояснюючи, що збирає інформацію для вигаданої історії.
У відповіді на позов OpenAI попросила суд скасувати справу і заявила, що не несе відповідальності за трагедію. Компанія повідомила, що близько 0,15% активних користувачів ChatGPT ведуть розмови з ознаками суїцидальних намірів. З понад 800 млн активних користувачів на тиждень це понад 1 млн людей. Ще сотні тисяч демонструють ознаки емоційної залежності від ChatGPT чи мають психотичні стани.
Сем Альтман заявив, що багато молодих людей занадто покладаються на ChatGPT для ухвалення рішень, і назвав це емоційною залежністю, яка викликає в нього занепокоєння.