ChatGPT і Claude почнуть автоматично виявляти неповнолітніх користувачів
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
OpenAI та Anthropic запускають системи прогнозування віку для підлітків. Про це повідомляє The Verge. Розповідаємо деталі.
Що сталося
Компанії OpenAI та Anthropic оголосили про нові підходи до виявлення неповнолітніх користувачів і посилення захисту для підлітків. OpenAI оновила модельну специфікацію ChatGPT, додавши принципи взаємодії з користувачами віком 13–17 років. Вони передбачають пріоритет безпеки, чіткі межі спілкування та заохочення до офлайн-підтримки в чутливих ситуаціях.
Паралельно компанія запускає систему прогнозування віку: якщо модель припускає, що користувачу менше 18 років, до нього застосовуватимуться підліткові обмеження.
Anthropic, яка формально забороняє використання Claude для осіб до 18 років, розробляє систему виявлення розмовних ознак неповнолітніх і блокує відповідні акаунти. Компанія також змінила навчання моделей, щоб зменшити підлабузницьку поведінку та підвищити безпеку під час ризикованих запитів.
Чому це цікаво
Нагадаємо, у серпні 2025 року батьки 16-річного Адама Рейна подали до суду на OpenAI та Сема Альтмана, звинувативши компанію в причетності до смерті свого сина, який місяцями обговорював із ChatGPT план самогубства.
За даними The New York Times, підліток користувався платною версією ChatGPT-4o. Модель часто рекомендувала йому звернутися за допомогою до фахівців чи зателефонувати на гарячі лінії, однак Рейн обійшов обмеження, пояснюючи, що збирає інформацію для вигаданої історії.
У відповіді на позов OpenAI попросила суд скасувати справу і заявила, що не несе відповідальності за трагедію. Компанія повідомила, що близько 0,15% активних користувачів ChatGPT ведуть розмови з ознаками суїцидальних намірів. З понад 800 млн активних користувачів на тиждень це понад 1 млн людей. Ще сотні тисяч демонструють ознаки емоційної залежності від ChatGPT чи мають психотичні стани.
Сем Альтман заявив, що багато молодих людей занадто покладаються на ChatGPT для ухвалення рішень, і назвав це емоційною залежністю, яка викликає в нього занепокоєння.
Більше про це
Користувачі скаржаться на зайві запитання від ChatGPT — що сталося
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
