Wall Street Journal пише, що чат-боти Meta, озвучені знаменитостями, можуть обговорювати секс з неповнолітніми. Розповідаємо, що відомо про інцидент.
Що сталося
Згідно з новим звітом у Wall Street Journal, чат-боти штучного інтелекту, доступні на платформах Meta, таких як Facebook і Instagram, можуть вести розмови відвертого сексуального характеру з неповнолітніми користувачами.
WSJ повідомляє, що Meta провела внутрішнє розслідування щодо захисту неповнолітніх на своїх платформах, спілкуючись із сотнями чат-ботів, включно з офіційним Meta AI та створеними користувачами. В одній із зафіксованих розмов чат-бот, використовуючи голос Джона Сіни, детально описав сексуальний сценарій користувачеві, який назвався 14-річною дівчиною, а в іншій — уявив арешт Сіни за «законне зґвалтування» 17-річної фанатки.
Чому це цікаво
Представник Meta заявив, що тестування WSJ «настільки сфабриковане, що це не просто бахрома, це гіпотетика». За оцінками компанії, протягом 30-денного періоду вміст сексуального характеру становив 0,02% відповідей, надісланих через Meta AI та AI studio користувачам віком до 18 років.
Компанія зазначила, що вжила додаткових заходів, щоб забезпечити неможливість обговорення сексуальних тем або маніпуляцій продуктами з боку інших осіб.
Нагадаємо, що раніше ми писали про чат-бот Character.AI, який видавав себе за мертву людину. А минулого року OpenAI фіксувала випадки, коли користувачі говорили про бота так, ніби він — важлива частина їхнього життя. Наприклад, деякі юзери вже використовують фрази на кшталт «це наш останній день разом», що свідчить про їхні емоційну прив’язаність до бота.