Вероятно, что чат-боты Meta, озвученные знаменитостями, обсуждают секс с несовершеннолетними

Wall Street Journal пишет , что чат-боты Meta, озвученные знаменитостями, могут обсуждать секс с несовершеннолетними.

Что произошло

Согласно новому отчету в Wall Street Journal, чат-боты искусственного интеллекта, доступные на платформах Meta, таких как Facebook и Instagram , могут вести разговоры откровенного сексуального характера с несовершеннолетними пользователями.

WSJ сообщает, что Meta провела внутреннее расследование защиты несовершеннолетних на своих платформах, общаясь с сотнями чат-ботов, включая официальный Meta AI и созданных пользователей. В одном из зафиксированных разговоров чат-бот, используя голос Джона Сины, подробно описал сексуальный сценарий пользователю, который представился 14-летней девушкой, а в другой — представил арест Сины за «законное изнасилование» 17-летней фанатки.

Почему это интересно

Представитель Meta заявил, что тестирование WSJ «столь сфабриковано, что это не просто бахрома, это гипотетика». По оценкам компании, в течение 30-дневного периода содержание сексуального характера составляло 0,02% ответов, отправленных через Meta AI и AI studio пользователям в возрасте до 18 лет.

Компания отметила, что приняла дополнительные меры, чтобы обеспечить невозможность обсуждения сексуальных тем или манипуляций продуктами со стороны других лиц.

Напомним, что ранее мы писали о чат-боте Character.AI, который выдавал себя за мертвого человека. А в прошлом году OpenAI фиксировала случаи, когда пользователи говорили о ботах так, будто он — важная часть их жизни .