Ймовірно, що чат-боти Meta, озвучені знаменитостями, обговорюють секс з неповнолітніми

Що сталося

Згідно з новим звітом у Wall Street Journal, чат-боти штучного інтелекту, доступні на платформах Meta, таких як Facebook і Instagram, можуть вести розмови відвертого сексуального характеру з неповнолітніми користувачами.

WSJ повідомляє, що Meta провела внутрішнє розслідування щодо захисту неповнолітніх на своїх платформах, спілкуючись із сотнями чат-ботів, включно з офіційним Meta AI та створеними користувачами. В одній із зафіксованих розмов чат-бот, використовуючи голос Джона Сіни, детально описав сексуальний сценарій користувачеві, який назвався 14-річною дівчиною, а в іншій — уявив арешт Сіни за «законне зґвалтування» 17-річної фанатки.

Чому це цікаво

Представник Meta заявив, що тестування WSJ «настільки сфабриковане, що це не просто бахрома, це гіпотетика». За оцінками компанії, протягом 30-денного періоду вміст сексуального характеру становив 0,02% відповідей, надісланих через Meta AI та AI studio користувачам віком до 18 років.

Компанія зазначила, що вжила додаткових заходів, щоб забезпечити неможливість обговорення сексуальних тем або маніпуляцій продуктами з боку інших осіб.

Нагадаємо, що раніше ми писали про чат-бот Character.AI, який видавав себе за мертву людину. А минулого року OpenAI фіксувала випадки, коли користувачі говорили про бота так, ніби він — важлива частина їхнього життя. Наприклад, деякі юзери вже використовують фрази на кшталт «це наш останній день разом», що свідчить про їхні емоційну прив’язаність до бота.

Більше про це

01 НОВИНИ

Людство у безпеці (поки що): у Пекіні пройшов забіг роботів — більшість зійшла з дистанції через перегрів

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Далі

Завершити

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter