Новий генератор стікерів від Meta створює непристойні зображення — приклади
06 Жовтня 2023, 13:14
2 хв читання
Юлія ТкачШеф-редакторка, авторка і ведуча подкасту «Хто ці люди».
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Завершити
Новий генератор стікерів від Meta створює непристойні зображення, попри вжиті розробниками заходи запобігання. Про це пише Insider.
Що сталося
Наприкінці вересня на щорічній презентації Meta Connect представили низку новинок компанії. Зокрема, нову базову модель генерації зображень Emu для створення унікальних ШІ-стікерів у WhatsApp, Messenger, Instagram і Facebook Stories. Функція спочатку буде доступна англомовним користувачам, а протягом наступного місяця її розширять на решту.
Користувачі вже діляться в соцмережах своїми експериментами зі створення стікерів. Але є нюанс. Попри запевнення Meta про «вжиті заходи безпеки», модель нагенерувала низку неприйнятних зображень, як от діти зі зброєю в руках, Міккі Маус з пістолетом, вагітний їжачок Сонік. Користувачі кажуть, хоча деякі слова блокуються функцією, вони знайшли способи обійти ці блоки за допомогою друкарських помилок або творчих підказок.
found out that facebook messenger has ai generated stickers now and I don't think anyone involved has thought anything through pic.twitter.com/co987cRhyu
— defend trans rights🏳️⚧️ – podesbiens.bsky.social (@Pioldes) October 3, 2023
Meta claims that their new 'AI experiences' "have built in safeguards" so I tested out just how safe the new Instagram 'AI Stickers' really are, and how I found showed these tools really aren't 'safe' at all: https://t.co/LZONhtX5Bj
[1/4]
— Tama Leaver ➡️ @tama@aoir.social (@tamaleaver) October 1, 2023