«Фруктове насильство» заполонило TikTok та Instagram: дослідники попереджають про небезпеку AI-відео
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Дослідники попереджають, що популярні відео з ШІ-фруктами дедалі частіше містять приховане жорстоке та екстремістське насильство. Про це пише Futurism.
Що сталося
На теренах інтернету, зокрема на платформах TikTok та Instagram значної популярності набули короткі низькоякісні ШІ-відео. Мова йдеться про так званий fruitslop — безглузді та кумедні історії фруктів та овочів, які закохуються, дружать чи втрачають роботу. Діти, які багато часу проводять в екранах, масово дивилися ці відео.
Дослідники з організації GNET, яка вивчає екстремізм та технології, детально проаналізували цей тренд і виявили тривожні речі. Останнім часом такі ролики дедалі частіше перетворюються на «фруктове насильство», де персонажів-фруктів жорстоко катують, розрізають та нівечать. Ба більше, частина персонажів у цих відео мають ознаки приналежності до реальних небезпечних груп — наркокартелів, ультраправих угруповань або прихильників крайнього нігілізму.
Дослідники попереджають, що це може стати пасткою: дитина звикає до жорстоких кадрів, і алгоритми соцмереж починають пропонувати їй дедалі страшніший контент, що врешті-решт може призвести до реальної радикалізації. Спеціальні ботоферми штампують ці відео мільйонами. Оскільки у дітей ще слабко розвинена медіаграмотність, вони легко піддаються впливу таких алгоритмів, які можуть поширювати расизм, шахрайство чи будь-які інші шкідливі ідеї.
Чому це цікаво
Наразі дослідження GNET є досить поверхневим та немає науково підтверджених академічних доказів того, що ці відео дійсно штовхають дітей до реального насильства. Ба більше, дослідники у своєму звіті випадково послалися на текст, який сам був згенерований ШІ.
Саму організацію GNET фінансують великі технологічні компанії, через що її іноді звинувачують у спробах просувати цифрове обмеження свободи слова та цензуру.
Навіть якщо теорія про радикалізацію дітей поки не доведена наукою, неконтрольований потік безглуздого ШІ-контенту все одно є дуже небезпечним. Його без зусиль створюють у гігантських обсягах, і його можна з однаковою легкістю налаштувати як на показ безневинних історій, так і на пропаганду расизму, політичної брехні чи насильства серед найвразливішої аудиторії.
Більше про це
TikTok-креатори зможуть легально використовувати кадри з фільмів Disney
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
