96% дипфейков — не с политиками. Их используют в порно
Исследование стартапа Deeptrace показало, что 96% всех дипфейков используют в порно. На это обратило внимание издание Wired.
Что случилось
Первые дипфейки появились в ноябре 2017 года на Reddit. Это были порнографические ролики, на которых лица актеров заменили на голливудских знаменитостей. Одной из первых жертв технологии стала актриса Галь Гадот.
Спустя два года дипфейки превратились в массовое явление. Власти многих стран забеспокоились, что эту технологию можно использовать в политических целях.
Но похоже, беспокоиться об этом рано. В сети можно найти поддельные видео с Дональдом Трампом и Бараком Обамой, но основная сфера применения дипфейков — порно.
В июне-июле этого года стартап Deeptrace провел исследование и обнаружил в сети более 15 000 видео дипфейков. Это почти в два раза больше, чем было семь месяцев назад. При этом около 96% дипфейков оказались порнографическими.
Во всех порнороликах с дипфейками, которые нашли Deeptrace, меняли именно женские лица. Такие видео с известными актрисами получают миллионы просмотров.
В докладе Deeptrace говорится о целой экосистеме сайтов и форумов, где люди делятся, обсуждают и вместе создают порнографические дипфейк-видео с лицами знакомых женщин или бывших девушек.
Как с этим борются
Профессор права Бостонского Университета Даниэль Ситрон называет дипфейки, которые создали без разрешения человека, нарушением сексуальной неприкосновенности. Она считает, что популярность порнографических дипфейков возвращает нас к важному уроку истории технологий: «На каждом этапе мы видим, что люди используют готовые решения, чтобы мучить женщин. Дипфейки — тому доказательство».
Ситрон продвигала законы, которые запрещают публично распространять порноконтент для мести бывшим партнерам — они действуют уже в 46 штатах. Сейчас она участвует в обмуждении нового федерального законодательства, которое вводит наказание за злонамеренное распространение дипфейков.
Бороться с дипфейками сложнее, чем кажется. В июне в Малайзии арестовали помощника политика после того, как всплыло видео, где он якобы занимается сексом с министром экономики (гей-секс в Малайзии запрещен). Премьер-министр заявил, что запись — фальшивка, но независимые эксперты не смогли это определить.
Deeptrace проводила исследование, используя сразу несколько методов: ручной поиск, веб-скрапинг, а также анализ данных известных дипфейков с популярных порносайтов, видеосервисов вроде YouTubе, тематических ресурсов и форумов.
У этой методики есть свои недостатки: она не учитывает дипфейки, которые успешно выдают за реальные видео и не охватывает все источники. Но директор по вопросам политики OpenAI Джек Кларк называет отчет Deeptrace хорошей попыткой собрать эмпирические данные о дипфейках, которых очень не хватает.