Історії

«Дівчина-тіло-продаж». Ми поговорили з творцем діпфейк-бота про те, навіщо він «роздягає» людей

26 Жовтня 2020, 10:51
16 хв читання
Катерина Богуславська Технологічна журналістка-фрілансерка
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Знайти свої оголені фото в мережі — це завжди про когось іншого. Здається, з нами такого ніколи не трапиться. Однак є нюанс. Діпфейк-технології стають доступними для широкої маси. Ми писали про те, як програміст створив застосунок DeepNude. Програма використовує нейронні мережі та прибирає одяг із фотографій жінок за 30 секунд.

На застосунок надійшли скарги, його розкритикували в різних медіа. Користувачі бота «знімали» одяг із популярних блогерів-підлітків. Через добу після того, як про застосунок написали медіа, творець оголосив про його закриття. «Світ ще не готовий до DeepNude», — написав він у Twitter.

Проте застосунок завантажили 95 000 користувачів. На його основі створений Telegram-бот, який «роздягає» фотографії жінок. Про нього написали багато західних ЗМІ. Ми зв’язалися з автором бота й запитали про технологію, етику й використання акаунту. Він поговорив із нами на умовах анонімності. У тексті наводимо його пряму мову.

Дослідження Sensity

Компанія з виявлення діпфейків і шкідливого візуального контенту Sensity опублікувала розслідування «Deepfake-боти в Telegram». У ньому вона аналізує екосистему діпфейків, центром якої став Telegram-бот на основі ШІ. Він дає змогу користувачам із різною часткою реалістичності «роздягати» фотографії жінок. Коротко перелічимо основні висновки розслідування.

  • На кінець липня зображення приблизно 104 852 «роздягнених» жінок були розміщені в публічному доступі.
  • Згідно з опитуванням бота, 70% цих жінок — непублічні люди. 16% — селебриті, 8% — моделі та інфлюенсери з Instagram. Більшість жіночих фотографій були взяті із соцмереж або особистих матеріалів.
Deepfake-боти в Telegram
  • Деякі «роздягнені» зображення, зокрема неповнолітніх, були опубліковані на афілійованих із ботом каналах.
  • Бот і пов’язані з ним канали залучили приблизно 101 080 осіб з усього світу. 70% з них — із країн колишнього СРСР. Утім, дані про кількість користувачів уже неактуальні. Нині їх приблизно 97 000.
Deepfake-боти в Telegram
  • Бот отримав значну рекламу у «ВКонтакте». Загалом у цій соцмережі майже 380 сторінок із подібною активністю.
Deepfake-боти в Telegram


Оприлюднення розслідування викликало хвилю публікацій серед західних і російськомовних медіа. Так дослідження певною мірою переказують The Verge, The Wired, MIT Technology Review, Engadget тощо.

Як працює бот

Deepfake-боти в Telegram
Deepfake-боти в Telegram
Deepfake-боти в Telegram
Deepfake-боти в Telegram

Версія програмного забезпечення DeepNude стала основою для Telegram-бота, що «роздягає» фотографії жінок. Дослідження Sensity стверджує, що 19 липня 2019 року творці продали ліцензію DeepNude на онлайн-ринку анонімному покупцеві за $30 000.

Відтоді проведено зворотне розроблення цього програмного забезпечення. У розширених формах його можна знайти в публічних репозиторіях і на торентах. У Sensity вважають, що головне зло бота проти аналогів — не популярними інструментами він робить створення діпфейк-фотографій дуже легким. Зокрема, надає частково безплатний і простий користувацький інтерфейс на смартфонах і десктопі.

Щоб «роздягнути» зображення, користувачеві потрібно завантажити фото й отримати результат через кілька секунд. Отриманим зображенням людина може поділитися в чаті. Якщо діпфейк набирає лайки, фото надсилається в галерею. Нині всі зображення з галереї видалено.

На момент написання статті бот дав нам змогу безплатно «роздягнути» лише одну фотографію. Для більшої кількості доведеться заплатити. Також можна заробляти монети, запрошуючи за реферальним посиланням інших користувачів. Крім того, бот пропонує надсилати в чат «красиві та смішні обробки», щоб заробляти монети. MIT Technology Review назвало це «гейміфікацією харасменту».

Навколо бота існує певна екосистема каналів. Серед них канал із новинами ресурсу (66 529 передплатників), галерея (26 338), два чати (один неактивний, в іншому приблизно 938 передплатників), канал «Красуні» (3214 передплатників) і сам бот. У ньому доступні такі опції, як «Мій баланс», «Поради з обробки», «Заробіток із ботом» (через реферальне посилання).

Для експериментів із ботом ми спробували «роздягнути» відому політичну діячку. Вийшло, якщо чесно, не дуже. Нас не влаштували певні фрази від власника бота, які процитувало видання The Wired.

Ми вирішили написати йому напряму й самостійно з’ясувати, що він думає про етичність свого бота. Далі пряма мова творця DeepNude.

Про створення проєкту та технологію

Історія проста: я прочитав новину, подивився юзернейм (він був вільний), створив канал @deepnude. Побачив, що пішли перегляди, створив чат, і там почалося обговорення алгоритму. Люди з різних країн робили ботів. Багато хто хотів спробувати, але в них не було потужних комп’ютерів. Вирішив: якщо є зацікавлені, то треба створити свого бота. Так з’явився бот, а трафік — із каналу.

Мені не подобається акцент [у ЗМІ] на «Росія + Telegram + Педофілія + Пригнічення дівчат». Це пекельна суміш. Фактично цих ботів море, але чому ми? Ну і головне — це ж як Photoshop. Хіба творець несе відповідальність, якщо хтось там робитиме фото зі злим наміром?

Так, тут акцент на 18+. Тому бот закритий приватним посиланням (згідно з правилами месенджера), а не тому, що «росіяни створили мережу приватних ботів». Суть у тому, що в пошуку браузерів ми далеко не на перших місцях. Треба ще знайти саме нас. Так я доходжу висновку, що це акцентована атака в бік Росії й Telegram.

Припускаю, що в нас приємний інтерфейс, але є й інші сайти. Є навіть сайт, який вільно збирає донати й розміщений на GitHub. Вони займаються поліпшенням цього алгоритму. Є діпфейк-технологія, є застосунки у два кліки, які роблять це в не найкращій якості. Можна прикріпити будь-яке обличчя на будь-який фрагмент відео й залити в будь-яку соцмережу. Це можна використовувати так само в різних цілях. Я не бачу відчутної різниці з DeepNude, крім ухилу в 18+.

І якщо ви робитимете акцент у статті «в Росії тощо», то хотілося б додати, що ми не належимо до цієї країни.

Про видалення фотографій

Ми відкриті до розмови. Зокрема, якщо напише дівчина з обґрунтованою претензією, то ми, звісно, їй сприятимемо. Далі вони [ЗМІ] побачили фото 16-річної тіктокерки. Коли ми дізналися, що їй 16, інформацію було видалено. Так чинить кожен ресурс.

З усього, що пам’ятаю, писала дівчина-косплейниця. Її фото використовували для реклами бота в Instagram, по-моєму, не оголене. І я допомагав їй із пошуком контакту власника бота, якого рекламували за допомогою її фото.

Найчастіше пишуть люди з «ВКонтакте». Там є сервіс, де у два кліки можна поставити такого бота собі в спільноту. Проте ціни неадекватні — по 50-100 рублів за фото. Так от, вони платять, їм вішають підписку, щомісяця з них знімають гроші. Там контактів немає, вони в підсумку знаходять хоч когось — мене.

Позбутися такої підписки складно. Банки кажуть, що простіше картку перевипустити. Бувало, люди тиснули кнопку «Поділитися фото», потім просили видалити. Це все, напевно.

Про галерею

Ми нічого особисто не робили. [Все] було автоматизовано. Людина робить фото, якщо хоче поділитися ним у чаті, то ділиться через кнопку в боті. Це необов’язково має бути дівчина, бувають просто «кумедні результати».

Далі люди голосують, подобається їм чи ні. Якщо робота набирає лайки, автоматично формується галерея. Усе, що робить бот, — виконує заданий алгоритм. Бажання ділитися/оцінювати виходить від юзерів. (Адміністратор не згадав, що бот пропонував ділитися обробками за монети, — прим. ред.)

Якщо помічена робота, що не відповідає призначеній для користувача угоді бота, юзера назавжди від’єднували від нього. Галерею вирішено видалити через надходження скарг. У цій ситуації — від зарубіжних ЗМІ. За весь час роботи скарг на галерею від дівчат не було, хоча ми максимально відкриті до діалогу. Відновлення такого формату не планується. Він і до цього не мав попиту.

Хочу зауважити: всі ресурси — чат, галерея — оформлені приватно й позначені категорією 18+ самим месенджером, як і годиться.

Про етику

Код алгоритму є у вільному доступі на ресурсі, що належить США. Якщо вони вважають алгоритм неприпустимим, то, напевно, варто це позначити. Будь-яка людина може запустити це без будь-яких навичок і використовувати як їй завгодно.

Щодо етичності. Ми нічого не пропагуємо. Навпаки, попереджаємо, що використання в корисливих (зловмисних) цілях неприпустимо. Суть алгоритму — вішати маску жіночих піксельних грудей, створюючи ефект «оголення» на будь-яких фото! На будь-яку стать! Навіть на неживі предмети!

Оскільки фото містить подобу жіночих грудей, на боті висить мітка 18+. Це відповідає правилам месенджера. До речі, подібні боти в інших соцмережах навіть не позначені як ресурси 18+.

— Людина може не публікувати свої нюдси, але хтось їх однаково зробить.

Ну це параноя вже. Хтось може завантажити фото і як хоче поглумитися над ним. Може бити ножами, кидати, ноги витирати. Ласкаво просимо в сучасний світ, нумо зовсім від’єднаємо інтернет. У кожній соцмережі можна закрити свій профіль і — о диво! — навіть не публікувати фото. Вас за це не забанять, але ви зможете спілкуватися й читати новини.

Дівчина може йти вулицею, на неї дивитимуться чоловіки й уявлятимуть сексуальні образи. Не подобається? Є закритий одяг.

Про публікації в ЗМІ

Deepfake-боти в Telegram

Можливості алгоритму сильно прикрашені. Цим галасом ЗМІ зробили тільки гірше. Оскільки ентузіастів щодо поліпшення стане більше. Фактично вони відтворили ефект Стрейзанд.

— З вами намагалися зв’язатися західні ЗМІ? Російські? Українські? Інші?

Washington Post, BBC, але їхні запитання занадто незграбні. Якщо вони хочуть побачити чорне, то вони це й роблять. Рік тому це було в ЗМІ й висвітлювалося, сенс згадувати це [зараз] мені не зрозумілий. Вони самі дали друге дихання всім ресурсам зі змістом слова DeepNude.

— Sensity пише, що дуже зросла активність.

Ось і вся історія наочно.

Про сексуальність

В Instagram дівчина гола, але в прозорій майці або ж із закритими сосками. Це вважається нормальним, а доступ в Instagram, начебто, дозволено із 14 років. Я до чого: усе використовується в міру фантазії.

Що робить DeepNude? Та простий формат візуалізації фейкового зображення оголеної дівчини. Знайшов, куди треба накласти маску «груди», визначив пропорції, наклав, підвів під колір шкіри. Можна взяти будь-яке фото дівчини в купальнику, з іншої світлини вирізати ділянку грудей і поєднати два зображення. Буде те саме.

У світі йде пропаганда «дівчина-тіло-продаж». Це вигідно, на цьому заробляють мільйони. Самі дівчата масово торгують тілом у соцмережах. Якщо суспільству таке не подобається, то, напевно, треба починати із цього. А не з маленького кривого алгоритму, який узагалі не становить загрози.

Ще раз: такий алгоритм — це лише наслідок того, що відбувається у світі. Я можу через безплатний застосунок із заміни обличчя, який є у всіх магазинах застосунків, узяти гіф з еротичним танцем і наклеїти будь-яке чуже обличчя. Це загроза?

У Photoshop можна зробити що завгодно. Проте для цього потрібно вміти ним користуватися. Із ботом це зробити набагато простіше.

Згоден, але [можна] ввести у ВК/Яндекс/Google/Reddit/Twitter тощо «sex porno». Натиснути одну галочку «мені є 18» і дивитися реальне порно всіх жанрів, а не фото з грудьми (що не порно, а еротика максимум). Чи це не легкість і доступність? Чи це не нерегульований контент?

Робіть, як у Китаї, у країнах, де це вам неприйнятно, і все. Наслідок (DeepNude) відпаде сам собою, бо причину буде знищено. Я так це бачу. Є сайт, що генерує голих дівчат за 1$. Дівчата несправжні, а створені нейромережею. Хоча нейромережі навчені на реальних фотографіях. Розумію, це ще більш віддалене порівняння з DeepNude, але це так само можна притягнути за вуха.

Про заробіток на боті

Ми cпочатку ставили мінімальну ціну, щоб окупати необхідні потужності. Ви можете досі знайти схожих ботів із цінами 50-100 рублів за фото або взагалі обман. Ми тримаємо політику адекватної ціни за можливість використовувати потужності зі встановленим алгоритмом, за який ми також платимо. За мірками Telegram, наш дохід не надто більший за [дохід] середнього каналу в плюс-мінус 20 000 підписників.

Звісно, ми не янголи. Зрозуміли, що на цьому можна заробити, але загалом тримаємо, як на мене, адекватний цінник. Не рекламуємо різноманітних каперів/казино й не проводимо псевдорозіграшів.

Головне, що ми зрозуміли, — це привертає людей і дає нам подальшу базу для старту нових проєктів, не 18+. 50 людей зі 100 отримають гарний результат після першого опрацювання. Із цих 50-ти приблизно десять затримаються більш ніж на тиждень.

Не думаю, що з такою якістю обробки щось може працювати довго, — хайп, клікбейт, що підігрівається зацікавленістю. Так, це можна розкрутити до великих масштабів на хайпі, якщо захотіти. Так, це алгоритм, який є у вільному доступі. Він був доступний того самого дня, як про нього написали ЗМІ.

Про подальші цілі

Завдяки цьому ресурсу ми надаємо розголосу людям (у міру можливостей), які хочуть поділитися своїм продуктом, але не володіють коштами. Мета проста — [принести] технології нейромережі в маси, нехай через нейросіськабота. Якщо хоч десять людей зацікавляться, це буде чудовим результатом.

Про доступність

Deepfake-боти в Telegram

Про «ВКонтакте» і діпфейк-мережі

У «ВКонтакте» є сервіс (сайт в інтернеті), який дає змогу в два кліки прикріпити в будь-яку спільноту бота такого самого плану. Проте мені писали люди, що там можуть оформлятися підписки, і їх не скасувати. Плюс ціни там по 50-100 рублів за фото.

Цей алгоритм не вартий таких грошей. На нього не витрачається стільки ресурсів. У нас була одна спільнота, яка навіть не ввійшла в десятку найпопулярніших за запитом. Її ніяк не просували, і вона існувала для того, щоби бути.

Нам не цікавий «ВКонтакте» як платформа. Це незручна громіздка соцмережа. Щодо контенту/ботів, він є не тільки у «ВКонтакте», боти є і в Discord. Сайти з реальним фейк-порно спокійно гугляться. Я допускаю, що ми стали метою ЗМІ через відкритість нашої спільноти.

Про булінг, для якого можуть використовувати бота

Ну і раніше сміялися, завжди це було. Залежить від суспільства, кола спілкування. Як один з інструментів для цього — так, допускаю, це можливо. Бот працює понад рік — тихо й спокійно. І тут вони, борючись із цим, роблять рекламу на весь світ.

Я просто не бачу тут величезної проблеми. У світі стільки всього відбувається, а тут знайшли голку в копиці хіті/розпусти/обману/криміналу й ще бог знає чого та намагаються зробити це ледь не ядром усіх бід. Підсумок простий: якщо це заборонено, скажіть про це. Якщо Telegram вважає це неприпустимим, нехай від’єднає бота. Решта це вже так — побухтіти, поміркувати.

Післямова

Проблема діпфейків — це проблема на межі етики, права і технологій. Перед використанням Telegram-бота потрібно ознайомитися з угодою користувача.

Вона справді відстоює «все хороше, проти всього поганого»: «Ви несете відповідальність за отримання попередньої згоди всіх осіб, зображених на фотографії, і за те, що всі такі особи на фото повинні бути повідомлені про використання їхньої світлини на вебсайтах до використання їхньої фотографії.

Ви також маєте переконатися, що жодна особа, яка з’являється на зображенні, що використовується для редагування на цьому програмному забезпеченні, не є молодшою за 18 років (або 21 рік, де цього вимагають закони про меншини)…

Ви не повинні публічно поширювати будь-яке зображення, перетворене вебсайтами, для будь-яких незаконних або аморальних цілей».

Однак будьмо чесними: хто вивчить і дотримуватиметься такої угоди? Попри софістичні міркування анонімного автора облікового запису про тотальну сексуалізацію і свободу обирати собі дозвілля, подібні боти справді радикально знижують поріг входу в діпфейк-контент.

Розвиток технологій призводить до того, що діпфейки стають нашою реальністю. У цього є як кумедний бік з Ілоном Маском, який співає «Трава у дома» в образі учасника групи «Земляне», так і не дуже.

Чи потрібно щось робити із цим? Безумовно. Чи винен у ситуації конкретний Telegram-бот, якщо код технології є у відкритому доступі? Спірне питання. Однак нова реальність, де не обов’язково надсилати комусь свої нюдси, щоби потім побачити їх у мережі, м’яко кажучи, насторожує.

Більше про це

01 НОВИНИ

В очікування виборів у світі. Новий інструмент OpenAI може виявляти діпфейки — як це працює 

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

Завантаження...