Досвід і думки

Як не пошити себе в дурні. 5 інструментів, щоб відрізнити AI від реального фото — гайд Мінцифри

18 Червня 2024, 09:00
4 хв читання
Лідія Неплях Керую стрічкою, працюю з SEO-оптимізацією, вичитую тексти та верстаю.
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Що спільного між фото з Папою Римським у білому пуховику та котиками, які плачуть під завалами? Обидві картинки — фейки авторства ШІ, яким повірили тисячі людей. Зараз в інтернеті «гуляють» мільярди зображень, створених нейромережею. Чимало з них посилюють російські ІПСО. Так само успішно сіють зраду «шедевральні» діпфейки, які працюють на ворожу пропаганду. Пригадайте відео з обличчям українки, яке використали для «возвеличення» Китаю, та діпфейки із Зеленським та Залужним.

То як на практиці розпізнати фейк? Про інструменти, які допоможуть розрізнити AI від справжнього зображення і не загубитися у світі ІПСО та дезінформації спеціально для Vector розповіла команда Мінцифри.

Масштаби проблеми

«Штучний інтелект став геймчейнджером у генеруванні контенту і дезінформації. Він значно пришвидшує створення фейків, завдяки цьому кіберзлочинці, включно з російськими спецслужбами, можуть продукувати пропаганду та вкиди у промислових масштабах. Якщо раніше для запуску ІПСО треба була ціла ботоферма, то зараз достатньо під’єднати одну велику мовну модель», — зазначає Олександр Борняков, заступник міністра цифрової трансформації.

На гачок фейків потрапляють не тільки користувачі соцмереж, а й відомі медіа. Щоб таких ситуацій було менше, Мінцифра опублікувала рекомендації для медіа.

Фактично це інструкція, що описує, як працювати із системами ШІ, на що звернути увагу під час вибору інструментів та як оцінити контент, згенерований нейромережею. Серед ключових порад — маркувати AI-контент, перевіряти інформацію із зовнішніх джерел на оригінальність, а також звертати увагу на те, як AI-системи працюють з персональними даними.

Світові техногіганти також включилися у протидію фейкам та розробляють відповідні інструменти. Наприклад, Adobe, яка фактично і створила тренд «відфотошоплених» фото, започаткувала й удосконалює ініціативу з виявлення діпфейків — Content Authenticity Initiative (CAI).

Компанія розробила кілька інструментів для визначення походження графічного контенту, як-от технологію Content Credentials. Фактично це набір метаданих зображення — ім‘я автора, дата створення, історія редагування тощо. Ці дані автоматично вшиті у файл, отже, будь-хто може перевірити походження та історію редагування фото/відео. Більше про інструменти від CAI можна дізнатися у записі спільного воркшопу Мінцифри та Adobe.

Як розпізнати діпфейк

Google Reverse Image Search

Базова база для перевірки походження зображень та часу їх публікації. Завдяки простоті цей інструмент часто використовують для пошуку першоджерел, нібито правдивих картинок, які вірусяться в соцмережах.

Щоб проаналізувати відео чи зображення, потрібно лише завантажити файл або ввести його URL у пошуковику. Система покаже все, що пов‘язано зі знімком чи відео, — оригінальне джерело походження, на яких ресурсах опубліковано, додаткову інформацію про об‘єкт тощо. Ще швидший варіант — натиснути на фото та обрати «Пошук зображення через Google».

HIVE

Інструмент, який без зайвих танців з бубном скаже, чи ваше зображення фейкове. Завдяки HIVE можна побачити співвідношення оригінального та AI-генерованого на картинці. Інструмент також розпізнає об‘єкти на фото і знаходить, на яких сайтах з‘являлися схожі зображення чи відео.

Deepware Scanner

Простий і швидкий варіант для виявлення діпфейків. Достатньо завантажити відео чи дати на нього лінк, і система за декілька секунд покаже, чи над цим відео шаманили за допомогою AI. 

Sensity

Продукт на основі штучного інтелекту, який допомагає організаціям боротися з діпфейками. Класний інструмент для медіа, державних органів та всіх організацій, які хочуть відстежувати та протидіяти фейковим згадкам про себе у медіапросторі.

https://www.youtube.com/watch?v=BL5iLNjv3VY&t=55s

TinEye

Крута альтернатива Google Reverse Image Search для аналізу першоджерел фото і ресурсів, які їх поширюють. Є вебверсія, але радимо завантажити розширення для Chrome, щоб не перескакувати між вікнами та перевіряти картинку в один клік.

Більше про це

01 НОВИНИ

8 безоплатних курсів з використання ШІ та ChatGPT — добірка

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

Завантаження...