Як не пошити себе в дурні. 5 інструментів, щоб відрізнити AI від реального фото — гайд Мінцифри

18 Червня 2024, 09:00

4 хв читання

Лідія Неплях Керую стрічкою, працюю з SEO-оптимізацією, вичитую тексти та верстаю.

Режим читання увімкнено

Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Режим читання

Завершити

Що спільного між фото з Папою Римським у білому пуховику та котиками, які плачуть під завалами? Обидві картинки — фейки авторства ШІ, яким повірили тисячі людей. Зараз в інтернеті «гуляють» мільярди зображень, створених нейромережею. Чимало з них посилюють російські ІПСО. Так само успішно сіють зраду «шедевральні» діпфейки, які працюють на ворожу пропаганду. Пригадайте відео з обличчям українки, яке використали для «возвеличення» Китаю, та діпфейки із Зеленським та Залужним.

То як на практиці розпізнати фейк? Про інструменти, які допоможуть розрізнити AI від справжнього зображення і не загубитися у світі ІПСО та дезінформації спеціально для Vector розповіла команда Мінцифри.

Масштаби проблеми

«Штучний інтелект став геймчейнджером у генеруванні контенту і дезінформації. Він значно пришвидшує створення фейків, завдяки цьому кіберзлочинці, включно з російськими спецслужбами, можуть продукувати пропаганду та вкиди у промислових масштабах. Якщо раніше для запуску ІПСО треба була ціла ботоферма, то зараз достатньо під’єднати одну велику мовну модель», — зазначає Олександр Борняков, заступник міністра цифрової трансформації.

На гачок фейків потрапляють не тільки користувачі соцмереж, а й відомі медіа. Щоб таких ситуацій було менше, Мінцифра опублікувала рекомендації для медіа.

Фактично це інструкція, що описує, як працювати із системами ШІ, на що звернути увагу під час вибору інструментів та як оцінити контент, згенерований нейромережею. Серед ключових порад — маркувати AI-контент, перевіряти інформацію із зовнішніх джерел на оригінальність, а також звертати увагу на те, як AI-системи працюють з персональними даними.

Світові техногіганти також включилися у протидію фейкам та розробляють відповідні інструменти. Наприклад, Adobe, яка фактично і створила тренд «відфотошоплених» фото, започаткувала й удосконалює ініціативу з виявлення діпфейків — Content Authenticity Initiative (CAI).

Компанія розробила кілька інструментів для визначення походження графічного контенту, як-от технологію Content Credentials. Фактично це набір метаданих зображення — ім‘я автора, дата створення, історія редагування тощо. Ці дані автоматично вшиті у файл, отже, будь-хто може перевірити походження та історію редагування фото/відео. Більше про інструменти від CAI можна дізнатися у записі спільного воркшопу Мінцифри та Adobe.

Як розпізнати діпфейк

Google Reverse Image Search

Базова база для перевірки походження зображень та часу їх публікації. Завдяки простоті цей інструмент часто використовують для пошуку першоджерел, нібито правдивих картинок, які вірусяться в соцмережах.

Щоб проаналізувати відео чи зображення, потрібно лише завантажити файл або ввести його URL у пошуковику. Система покаже все, що пов‘язано зі знімком чи відео, — оригінальне джерело походження, на яких ресурсах опубліковано, додаткову інформацію про об‘єкт тощо. Ще швидший варіант — натиснути на фото та обрати «Пошук зображення через Google».

HIVE

Інструмент, який без зайвих танців з бубном скаже, чи ваше зображення фейкове. Завдяки HIVE можна побачити співвідношення оригінального та AI-генерованого на картинці. Інструмент також розпізнає об‘єкти на фото і знаходить, на яких сайтах з‘являлися схожі зображення чи відео.