Ми ще не готові до цього. Чи перетворить новий інструмент у Google Pixel 9 фото на фабрику фальшивок

Наші основні припущення про те, що фотографії відображають реальність, ось-ось розвіються. Все через те, що підроблювати їх з розвитком ШІ стало все простіше. Сара Чонг, редакторка The Verge, яка пише про технології вже 10 років розповідає про те, як наш погляд на фотографію як на об’єктивне свідчення реальності зазнає радикальних змін. 

Статтю українською мовою підготувало Бюро перекладів для бізнесу MK:translations. Ми публікуємо адаптований та скорочений переклад.

---

Вибух біля старої цегляної будівлі. Потрощений велосипед на міському перехресті. Тарган у контейнері з їжею. Кожне з цих зображень створили за лічені секунди за допомогою інструмента Reimagine у Magic Editor на смартфоні Pixel 9. Вони чіткі, кольорові та реалістичні. Ніякого підозрілого розмиття фону чи зайвих пальців. Ці фотографії виглядають надзвичайно переконливо, але всі вони наскрізь фальшиві.

Кожен, хто придбає Pixel 9, новий флагман від Google, отримає доступ до найзручнішого та найпростішого інтерфейсу для створення високоякісних фальшивих зображень прямо у своєму мобільному пристрої. Це майже напевно стане новим стандартом, адже подібні можливості вже є на конкурентних смартфонах і незабаром з’являться на інших.

Зазвичай легкість у використанні — це позитивна річ, але зараз саме вона створює проблему. 

Ще на зорі фотографії з’явилися перші спроби її використання для введення в оману. Згадайте спіритичні фото вікторіанської доби, сумнозвісний знімок Лохнеського чудовиська чи фотографії Сталіна, коли зображення «зачищених» у реальному житті людей просто зникали.

Але стверджувати, що фотографії ніколи не вважалися надійними доказами, було б несправедливим. Кожен, хто читає цю статтю у 2024 році, виріс у часи, коли фотографія здебільшого сприймалася як відображення правди.

Так, існували постановні кадри, цифрові маніпуляції та, зокрема, діпфейки (з англ. deepfake), проте вони були лише можливим відхиленням, про яке варто пам’ятати. Для підриву довіри до фотографії були потрібні спеціальні знання та інструменти. Підроблене фото вважалось радше винятком, ніж правилом.

Фейкові фото Сталіна та Лохнеського чудовиська

Якщо я скажу «площа Тяньаньмень», ймовірно, ви уявите те саме зображення, що і я. Це також стосується кадрів з в’язниці Абу-Ґрейб чи фото в’єтнамської дівчинки, постраждалої від напалму. Ці фотографії стали символами війн і революцій, втіливши правду на такому рівні, що словами це складно передати.

Не було потреби пояснювати, чому ці знімки важливі, чому вони мають таке значення, чому ми їх цінуємо. Наша довіра до фотографії була настільки сильною, що навіть коли ми розмірковували про правдивість зображень, важливіше було підкреслити, що фотографії інколи можуть бути підробленими.

Фото площі Тяньаньмень та тортур у в’язниці Абу-Ґрейб, Ірак

Усе це скоро зміниться  — тепер основним припущенням щодо фотографії буде те, що вона неправдива, оскільки створення реалістичних і переконливих фальшивок стало надзвичайно простим завданням. І ми ще не готові до наслідків цього. 

Дотепер фотографії були важливою частиною суспільної згоди — для нас завжди було очевидним: якщо є фото, це означає, що подія дійсно сталася. Довіра до фотографії підтверджувала вашу правдивість: ви могли надати фото старої вм’ятини на крилі орендованого автомобіля, слідів протікання на стелі, отриманого відправлення, справжнього таргана у страві, що ви щойно купили. Коли лісові пожежі підступають до вашого району, як інакше показати близьким густину диму на вулиці?

---

Досі основний тягар доказів лежав на тих, хто ставив під сумнів правдивість фотографій. Прихильники теорії плоскої Землі викликають подив не тому, що не розуміють астрофізики  — зрештою, скільки з нас дійсно знаються на астрофізиці?  — а тому, що їм доводиться вигадувати складні пояснення, чому певні фотографії та відео нібито підроблені. Вони змушені вибудовувати теорії масштабних змов, щоб пояснити супутникові знімки, що показують викривлення Землі, і створювати уявні інсценування висадки на Місяць у 1969 році.

Ми завжди вважали, що саме на них лежить обов’язок довести свою правоту. Однак з появою Pixel 9, можливо, варто почати вчити астрофізику.

Здебільшого, типові зображення, створені ШІ, можуть здатися доволі безневинними — додаткове дерево на фоні, алігатор у піцерії чи смішний костюм на котові.

Проте нескінченний потік таких фальшивок змінює наше сприйняття фотографії як явища, що вже саме собою несе величезні наслідки.

Згадаймо, як за останнє десятиліття популярність мобільних пристроїв дозволила фіксувати випадки жорстокості поліції в США і виводити їх на публіку, що спровокувало значні соціальні зміни. Там, де влада намагалася приховати правду, ці відео викривали її.

Постійні вигуки «Фейкові новини!» з боку прихильників Трампа стали провісником нової епохи необмеженої дезінформації, в якій вплив правди буде затьмарений потоком брехні. Наступний Абу-Ґрейб може загубитися серед безлічі створених ШІ відео, що імітують воєнні злочини. А наступний випадок, подібний до смерті Джорджа Флойда, ризикує залишитися непоміченим і безкарним. 

Це майбутнє вже починає вимальовуватися. Під час суду над Кайлом Ріттенхаусом захист стверджував, що функція масштабування в Apple маніпулює фотографіями, і це успішно переконало суддю вимагати від прокуратури доказів, що збільшене відео з iPhone не було сфальсифіковане ШІ.

Натомість Дональд Трамп нещодавно необґрунтовано заявив, що фотографія багатолюдного мітингу Камали Гарріс була створена штучним інтелектом — і ця заява сталася тільки тому, що люди могли в неї повірити. 

Ще до появи ШІ представники медіа завжди були скептично налаштовані, ретельно досліджуючи кожне зображення на предмет його походження та можливих маніпуляцій чи оманливого контексту. Адже майже кожну важливу подію супроводжує хвиля дезінформації. Однак тепер ми стоїмо на порозі кардинальних змін, які стосуватимуться набагато глибших аспектів, ніж звичайна боротьба з недовірою, що часто називається цифровою грамотністю. 

---

Google чудово розуміє, як трансформується роль фотографії як інституту. В інтерв’ю з Wired менеджер групи продуктів для камери Pixel описав новий інструмент редагування як «засіб для створення моментів, які відображають те, як ви їх пам’ятаєте — автентичні для вашої пам’яті та загального контексту, але можливо не зовсім точні в конкретний момент часу».

У такому світі фотографія перестає бути помічником нашої недосконалої пам’яті й перетворюється на її відображення. І коли фотографії починають виглядати як галюцинації, якась безглузда маячня може перетворитися на предмет судових суперечок за репутацію свідків і існування доказів, які це підтверджують. 

Руйнування суспільної згоди розпочалося ще до появи Pixel 9 і на цьому не закінчиться. Але нові можливості ШІ в цьому телефоні заслуговують на увагу не тільки через доступність, а й тому, що наявні захисні механізми виглядають на диво слабкими. Галузевий стандарт водяних знаків для зображень, створених ШІ, досі стикається із затримками в стандартизації, а власна система водяних знаків Google була непомітна під час тестування Magic Editor на Pixel 9, яке проводило видання The Verge.

Фотографії, змінені за допомогою інструменту Reimagine, просто отримують рядок метаданих, що можна видалити. (Попри теоретичні переваги незнімного водяного знака SynthID, його ефективність залишається під питанням.) Google повідомив, що результати Pixel Studio — генератора підказок, схожого на DALL-E — будуть позначені водяним знаком SynthID. Проте, ми виявили, що можливості інструменту Reimagine Magic Editor, який модифікує наявні фотографії, є значно тривожнішими. 

Google запевняє, що Pixel 9 не стане безмежною фабрикою фальшивок, але ці заяви є недостатньо конкретними. «Ми розробляємо наші інструменти генеративного ШІ так, щоб поважати наміри користувачів, що означає, що вони можуть створювати контент, який може бути образливим, якщо користувач вказує це у своїх запитах», — зазначив Алекс Моріконі, менеджер з комунікацій Google, у листі до The Verge.

«Однак це не означає, що все дозволено. У нас є чіткі правила та умови обслуговування, які визначають, який контент ми дозволяємо, а який ні, і ми створюємо бар’єри для запобігання зловживанням. Іноді певні запити можуть порушити захисні механізми наших інструментів, але ми постійно працюємо над вдосконаленням і уточненням заходів безпеки».

Правила є передбачуваними: наприклад, заборонено використовувати послуги Google для сприяння злочинам або підбурювання до насильства. Деякі спроби запитів отримують загальне повідомлення про помилку: «Magic Editor не може виконати це редагування. Спробуйте ввести інший запит». (Однак є кілька тривожних прикладів запитів, які все ж спрацювали.)

Але в кінцевому підсумку стандартна модерація контенту не зможе врятувати фотографію від утрати її первісної ролі як джерела правдивої інформації. 

Ми недовго жили в епоху, коли фотографія була прямим шляхом до реальності, джерелом знань і безперечним доказом. Це був надзвичайно корисний інструмент для орієнтування в навколишньому світі.

Тепер же ми стрибаємо у майбутнє, де реальність стає менш пізнаваною. Загублена Олександрійська бібліотека могла б поміститися на microSD-картці в моєму Nintendo Switch, а передові технології тепер полягають у мобільному пристрої, що видає цинічну брехню у вигляді приємного бонуса. 

Ми потрапили в серйозну халепу. 

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter