Маски не допоможуть. Як Clearview AI розпізнає злочинців, протестувальників і майбутнього зятя мільярдера
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Застосунок Clearview AI перетнув юридичні та етичні кордони, яких дотримувалися навіть Google та Facebook. Програма дозволяє за допомогою фотографії відшукати облікові записи людини в соцмережах, профілі на сайтах пошуку роботи й навіть випадкові попадання на знімки незнайомців. Журналістка The New York Times Кешмір Хілл розповідає про переваги та недоліки цього «Shazam для облич». А також про те, як подібні програми можуть назавжди позбавити нас анонімності у повсякденному житті. Vector публікує короткий переказ матеріалу.
Як Clearview допомогло знайти педофіла
У травні 2019 року в розпорядженні агента з Міністерства внутрішньої безпеки США опинилися фотографії зі сценами сексуального насильства над дитиною. На одній із них правоохоронці помітили білого чоловіка з коричневим волоссям та борідкою. Хоча він дивився прямо в камеру, його було складно роздивитися через зернистість знімка та похилий кут зйомки.
Слідча з Нью-Йорка вирішила пропустити фото через нову програму для розпізнавання осіб Clearview AI.
Розробники програми зробили скрейпінг загальнодоступних ресурсів (соціальних мереж, сайтів для пошуку роботи, YouTube) та створили базу даних із 3 млрд фотографій. Кожна з них прив’язана до посилання на свій сайт-джерело. Це дозволяє за знімком людини вирахувати, наприклад, її профіль у Facebook.
Спочатку застосунок видав слідчій, здавалося б, невідповідний результат. На Instagram-фото чоловік-азіат і фітнес-модель позували на виставці з бодибілдингу в Лас-Вегасі. Однак підозрюваний не був ані азійцем, ані жінкою. Під час найближчого розгляду знімку на задньому плані вдалося помітити крихітне обличчя ще однієї людини: чоловіка, який стояв за стійкою виробника спортивних добавок.
Правоохоронці зв’язалися із компанією. Виявилося, на фото знято її співробітника Андреса Рафаеля Віолу — громадянина Аргентини, який проживає в Лас-Вегасі. Його Facebook-аккаунт був публічним. У ньому агенти виявили фотографії жертви та кімнати, які збіглися з тим, що вони раніше бачили на порнографічних знімках.
У червні 2019 року агенти заарештували Віолу. Він визнав себе винним у сексуальному насильстві над дитиною та створенні дитячої порнографії. Його засудили до 35 років ув’язнення. Правоохоронці стверджують, що навряд чи знайшли б злочинця без використання Clearview.
Як Clearview перейшло межу
Ми постійно показуємо наші обличчя. Викладаємо селфі в інтернеті, з’являємося на записах вуличних камер або, як у випадку з Віолою, на знімках незнайомців. Донедавна ми навіть не замислювалися про те, що обличчя так само унікальні, як і відбитки пальців. Тим часом їхнє розпізнавання стало сферою інтенсивних досліджень та частиною повсякденного життя. Наприклад, Facebook може дізнатися наших друзів на фото. А смартфон можна розблокувати за допомогою Face ID.
Законодавці не встигають за стрімким розвитком технологій. За браком жорстких правил, що регулюють розпізнавання облич, Facebook та Google самі провели для себе червону межу. Ідентифікація незнайомців сприймається як табу, небезпечна технологічна суперсила, до якої ще не готовий світ.
Тому що з допомогою розпізнавання облич можна позбавити людину анонімності в будь-якій неформальній ситуації, наприклад, у барі. Ідентифікувати протестувальників чи тих, у кого закінчилася віза.
Facebook і Google у своїх умовах використання забороняють скрапінг даних зі своїх сайтів. Однак, спонукаючи мільярди людей публікувати свої фотографії разом з іменами, вони зробили появу такого продукту, як Clearview, питанням часу. Просто мав з’явитися гравець, у якого вистачить зухвалості порушити правила найбільших платформ. Маючи у своєму розпорядженні мільярди зображень для навчання ШІ, застосунок Clearview став лідером у галузі розпізнавання облич.
Коли інформація про Clearview вийшла за межі правоохоронних органів, вона спровокувала потужну негативну реакцію як громадськості, так і технологічних компаній. Facebook, LinkedIn, Venmo та Google вимагали припинити використання їхніх фотографій.
BuzzFeed опублікувало список клієнтів Clearview, інформація про яких витекла. Крім правоохоронних органів, серед них виявилися великі організації, включно з Bank of America та NBA.
Крім того, компанія зробила застосунок доступним для поточних і потенційних інвесторів, а також бізнес-партнерів. Серед них був мільярдер, який використав програму, щоб дізнатися, з ким зустрічається його дочка.
Сенатор Ед Маркі зажадав, щоб компанія розкрила своїх клієнтів із правоохоронних органів та дозволила американцям видалити себе з бази даних Clearview. Чиновники в Канаді, Великій Британії, Австралії та ЄС почали розслідувати діяльність компанії.
В Іллінойсі та Техасі компанії й до Clearview мали отримувати згоду мешканців на використання їхнього унікального малюнка обличчя. Після галасу навколо програми сенатори Берні Сандерс і Джефф Мерклі запропонували розширити закон Іллінойсу на всю країну. Проти Clearview подали 10 колективних позовів за вторгнення у приватне життя та ще два від Американського союзу захисту громадянських свобод і генерального прокурора Вермонту.
Здавалося, Clearview просто засудять. Однак за браком федерального закону про розпізнавання осіб цього не сталося.
Компанія просто перестала працювати з приватними організаціями та продовжила співпрацювати з держорганами. Наразі Clearview залучила $17 млн і оцінюється майже у $109 млн. Програмою користуються 3100 правоохоронних установ США. Серед її клієнтів — армія та військово-повітряні сили. Імміграційна та митна поліція навіть підписала з Clearview угоду на $224 000.
Для захисту в судових процесах штату Іллінойс Clearview найняла одного з найкращих юристів країни Флойда Абрамса. Він ще 50 років тому захищав право The New York Times публікувати документи Пентагону. Той факт, що база даних Clearview складається з публічних фотографій, — ключовий аргумент захисту Абрамса, затятого прихильника Першої поправки. На його думку, оскільки інформація вже опублікована й доступна широкому загалу, поправка захищає дії компанії.
Захисники громадянських свобод побоюються перемоги Clearview у судах та її наслідків. Технології розпізнавання осіб досі недосконалі. 2019 року Національний інститут стандартів і технологій виявив, що багато алгоритмів менш точно ідентифікують кольорових людей. Це означає, що їхнє використання може збільшити упередженість системи кримінального правосуддя.
Хто стоїть за Clearview
Засновники Clearview — Хоан Тон-Зет і Річард Шварц. Мати 32-річного Хоана Тон-Зета є австралійкою, а батько належить до в’єтнамської королівської родини. Тон-Зет у 19 років переїхав з Австралії до Сан-Франциско, де зайнявся іграми для Facebook та iPhone. Він — СЕО Clearview.
Річард Шварц має зовсім інший бекграунд. У 1990-х він працював на тодішнього мера Нью-Йорка Рудольфа Джуліані, а також редагував New York Daily News. Він на 30 років старший за свого напарника.
Тон-Зет стверджує, що їхній тандем зі Шварцем був майже випадковістю. Однак Clearview явно не така проста, якщо зважилася порушити табу, якого дотримувалися навіть Google і Facebook. А вони точно не славляться поважним ставленням до конфіденційності.
Виявилося, що Clearview пов’язана з украй правим провокатором Чарльзом Джонсоном, який відомий поширенням дезінформації. За Трампа він почав набирати впливу, оскільки його політичні погляди й тактики стали ближчими до мейнстриму. Джонсон навіть співпрацював із Білим домом. Він вважає себе третім співзасновником Clearview, що підтверджують юридичні документи.
Джонсон познайомився з Тон-Зетом 2016 року. Вони швидко потоваришували на ґрунті правих поглядів, і Тон-Зет став прихильником Трампа. Нові друзі навіть відвідали Республіканський національний з’їзд у Клівленді, де Трампа обрали кандидатом у президенти від партії. Джонсон запропонував Тон-Зету познайомитися з інвестором Пітером Тілем. Він також приїхав до Клівленда, щоб підтримати Трампа і вимовити промову на з’їзді республіканців.
Саме під час цієї поїздки у друзів виникла ідея створення компанії. Джонсон залучив Шварца до справи, що зароджується, через його великі політичні зв’язки в Нью-Йорку. Як у колишнього соратника Джуліані, Шварц мав доступ до самого Трампу.
Компанію назвали Smartcheckr. У ній у Джонсона, Тон-Зета та Шварца були рівні частки. Тон-Зет каже, що спочатку вони не збиралися займатися розпізнаванням осіб. Джонсон стверджує протилежне.
Так чи інакше, 2017 року інвестфірма Тіля вклала в компанію $200 000. Не дивно, що він причетний до її появи. Тіль — творець ще однієї компанії зі збору даних Palantir.
Очевидно, щоб заробити грошей на розвиток технології розпізнавання осіб, Smartcheckr спочатку вирішили зайнятися політичним консалтингом. Компанія пропонувала політикам і від Республіканської, і від Демократичної партії послуги на кшталт мікротаргетингу тих, хто голосує, або допомоги з «даними виборців».
Незабаром компанія відійшла від цього напряму, оскільки 2018 року її технологія розпізнавання осіб суттєво покращилася, а база даних зросла. Також її перейменували на Clearview AI. Влітку 2018-го компанія вже позиціонувала себе як стартап у сфері безпеки. Clearview запустила пілотні проєкти з розпізнавання облич у філіях TD Bank і Gristedes Supermarket.
Джонсон через сімейні проблеми відійшов від діяльності компанії. У результаті його третину в Smartcheckr перетворили на 10% у Clearview.
Іронічно те, що правоохоронці використали Clearview, щоб ідентифікувати учасників штурму Капітолію 6 січня 2021 року. Компанія, ідея якої зародилася на заході, присвяченому Трампу, через чотири роки допомагала ідентифікувати його ж затятих прихильників.
