Маски бесполезны. Как Clearview AI распознает преступников, протестующих и будущего зятя миллиардера

Приложение Clearview AI перешло юридические и этические границы, которые соблюдали даже Google и Facebook. Программа позволяет с помощью фотографии отыскать аккаунты человека в соцсетях, профили на сайтах поиска работы и даже случайные попадания на снимки незнакомцев. Журналистка The New York Times Кешмир Хилл рассказывает о преимуществах и недостатках этого «Shazam для лиц». А также о том, как подобные приложения могут навсегда лишить нас анонимности в повседневной жизни. Vector публикует краткий пересказ материала.

Как Clearview помогло вычислить педофила

В мае 2019 года в распоряжении агента из Министерства внутренней безопасности США оказались фотографии со сценами сексуального насилия над ребенком. На одной из них правоохранители заметили белого мужчину с коричневыми волосами и бородкой. Хотя он смотрел прямо в камеру, его было сложно разглядеть из-за зернистости снимка и наклонного угла съемки. 

Следовательница из Нью-Йорка решила пропустить фото через новое приложение для распознавания лиц Clearview AI.

Разработчики программы сделали скрейпинг общедоступных ресурсов (социальных сетей, сайтов для поиска работы, YouTube) и создали базу данных из 3 млрд фотографий. Каждая из них привязана к ссылке на свой сайт-источник. Это позволяет по снимку человека вычислить, например, его профиль в Facebook. 

Сначала приложение выдало следовательнице, казалось бы, неподходящий результат. На Instagram-фото мужчина-азиат и фитнес-модель позировали на выставке по бодибилдингу в Лас-Вегасе. Однако подозреваемый не был ни азиатом, ни женщиной. При ближайшем рассмотрении снимка на заднем плане удалось заметить крошечное лицо еще одного человека: мужчины, который стоял за стойкой производителя спортивных добавок.

Правоохранители связались с компанией. Оказалось, на фото запечатлен ее сотрудник Андрес Рафаэль Виола — гражданин Аргентины, проживающий в Лас-Вегасе. Его Facebook-аккаунт был публичным. В нем агенты обнаружили фотографии жертвы и комнаты, которые совпали с тем, что они ранее видели на порнографических снимках.

В июне 2019 года агенты арестовали Виолу. Он признал себя виновным в сексуальном насилии над ребенком и создании детской порнографии. Его приговорили к 35 годам заключения. Правоохранители утверждают, что вряд ли нашли бы преступника без использования Clearview.

Как Clearview перешло черту

Мы постоянно показываем наши лица. Выкладываем селфи в интернете, появляемся на записях уличных камер или, как в случае с Виолой, — на снимках незнакомцев. До недавнего времени мы даже не задумывались о том, что лица так же уникальны, как и отпечатки пальцев. Тем временем их распознавание стало областью интенсивных исследований и частью повседневной жизни. К примеру, Facebook может ​​«узнать» наших друзей на фото. А смартфон можно разблокировать с помощью Face ID.

Законодатели не успевают за стремительным развитием технологий. При отсутствии жестких правил, регулирующих распознавание лиц, Facebook и Google сами провели для себя красную черту. Идентификация незнакомцев воспринимается как табу, опасная технологическая суперсила, к которой мир еще не готов.

Потому что с помощью распознавания лиц можно лишить человека анонимности в любой неформальной ситуации, например, в баре. Идентифицировать протестующих или тех, у кого закончилась виза. 

Facebook и Google в своих условиях использования запрещают скрапинг данных со своих сайтов. Однако побуждая миллиарды людей публиковать свои фотографии вместе с именами, они сделали появление такого продукта, как Clearview, вопросом времени. Просто должен был появиться игрок, у которого хватит дерзости нарушить правила крупнейших платформ. Располагая миллиардами изображений для обучения ИИ, приложение Clearview стало лидером в области распознавания лиц.

Когда информация о Clearview вышла за пределы правоохранительных органов, она спровоцировала мощную негативную реакцию как общественности, так технологических компаний. Facebook, LinkedIn, Venmo и Google потребовали прекратить использование их фотографий. 

BuzzFeed опубликовало утекший список клиентов Clearview. Помимо правоохранительных органов, среди них оказались крупные организации, включая Bank of America и N.B.A.

Кроме того, компания сделала приложение доступным для текущих и потенциальных инвесторов, а также бизнес-партнеров. Среди них был миллиардер, который использовал приложение, чтобы узнать, с кем встречается его дочь.

Сенатор Эд Марки потребовал, чтобы компания раскрыла своих клиентов из правоохранительных органов и позволила американцам удалить себя из базы данных Clearview. Чиновники в Канаде, Великобритании, Австралии и ЕС начали расследовать деятельность компании.

В Иллинойсе и Техасе компании и до Clearview должны были получать согласие жителей на использование их уникального рисунка лица. После шумихи вокруг приложения сенаторы Берни Сандерс и Джефф Меркли предложили расширить закон Иллинойса на всю страну. Против Clearview подали 10 коллективных исков за вторжение в частную жизнь и еще два от Американского союза защиты гражданских свобод и генерального прокурора Вермонта.

Казалось, Clearview просто засудят. Однако из-за отсутствия федерального закона о распознавании лиц этого не произошло.

Компания просто перестала работать с частными организациями и продолжила сотрудничать с госорганами. На данный момент Clearview привлекла $17 млн и оценивается почти в $109 млн. Программой пользуются 3100 правоохранительных учреждений США. Среди ее клиентов — армия и военно-воздушные силы. Иммиграционная и таможенная полиция даже подписала с Clearview сделку на $224 000.

Для защиты в судебных процессах штата Иллинойс Clearview наняла одного из лучших юристов страны — Флойда Абрамса. Он еще 50 лет назад защищал право The New York Times публиковать документы Пентагона. Тот факт, что база данных Clearview состоит из публичных фотографий, — ключевой аргумент защиты Абрамса, ярого приверженца Первой поправки. По его мнению, раз информация уже опубликована и доступна широкой публике, поправка защищает действия компании.

Защитники гражданских свобод опасаются победы Clearview в судах и ее последствий. Технологии распознавания лиц все еще несовершенны. В 2019 году Национальный институт стандартов и технологий обнаружил, что многие алгоритмы менее точно идентифицируют цветных людей. Это означает, что их использование может усугубить предвзятость системы уголовного правосудия.

Кто стоит за Clearview

Оказалось, что Clearview связана с крайне правым провокатором Чарльзом Джонсоном, который известен распространением дезинформации. При Трампе он начал набирать влияние, так как его политические взгляды и тактики стали ближе к мейнстриму. Джонсон даже сотрудничал с Белым домом. Он считает себя третьим соучредителем Clearview, что подтверждают юридические документы.

Джонсон познакомился с Тон-Зетом в 2016 году. Они быстро подружились на почве правых взглядов, и Тон-Зет стал сторонником Трампа. Новоиспеченные друзья даже посетили Республиканский национальный съезд в Кливленде, где Трампа выбрали кандидатом в президенты от партии. Джонсон предложил Тон-Зету познакомиться с инвестором Питером Тилем. Он также приехал в Кливленд, чтобы поддержать Трампа и произнести речь на съезде республиканцев.

Именно во время этой поездки у друзей появилась идея создания компании. Джонсон привлек Шварца к зарождающемуся делу из-за его обширных политических связей в Нью-Йорке. Как у бывшего соратника Джулиани, у Шварца был доступ к самому Трампу.

Компанию назвали Smartcheckr. В ней у Джонсона, Тон-Зета и Шварца были равные доли. Тон-Зет говорит, что вначале они не собирались заниматься распознаванием лиц. Джонсон утверждает обратное.

Так или иначе, в 2017 году инвестфирма Тиля вложила в компанию $200 000. Неудивительно, что он причастен к ее появлению. Тиль — создатель еще одной компании по сбору данных Palantir.

Очевидно, чтобы заработать денег на развитие технологии по распознаванию лиц, в Smartcheckr сначала решили заняться политическим консалтингом. Компания предлагала политикам и от Республиканской, и от Демократической партии услуги вроде микротаргетинга голосующих или помощи с «данными избирателей».

Вскоре компания отошла от этого направления, так как в 2018 году ее технология по распознаванию лиц существенно улучшилась, а база данных выросла. Также ее переименовали в Clearview AI. Летом 2018-го компания уже позиционировала себя как стартап в области безопасности. Clearview запустила пилотные проекты по распознаванию лиц в филиалах TD Bank и Gristedes Supermarket.

Джонсон из-за семейных проблем отошел от деятельности компании. В итоге его треть в Smartcheckr преобразовали в 10% долю в Clearview.

Иронично то, что правоохранители использовали Clearview, чтобы идентифицировать участников штурма Капитолия 6 января 2021 года. Компания, идея которой зародилась на мероприятии, посвященном Трампу, спустя 4 года помогала идентифицировать его же ярых сторонников.