Старший брат простежить. Як алгоритми прогнозують злочини, але жертвують правами людини

Світ Філіпа Діка в сучасному суспільстві

У кулуарах поліцейської дільниці Нью-Йорка живуть троє буркотливих виродків із величезними головами та атрофованими тілами. Майк, Донна і Джеррі — пророки з аналітичного відділу поліції штату. Навколо них купчиться техніка: приймачі даних, аналізатори, компаратори й інші комп’ютерні механізми. Їхня мета — розшифровувати лепет розумово відсталих провидців. Їхня мова незрозуміла людині. Водночас в будь-якому зі слів або навіть складів цих істот може критися передбачення справжнього злочину.

Відділ, що займається розшифровкою цій какофонії, називається Precrime. Він створений, щоб виявляти й затримувати потенційних зловмисників — тих, хто тільки думав про злочин. У цьому аналітичному відділі працює головний герой оповідання Філіпа Діка «Звіт меншини» Джон Андертон. У систему пророкувань злочинів офіцер поліції вірить непорушно. Адже згідно зі статистикою, Precrime зменшив кількість тяжких злочинів у місті на 99,8%.

Розповідь Діка вперше опублікували 1956 року в журналі наукової фантастики Fantastic Universe. 2002 року Стівен Спілберг екранізував історію про недосконалі злочини в стрічці «Особлива думка».

А тепер перенесемося у 2013 рік, в Остін, район в західній частині Чикаго. В одному з невеликих будинків живе чорношкірий 22-річний Роберт Макденіел. Вранці до нього постукали співробітники поліції. Молодий чоловік із подивом запросив їх до хати. Переступивши поріг, вони повідомили Роберту, що він буде незабаром залучений у стрілянину. Водночас поліцейські не визначили, в якій ролі буде Макденіел — стрілком або жертвою.

Ця інформація базувалася на алгоритмі передбачення злочину, який використовували в поліції Чикаго. Імовірність, що Роберт незабаром постраждає, становила 99,9%. Чоловік не знав, як реагувати на цю інформацію. Його нічого не пов’язувало з криміналом. Одного разу Роберта оштрафували за невелику кількість марихуани, іншим разом — за ігри в кості на вулиці. На цьому список злочинів Роберта закінчувався.

Після цього візиту за чоловіком практично весь час спостерігали поліцейські. Жителі району почали підозрювати, що Роберт в чомусь замішаний.

Коли науково-фантастичний сюжет став реальністю

1994 року комісар поліції Нью-Йорка Вільям Браттон вирішив реорганізувати роботу на своїй ділянці. У правоохоронців були відсутні свіжі бази даних, комунікація між відділами була налагоджена слабо. Наслідком цих проблем стало зростання злочинності в місті.

Так, Браттон вирішив на своїй ділянці створити й впровадити програму Compstat. Вона працювала на базі алгоритму, який аналізував статистику злочинів у певній місцевості. Рапорти поліцейських заносилися в програму. У них — дані про сам злочин, повна інформація про жертв, час і місце. Алгоритм порівнював інформацію і міг встановити зв’язок між суб’єктами злочинів.

Результатом роботи Compstat стала комп’ютерна карта Charts of the Future. Вона ілюструвала, де найчастіше відбувалися розборки в місті. Це допомогло сфокусувати роботу поліції в певних мікрорайонах, які алгоритм вважав потенційно небезпечними. Інформація в Compstat оновлювалася кожні п’ять тижнів.

Через деякий час проєкт показав результат. За три роки загальний рівень злочинності у місті знизився на 27,44%, а вбивств — на 38,66% (на 3000 жертв менше, ніж було з 1990 до 1993). Такі показники зацікавили інші штати. Compstat став важливою частиною роботи правоохоронної системи США.

PredPol: теорія пограбування одного будинку

2012 року з’явився стартап PredPol (Predictive Policing). Його творцями стали доктор антропології Каліфорнійського університету Джефф Брантінгем і математик Джордж Молер. До запуску стартапу вчені публікували дослідження територіальних інстинктів у членів бандитських угруповань.

Вони лягли в основу ПО для запобігання злочинів — PredPol. Воно аналізує історичні дані про злочини в зазначеному районі. Після чого видає поліції дані про найнебезпечніші точки, де ймовірно може статися злочин. Так співробітник поліції може візуалізувати історію злочинів у певному районі в масштабі трьох, семи, 14 або 28 днів.

На відміну від Compstat, PredPol використовує машинне навчання. На виході у програми також утворюється карта з квадратами в приблизно 152 км². Кожному з них відповідає прогнозована ймовірність злочинів. Якщо область відзначається червоним, то вона висока, зеленим — низька.

Модель PredPol включає три аспекти злочинної поведінки:

• Repeat victimization (повторна віктимізація). Наприклад, якщо ваш будинок зламали сьогодні, то ризик повторного інциденту завтра зростає. Для правопорушників «раціонально» повернутися до місця, де вони раніше досягли успіху.
• Near-repeat victimization (повторна віктимізація поблизу). Якщо ваш будинок пограбували, зростає небезпека, що це трапиться з житлом сусіда. Методи злому в таких випадках майже завжди схожі.
• Local search (локальний пошук). За даними PredPol, статистично правопорушники рідко виїжджають далеко від основних місць своєї активності на зразок будинку і роботи. Схожі злочини, як правило, трапляються поруч.

Стартап сумарно залучив $3,7 млн. 2011 року PredPol впровадили в тестовому режимі в районі Лос-Анджелеса під назвою Футхілл (Foothill). На території приблизно 100 км² проживають майже 200 000 осіб. Більшість з них — вихідці з Латинської Америки й Мексики. Через деякий час PredPol допоміг знизити кількість квартирних крадіжок у Лос-Анджелесі на 25%, а в Санта-Крузі (Каліфорнія) — на 19%.

Palantir: секрети непомітного стеження

Palantir — мабуть, один із наймасштабніших і секретних проєктів зі збору та оброблення даних. Компанію заснували Пітер Тіль, Джо Лонсдейл, Алекс Короп, Стівен Коен і Натан Геттінгс 2003 року. Серед її клієнтів — Credit Suisse, JP Morgan Chase, Airbus, ЦРУ, ФБР і Міноборони США. 2015 року Palantir запатентував систему прогнозування злочинів.

У використанні продукти Palantir схожі на бази даних. Наприклад, журналісти Business Insider вивчали терористичні атаки в Багдаді. Так, вони з’ясували, що програма дозволяє візуалізувати на карті всі атаки за певний період. Також база містить докладні дані про кожну з них. Плюс Palantir дозволяє встановити зв’язок між людьми, причетними до тієї чи іншої події.

З моменту створення Palantir був замішаний мінімум у двох гучних скандалах. Наприклад, 2011 року в мережу витекла презентація стратегії й методів боротьби з Wikileaks. У тому числі Palantir пропонував кібератаки й тиск на журналістів, які підтримують цей проєкт. Після розголосу в Palantir офіційно вибачилися перед усіма причетними.

Також 2018 року The Verge розповіло, що поліція Нового Орлеана шість років використовувала систему прогнозування злочинів від Palantir. Так правоохоронці збирали відомості про жителів міста без їхнього відома. Того ж року поліція Нового Орлеана відмовилася від партнерства з Palantir.

SSL: коли стратегічним об’єктом може стати кожен

«Список стратегічних об’єктів» (ССО) або Strategic Subjects List (SSL) — модель, орієнтована на виявлення потенційних злочинців. Вона стала результатом співпраці Чиказького відділу поліції й Іллінойського технологічного інституту.

Алгоритм SSL ставив акцент не на територіальному аспекті, а на людському. Він ранжує людей за кількістю порушень і присвоює кожному від 0 до 500 балів. Відповідно, 0 означає «низький рівень ризику» того, що людина буде залучена в інцидент зі стріляниною як в ролі злочинця, так і жертви.

Для цього SSL використовує вісім атрибутів для ранжирування та оцінки:

• кількість разів, коли людина була причетна до перестрілок;
• вік під час його/її останнього арешту;
• число разів, коли людина ставала жертвою побоїв або нападів;
• кількість попередніх арештів за насильницькі злочини;
• приналежність до банди або інших вуличних організацій;
• число попередніх арештів за наркотики;
• тенденцію злочинності в районі, де живе людина;
• кількість попередніх арештів за незаконне використання зброї.

Також алгоритм аналізує наявність у потенційного злочинця освіти, зв’язків з раніше судимими людьми й часті зміни місця проживання.

Саме цей алгоритм вніс 22-річного Роберта Макденіела в списки потенційно небезпечних людей. Усього в ньому станом на 2013 рік було приблизно 420 імен, до 2017 — 400 000. SSL фінансувалося коштом федерального гранту — приблизно $4 млн. Восени 2019 року він закінчився, і програма припинила роботу.

У чому небезпека подібних алгоритмів?

У сучасних превентивних алгоритмів багато недоробок. Тому опинитися в списках потенційних злочинців може кожен.

Ризик збільшується у випадку з чорношкірими, латиноамериканцями або мігрантами. Оскільки відповідно до зазначених вище алгоритмів, такі люди частіше схильні до правопорушень. На думку американських правозахисників, це посилює нерівність і дискримінацію в суспільстві.

Директор правозахисної організації Electronic Frontier Foundation (EFF) Шахід Буттар вважає, що технології передбачення неминуче упереджені.

«Якщо зігнати в один район більше поліції, там знайдуть більше злочинів. Потім ШІ передбачить, що це дуже криміногенне місце», — каже правозахисник.

На думку професора права юридичного факультету Університету округу Колумбія Ендрю Фергюсона, ефективність подібних інтелектуальних систем все ще не доведена.

«Насправді не було зовнішньої перевірки того, чи працює ця технологія, що вона взагалі означає, з чим її порівнюють. Бракує також досліджень і наукових даних з цього приводу», — каже викладач.

Як підсумок, подібні програми використовуються недобросовісними поліцейськими для набивання статистики роботи. Про це ще 2010 року заявив колишній офіцер поліції Нью-Йорка Адріан Скулкрафт.

Чи використовують методи передбачення злочинів в Україні?

Нині в роботі українських правоохоронців використовуються спеціальні інформаційно-пошукові системи й бази даних. Вони містять величезний обсяг інформації з об’єктів, які служили речовими доказами у кримінальних виробництвах. Серед них:

• сліди рук з місця події;
• експертиза зброї;
• експертиза вкрадених речей;
• експертиза наркотичних засобів.

Низка баз даних для потреб органів кримінальної юстиції була створена співробітниками Науково-дослідного інституту вивчення проблем злочинності імені академіка В. В. Сташиса Національної академії правових наук України.

Наприклад, один з таких проєктів — «Профіль вбивці» (2016). Це база даних. У неї потрібно ввести мінімум чотири ознаки конкретного кримінального провадження (стать і вік жертви, місце і спосіб вбивства). Після цього програма автоматично формує кілька версій щодо особи вбивці та мотивів скоєного злочину.

2 грудня 2020 року Кабінет міністрів затвердив Концепцію розвитку штучного інтелекту в Україні. В її межах планують впровадити до 2030 року ШІ в галузі освіти, науки, кібербезпеки, оборони й публічного управління.

У документі також зазначається, що ШІ планують підключати для «запобігання суспільно небезпечних явищ шляхом аналізу явних даних». Також концепція передбачає створення «Етичного кодексу ШІ» з урахуванням практики подібних систем в Європі й США.

Як буде працювати подібний механізм в Україні й коли його впровадять — поки невідомо.

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter