ТЕХНОЛОГІЇ

Світ безкінечного ІПСО. Що таке PSYOP-капіталізм та чим він небезпечний 

09 Лютого 2024, 09:00
11 хв читання
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Надія Баловсяк Спостерігаю за технологіями, аналізую та розповідаю про них
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Українці добре знають термін ІПСО або PSYOP. Тобто набір запланованих дій розповсюдження інформації (часто дезінформації) до аудиторій, щоб вплинути на почуття, мотиви, критичне мислення, а відтак на діяльність урядів, організацій, груп чи окремих людей. І якщо зараз ми часто чуємо його в контексті військової агресії рф, то в найближчому майбутньому він широко використовуватиметься в більшості сфері — від маркетингу до культури. 

Принаймні такий висновок можна зробити з концепції PSYOP-капіталізму Тревора Паглена. Журналістка Надія Баловсяк розповідає, у чому її суть та які загрози вбачає автор.

PSYOP-капіталізм та Тревор Паглен

«Оскільки контент, що генерується штучним інтелектом, операції впливу в соцмережах, мікротаргетована реклама і всюдисуще спостереження стали нормою в інтернеті та на ринку загалом, ми вступили в епоху PSYOP-капіталізму. Це ера генерованих галюцинацій, покликаних перетворити кожного з нас на “цільового індивіда” за допомогою маніпуляції сприйняттям», — йдеться в анонсі минулорічного виступу Тревора Паглена в Університеті Торонто. Одночасно це, мабуть, найлаконічніше пояснення, що таке PSYOP-капіталізм.

Паглен — американський митець, географ і письменник, який пише про масове спостереження та збір даних. Він вважає, що основою PSYOP-капіталізму стали доступність даних про користувачів та алгоритми, що працюють з ними та формують персоналізовану реальність для кожного юзера. При цьому психологічні операції широко використовуються в різних сферах  — від маркетингу й продажів до культури, політики та сфери управління. 

Подекуди ідеї Паглена звучать, як теорія змови. Наприклад, особлива увага автора до НЛО та програми ЦРУ MK-Ultra. Проте в них є певне раціональне зерно, особливо для тих, хто неодноразово стикався з ІПСО у нинішній інформаційній епосі. Зокрема, українці щонайменше кілька років потерпають від дій російських спецслужб, які намагаються за допомогою таких операцій посіяти розбрат всередині нашого суспільства. 

Словом, концепція PSYOP-капіталізму, імовірно, досить близький до нинішньої реальності погляд на розвиток технологій та вплив суспільства. Проте, щоб краще її зрозуміти, потрібно спочатку розібратися, як ми прийшли до цього етапу.

Від капіталізму спостережень до PSYOP

Капіталізм спостереження (surveillance capitalism) — термін, який використала професорка Шошана Зубофф у своїй книзі «Епоха капіталізму спостережень. Боротьба за майбутнє людини на новому кордоні влади». Авторка визначає його як явище, створене завдяки існуванню великої кількості інструментів моніторингу за активністю людей в цифровому просторі. Зубофф називає це капіталізмом через появу великих компаній, які навчилися успішно заробляти на результатах такого спостереження. 

Передовсім вигодонабувачами капіталізму спостереження є техногіганти, які досконало навчилися перетворювати дані на дохід.

За великим рахунком, весь стрімкий розвиток інтернету та онлайн-сервісів пов’язаний саме з моделлю, побудованою на пропонуванні користувачам безоплатних продуктів (тих же соцмереж) та отриманні натомість таких складновимірюваних речей як даних про їхні вподобання та активність. 

Зубофф описує капіталізм спостереження як односторонню вимогу людського досвіду для його подальшого використання як палива для роботи нової економіки та перетворення його в дохід. Онлайн-середовище, у якому він функціонує, є трансформатором необроблених даних про людей та їхню поведінку у впорядковану інформацію, яку можна продати багатьом зацікавленим у ній сторонам. І все це відбувається на фоні стійкого нерозуміння людьми цінності персональних даних. 

Врешті техногіганти збирають величезну кількість інформації про нас та заробляють на тому, що пропонують нам же цільову рекламу товарів. Саме так монетизуються Google та Meta. Також вони показують контент, який нас точно зачепить і збільшить час, який ми тратимо на їхні продукти. Ця ідея лежить в основі монетизації і Meta, і YouTube, TikTok чи Netflix. 

На думку Тревора Паглена, капіталізм спостережень уже досягнув своїх вершин у мистецтві створювати дохід на даних. Тепер його методи формування інтересу та зацікавленості до певних речей стали переймати інші сфери бізнесу та навіть держава. 

Паглен вбачає значну частку правди в конспірологічній «теорії мертвого інтернету». Згідно з нею, інтернет тепер складається здебільшого зі спеціально створених ботів і автоматично генерованого контенту, яким маніпулюють алгоритми. Їхнє завдання в кінцевому підсумку керувати споживацькими настроями та громадським сприйняттям. На його думку, усе в онлайні перетворилося на певний різновид ІПСО. 

«Галюцинації стали перетворюватися на реальність. Реальність стала галюцинацією. Почалася епоха змов. Одна з них свідчила, що світові лідери змовились, щоб пити кров. Згідно з іншою, ШІ захопить світ і поневолить людську расу. А ще одна каже, що всі ми живемо в симуляції, синтетичній конструкції, де немає відмінностей між реальністю і галюцинаціями», — каже Паглен.

Однією з характеристик цього середовища стали когнітивні війни (чи когнітивні атаки). Цей термін дотичний до сфери національної безпеки. Він означає дії, які проводяться синхронно з іншими інструментами задля впливу на ставлення до певних речей та поведінку людей. Зокрема на когнітивні здібності особи чи групи людей задля отримання переваг над ними (або над супротивником — якщо послуговуватися військовими термінами). 

«Маніпулювання суспільством, покликане змінити сприйняття реальності, стало новою нормою, а людське пізнання перетворилося на найважливішу сферу військових дій», — пишуть у НАТО.

Тревор Паглен вважає, що когнітивна війна тепер є стандартною частиною маркетингу, продажів, менеджменту, політики та навіть культури загалом. «І нічим хорошим це не закінчиться. Іронія полягає в тому, що коли ви починаєте розуміти, що ваше сприйняття вас зраджує і що інші люди вигадали, як використати його проти вас, то тендітне перемир’я, яке ваш перцептивний апарат уклав із навколишнім світом, порушується», — вважає Паглен.

Хоча часто він звучить, як конспіролог, проте складно сперечатись з його поглядами, коли знаєш реальні випадки, у яких вдалось маніпулювати людьми завдяки технологіям. Наприклад, та ж історія Cambridge Analytica та робота російської «фабрики тролів». 

PSYOP-капіталізм та штучний інтелект 

Паглен переконаний, що штучний інтелект посилюватиме PSYOP-капіталізм. Він посилається на відомий уявний експеримент зі скріпками, про який писав у своїй книзі «Суперінтелект» Нік Бостром. Останній пояснював: якщо поставити перед штучним суперінтелектом завдання  якнайбільше і якнайкраще робити скріпки, то ШІ в якийсь момент розуміє, що людина становить загрозу. Наприклад, може вимкнути його, що не дозволить виконувати місію. Тому вирішить не допустити цього.

Проте навіть якщо ми не становитимемо небезпеки, це не означає, що нам нічого не загрожуватиме. ШІ може вирішити, що людські тіла складаються з атомів, які підійдуть для виробництва скріпок. Так, він перетворить людство на скріпки.

На думку Паглена, «апокаліпсис скріпок» уже почався. Проте замість скріпок власники ШІ несамовито замінюють світ згенерованими статтями-списками та клікбейтом.

Що стосується можливостей штучного інтелекту в маніпулюванні будь-яким вибором, не лише політичним, то сумнівів в їхній досконалості немає. І поки платформи й техногіганти шукають способи приборкати AI як ідеального творця фейків, у світі з’являються все нові варіанти використання ШІ для маніпуляцій. 

До прикладу, уже в січні цього року невідомі скористалися штучно згенерованим голосом президента Байдена, який закликав не голосувати на президентських праймеріз. Цікаво, що представники команди — супротивника Дональда Трампа — заперечують свою причетність. 

«Своєрідна тонка мембрана, що відділяла людей від машин, почала розчинятися. Amazon переповнений книгами, створеними штучним інтелектом, соціальні мережі та вебсайти завалені чат-ботами, які створюють контент. Пошукові системи практично марні, оскільки AI-контент захоплює інтернет», — пояснює Паглен ризики запровадження AI. 

Він нагадує, що завдяки «метамфетаміновим алгоритмам рекомендацій» користувачі Youtube і TikTok опиняються в найглибших кролячих норах, які може запропонувати культура. Стосунки стають парасоціальними і дедалі дивнішими: боти поводяться як люди — як партнери, друзі або коханці, що фліртують, втішають і підбадьорюють. А люди все більше стають подібні до ботів. 

На думку Паглена, ситуація може дійти до того, що «AI-друзі людини почнуть розгортати когнітивні ін’єкційні атаки в реальному часі, призначені для ще більшого маніпулювання вами способами, про які ви навіть не усвідомлюєте». 

Паглен вважає, що кожен уже бачить свою персоналізовану версію інтернету. Проте генеративний ШІ зрештою синтезуватиме медіа, підлаштовуючись під кожного з нас.

Ідеолог PSYOP-капіталізму аргументує свої погляди нашим життям в онлайн-середовищі, де платформи досягли надзвичайних успіхів у створенні персоналізованого контенту, який хочете бачити саме ви. Він вважає, що цей тренд лише посилюватиметься:

«У найближчому майбутньому ми з вами дивитимемося нібито одне й те саме шоу на Netflix, але кожен з нас побачить свій фільм». 

На його думку, стрімінгова платформа, генеруватиме для нас фільми, ґрунтуючись на двох речах: 

  • тому, що ми хочемо побачити; 
  • те, що буде найефективнішим способом витягти з нас якусь цінність.

Таким чином ми опинимось у віртуальній реальності ботів та згенерованого контенту, де абсолютно не розумітимемо, що правда та ні. Саме поняття власного вибору стане фактично неможливим, адже наше сприйняття буквально розірветься під численними шарами різних реальностей, які до того ж не збігаються з баченням навколишніх. 

Реальність та майбутнє PSYOP-капіталізму

Ідея PSYOP-капіталізму звучить досить переконливо. Проте це поки лише концепція, а не істина останньої інстанції. У своїй презентації, Паглен, наприклад, багато часу приділяє історії НЛО, магії та штучного інтелекту. Він вважає, що вони натискають на досить потужні неврологічні та перцептивні кнопки. Відповідно спецслужби знають про такі тригери та використовують їх десятиліттями. Проблема у тому, що ті ж НЛО та магія звучать аж надто параноїдально та конспірологічно, так само як згенерований світ з прикладу вище.

Попри це, ще історія з Cambridge Analytica показала, що політики напевне будуть використовувати дані про людей для маніпулювання їхнім вибором. Методи цього впливу відрізняються залежно від технологічного розвитку країни чи групи людей, які стануть жертвами. Те ж саме стосується маркетингу, культури та інших сфер. 

Словом, PSYOP-капіталізм поступово стає реальністю сучасного інтернету, принаймні доповнюючи капіталізм спостереження. Навіть якщо і не сягне тих рівнів, про які говорить Паглен. А ще його ідеї змушують вкотре задуматися про майбутнє технологій, їхній вплив на людей, сприйняття реальності та масштаби маніпуляцій. Проте поки не стануть помітні серйозні наслідки, ніхто не візьметься виправляти ситуацію. 

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

ЧИТАЙТЕ ТАКОЖ
Досвід і думки
Від генерації ідей до рутинних завдань. Як ШІ трансформує роботу комунікаційника
Матеріал успішно додано в закладки Досягнуто максимальної кількості закладок
28 Січня 2024, 13:00 8 хв читання
Завантаження...