Авторитарна технократія наближається. Чим нам загрожує нова ідеологія Кремнієвої долини
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
У Кремнієвої долини є власна політична ідеологія, що набирає обертів. Авторка The Atlantic Адрієн ЛаФранс називає її техноавторитаризмом. У своєму тексті вона пояснює, на яких принципах побудована ця ідеологія, чим загрожує людству та що з цим робити. Статтю українською мовою підготувало Бюро перекладів для бізнесу MK:translations. Ми публікуємо адаптовану версію матеріалу.
«Довбані ідіоти»
Уявімо Марка Цукерберга, який сидить у блакитному сяйві екрана свого комп’ютера років двадцять тому. Разом з приятелем він обговорював те, як його сайт, Thefacebook, допоміг отримати доступ до великого обсягу особистої інформації про його однокурсників.
- Цукерберг: «Тож, якщо тобі колись знадобиться інформація про когось із Гарварду…»
- Цукерберг: «Просто попроси».
- Цукерберг: «У мене є понад 4000 електронних листів, фотографій, адрес, сторінок у соцмережах».
- Друг: «Що? Як тобі це вдалося?».
- Цукерберг: «Люди просто поділилися цими даними».
- Цукерберг: «Я не знаю чому».
- Цукерберг: «Вони “довіряють мені”».
- Цукерберг: «Довбані ідіоти».
За цією розмовою, що пізніше стала відомою завдяки витоку записів чату, незабаром настала інша, не менш показова, хоч і більш вихована. На славнозвісній різдвяній вечірці 2007 року Цукерберг вперше зустрів Шеріл Сендберг. Пізніше вона стане операційною директоркою COO, яка разом із Цукербергом перетворить платформу на цифрову імперію.
Тоді ж Цукерберг, який ще на початку існування Facebook користувався гаслом «Компанія над країною», пояснив Сендберг, що хоче, аби кожен американець, у якого є доступ до інтернету, мав обліковий запис у Facebook. Якось Сендберг сказала колезі, що її «місія на цьому світі — це масштабувати організації», тож ця справа була якраз для неї.
Facebook (тепер Meta) став втіленням усього неприємного, що є в Кремнієвій долині. Його корислива роль у поширенні дезінформації в усьому світі призвела до тривалої кризи.
На думку також спадає таємний експеримент компанії з маніпулювання настроєм у 2012 році, в межах якого навмисно змінювали вміст стрічки новин, щоб визначити, як Facebook може впливати на емоційний стан користувачів без їхнього відома. Або участь у розпалюванні геноциду в М’янмі у 2017 році. Або той факт, що його використовували для планування та проведення повстання 6 січня 2021 року.
І все ж, значною мірою принципи ведення бізнесу у Facebook залишаються нормою для індустрії інформаційних технологій в цілому. Це не змінилось навіть зараз, коли інші соціальні платформи (TikTok) і технологічні розробки (штучний інтелект) затьмарюють Facebook, набуваючи більшої актуальності в культурі.
Щоб підтримувати масштабування цифрової імперії та переконувати себе в тому, що саме ви маєте ухвалювати всесвітньо-історичні рішення від імені громадян планети, які не обирали вас на цю посаду. Можливо вони не поділяють твоїх цінностей — або ж взагалі не в захваті, що у вас цих цінностей немає, — слід безліч незручних нюансів. Серед них скромність та уважність до деталей.
Багато титанів Кремнієвої долини неодноразово йшли на такі компроміси. YouTube (належить Google), Instagram (належить Meta) і Twitter (який Ілон Маск наполегливо просить називати X) завдали такої ж шкоди правам особи, громадянському суспільству та глобальній демократії, як і Facebook. З огляду на те, як генеративний ШІ зараз розвивається в Кремнієвій долині, ми маємо готуватися до того, що найближчими роками цю шкоду буде багаторазово помножено.
Дії компаній та їхніх керівників свідчать про те, що вони лицемірні, жадібні та одержимі статусом. Але в основі цієї жаги зробити що завгодно за гроші лежить дещо більш небезпечне — чітка та послідовна ідеологія, що рідко називають справжнім ім’ям — авторитарна технократія. Поки найпотужніші компанії Кремнієвої долини розвивалися, ця ідеологія ставала все сильнішою, обростаючи самовдоволенням, оманою та образою через критику.
Нові технократи показово звертаються до цінностей Просвітництва — розуму, прогресу, свободи, — але насправді стоять на чолі антидемократичного, антиліберального руху. Дехто з них заявляє про безумовну підтримку свободи слова. У той самий час вони не гидують помститися тим, чиї слова стають поперек горла.
Також вони схильні дотримуватись ексцентричних переконань:
- технологічний прогрес у будь-якому вигляді — це беззастережне і невіддільне благо;
- коли є можливість створити щось досі небачене, це треба створити;
- безперебійний інформаційний потік є найвищою цінністю незалежно від якості інформації;
- приватність є пережитком минулого;
- ми повинні з нетерпінням чекати на день, коли інтелект машин перевершить наш власний.
І перед усім — про те, що їхній вплив має бути необмеженим. Системи, що вони створили або створюють, щоб змінити наші методи комунікацій, переробити соціальні мережі, впровадити штучний інтелект у повсякденне життя тощо, нав’язують ці переконання користувачам, з якими не радяться і яких зазвичай не інформують про важливі зміни. Вони мають стільки влади, але все ще намагаються підтримувати абсурдний статус відчайдух-аутсайдерів.
Порівняння між Кремнієвою долиною та Волл-стріт чи Вашингтоном є звичним явищем. Неважко зрозуміти чому: усі вони є центрами сили, а також магнітами для людей, чиї амбіції занадто часто беруть гору над їхньою людяністю. Але Долина має навіть сильніший вплив. Вона змінює структуру суспільства більше, ніж будь-який інший центр влади в будь-яку іншу епоху, певно, з часів Нового курсу Рузвельта.
Багато американців небезпідставно занепокоєні зростанням авторитаризму серед MAGA-республіканців. Проте вони ризикують не помітити іншу гілку нелібералізму — надзвичайно могутніх королів технологій, схильних до істерик.
Прибуток переміг безпеку
Шекспірівська драма, що розгорнулася наприкінці минулого року в компанії OpenAI, підкреслює, наскільки добре у Кремнієвій долині засвоїли гасло Facebook «Рухайся швидко і руйнуй все на своєму шляху». OpenAI заснували у 2015 році як некомерційну організацію, що займається впровадженням загального штучного інтелекту таким чином, щоб він служив суспільному благу. В основі організації лежало переконання, що ця технологія надто потужна й небезпечна, тож її не варто розробляти лише з комерційних мотивів.
Але у 2019 році, коли швидкість розвитку цієї технології почала лякати навіть тих, хто над нею працював, компанія створила комерційне відділення, щоб залучити більше капіталу. Спочатку Microsoft інвестувала в неї $1 млрд, а згодом ще багато разів по стільки ж. Восени минулого року CEO компанії Сема Альтмана звільнили, а потім швидко найняли знову. Це стало сигналом про нехтування OpenAI раніше встановлених гарантій захисту, згідно з якими не можна ставити компанію над країною.
Відомо, що особи, які домагалися звільнення Альтмана, вважають, що він віддає надмірну перевагу темпам розвитку та забуває про безпеку. Але у відповідь Microsoft запропонувала роботу Альтману і будь-кому з OpenAI, щоб відновити у себе його команду. Розпочалося психологічне протистояння, яке призвело до відновлення Альтмана на посаді. Весь цей хаос відбувся на фоні чіткого меседжа: жага до масштабування і прибутку рішуче перемогли міркуваннями безпеки та соціальної відповідальності.
Кремнієва долина все ще приваблює багато надзвичайно талановитих людей, які прагнуть творити добро та працюють над створенням найкращої версії світового суспільства, з кращою комунікацією і великою кількістю даних.
Навіть компанії, які, здавалося б, лише шкодять, розробили неймовірні інструменти. Але вони теж стають системами маніпуляції та контролю. Обіцяють створити спільноту, але сіють розкол; заявляють про захист правди, але поширюють брехню; переймають поняття, як-от розширення можливостей і свобода, але постійно спостерігають за нами. Цінності, що зрештою перемагають, як правило, позбавляють нас волі та узалежнюють від екранів.
Потенціал ШІ в теорії настільки ж обнадійливий, як колись були обіцянки про соціальні медіа, і настільки ж приголомшливий, як припускають його найбільш захоплені прихильники. ШІ справді міг би вилікувати численні хвороби. Він дійсно міг би змінити науку та віднайти втрачені знання. Проте Кремнієва долина під впливом своїх найтемніших технократичних бажань дотримується правил, встановлених для масштабування та монополізації соціальної мережі.
OpenAI, Microsoft, Google та інші провідні корпорації у розробці ШІ не загострюють увагу на сферах найбільшої суспільної чи епістемологічної потреби, і, звісно ж, зовсім не думають про прозорість чи обережність. Натомість вони беруть участь у перегонах, щоб розбудовувати продукти швидше та максимізувати прибуток.
Усе це відбувається з огляду на філософію неминучості, що лежить в основі технократії. Тобто коли є можливість створити щось досі небачене, то це треба створити. «Я думаю, що у світі, який працює як треба, це мало б бути урядовим проєктом», — сказав Альтман моєму колезі Россу Андерсену минулого року, маючи на увазі спроби OpenAI розробити AGI. Але Альтман все одно збирався й далі будувати його сам.
Або, як сказав Цукерберг The New Yorker багато років тому: «Хіба це не неминуче, що з’явиться величезна соціальна мережа? … Якби ми цього не зробили, це зробив би хтось інший».
Більше про це
Світ, який чекає на всіх. Як 4 американських техноолігархи створюють нову реальність людства
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
«Маніфест технооптимізму»
Технократія вперше розквітла як політична ідеологія після Першої світової війни серед невеликої групи вчених та інженерів у Нью-Йорку. Вони хотіли, щоб нова соціальна структура з технологічною елітою на чолі замінила представницьку демократію. Хоча їхній рух зазнав політичного занепаду, адже зрештою людям більше сподобався «Новий курс» президента Франкліна Д. Рузвельта, він мав більший успіх в інтелектуальному плані. Поділяв деякі цінності з модернізмом у мистецтві та літературі, який на той час був актуальним, і разом з ним став символом епохи.
Модерністське гасло американського поета Езри Паунда «Зроби по-новому» легко могло стати мантрою для технократів. Паралельно розвивався рух італійських футуристів на чолі з такими діячами, як поет Філіппо Томмазо Марінетті. Він використовував такі принципи, як «Рух, а не занепад» та «Твори, а не споглядай».
Ідеєю технократів і футуристів була дія сама по собі. «Нас не влаштовує блукання в саду, який загородили темні кипариси, що сутуляться над руїнами та замшілим антикваріатом», — сказав Марінетті у своїй промові 1929 року. «Ми віримо, що єдина гідна традиція Італії — це не мати жодних традицій». Видатні футуристи зрештою перетворили свій хист до технологій, дії та швидкості на фашизм.
Після свого «Маніфесту футуризму» (1909-го) Марінетті випустив «Фашистський маніфест» (1919 рік). Його друг Паунд був у захваті від Беніто Муссоліні та у співпраці з його режимом вів радіошоу, в якому поет пропагував фашизм, прихильно відгукувався про «Майн кампф» і вихваляв як Муссоліні, так і Адольфа Гітлера. Еволюція футуризму у фашизм не була неминучою — деякі друзі Паунда згодом почали побоюватися його або думали, що він з’їхав з глузду.
Проте цей випадок показує, як під час розладу в суспільстві культурний рух, заснований на радикальній відмові від традицій та історії з відтінком незадоволення, може стати політичною ідеологією.
У жовтні венчурний капіталіст і технократ Марк Андріссен опублікував на сайті своєї компанії документ, більше схожий на потік свідомості, який він назвав «Маніфестом технооптимістів». Це ідеологічний коктейль на 5 000 слів, який настільки нагадує про італійських футуристів, як-от Марінетті, що викликає острах, і в якому вони безпосередньо згадуються.
Крім того, що Андріссен є одним із найвпливовіших інвесторів-мільярдерів Кремнієвої долини, він відомий своєю чутливістю до критики та впертістю. І попри оптимізм у назві документа, це есе, здається, дещо виказує його образу щодо технологій, які він і його попередники розвинули, адже їх більше не «прославляють як годиться». Цей документ демонструє світогляд, якого дотримуються він і його колеги-технократи.
Андріссен пише, що «немає жодної серйозної проблеми», в тому числі серед тих, які спричинили самі технології, яку «не можна було б вирішити за допомогою нових технологій». Він пише, що технологія повинна не просто постійно розвиватися, але й завжди прискорювати свій розвиток, «щоб гарантувати вічне існування висхідної спіралі технічного капіталу». А ще він критикує нібито кампанії проти технологій під такими назвами, як «технологічна етика» та «екзистенційний ризик».
Розгляньмо уривок, який можна вважати Апостольським cимволом віри його новоствореного політичного руху:
«Ми вважаємо, що інтелект і енергію треба замкнути в циклі позитивного зворотного зв’язку і вести їх до нескінченності…
Ми віримо в пригоди. У подорож героя, повстання проти статусу-кво, створення карти незвіданих територій, перемогу над драконами та повернення додому зі здобиччю для нашої спільноти…
Ми віримо в природу, але ми також віримо в подолання природи. Ми не примітивні люди, зіщулені від страху перед блискавкою. Ми — головний хижак; блискавка працює на нас».
Андріссен називає кількох «святих покровителів» свого руху, серед яких згадує Марінетті. Він цитує «Маніфест футуризму», замінюючи «поезію» Марінетті на «технологію»: «Краса існує лише в боротьбі. Не існує шедеврів без агресії. Технологія повинна жорстоко напасти на сили невідомого, щоб змусити їх схилитися перед людиною».
Маніфест Андріссена не є фашистським документом, але є екстремістським. Він бере розумну позицію — про те, що технологія в цілому значно покращила людське життя, — і спотворює її, щоб дійти абсурдного висновку, що, мовляв, будь-яка спроба стримати технологічний розвиток за будь-яких обставин заслуговує на ненависть. Ця думка, якщо розглядати її не цинічно, може існувати лише як релігійне переконання.
На практиці ж вона лише звільняє його та інших гігантів Кремнієвої долини від будь-яких моральних чи громадянських обов’язків, крім створення нових проєктів, які збагатять їх, не беручи до уваги шкоду для суспільства чи історії. Андріссен також додає список ворогів та провальних ідей, серед яких «інституції» та «традиції», які він закликає перемогти.
«Нашим ворогом, — пише Андріссен, — є всезнайка зі світоглядом дипломованого експерта, що потурає абстрактним теоріям, “люксовим” переконанням, соціальній інженерії, відірваний від реального світу, який помиляється, не обирається і не підзвітний. Він грає в Бога життями інших, повністю ізольований від наслідків своїх дій».
Іронія полягає в тому, що цей опис дуже пасує Андріссену та іншим представникам еліти Кремнієвої долини. Світ, який вони створили протягом останніх двох десятиліть, безперечно, є світом безрозсудної соціальної інженерії, який не несе наслідків для його архітекторів, які нав’язують усім нам власні абстрактні теорії та «погляди люкс».
Деякі принципи, які Андріссен висуває у своєму маніфесті, не створять ніяких проблем. Але всеосяжний радикалізм, з яким він говорить, враховуючи його впливовість і можливості, мав би викликати у вас занепокоєння. Ключові фігури Кремнієвої долини, включно з Маском, в останні роки явно потеплішали до антиліберальних ідей. У 2020 році частка голосів за Дональда Трампа в Кремнієвій долині становила 23% — небагато, але більше ніж 20%, які він отримав у 2016 році.
Основна небезпека авторитарної технократії наразі не є політичною, принаймні не в традиційному розумінні. Тим не менш, деякі особи вже мають авторитарний контроль для встановлення правил і культурних норм цифрового світу. За потужністю це можна прирівняти до політичної влади.
Що з цим робити
У 1961 році у своїй прощальній промові президент Дуайт Ейзенхауер попередив народ про небезпеку майбутньої технократії.
«Нам слід з повагою ставитися до наукових досліджень і відкриттів, — сказав він, — але, крім того, ми повинні бути пильними щодо протилежного ефекту, який несе таку ж загрозу того, що державна політика може сама стати полоненою науково-технологічної еліти. Завданням державного управління є формування, збалансування та інтеграція цих та інших сил, нових і старих, у рамках принципів нашої демократичної системи, які завжди мають бути спрямовані на досягнення найвищих цілей нашого вільного суспільства».
За вісім років у країні вперше під’єднали комп’ютери до ARPANET, попередника Всесвітньої павутини, що стала широко доступною у 1993 році. У той час Кремнієва долина вважалася утопією для амбітних капіталістів і оптимістичних винахідників з оригінальними ідеями, які хотіли змінити світ. Це було місце, не обтяжене бюрократією чи традиціями, де можна було працювати на швидкості інтернету (у ті часи 14,4 кілобіта на секунду).
Така культура мала свої недоліки навіть на початку, але вона також була по-американськи творчою. Це привело до створення революційного, а іноді навіть приголомшливо красивого апаратного та програмного забезпечення.
Довгий час я більше схилялася до думки Андріссена щодо регулювання технологій. Вірила, що соцмережа все ще може приносити користь. Що згодом цінності, які найкраще відповідають суспільним інтересам, звісно ж переможуть.
Я опиралася думці, що нам потрібна відповідна система, яка регулювала б соціальну мережу, частково тому, що я не була (і досі не є) переконана, що уряд може зробити це, не завдаючи шкоди (європейська модель регулювання, включно із законами, як-от так зване «право на забуття», глибоко суперечить принципам захисту вільної преси в Америці та становить загрозу праву громадськості на доступ до інформації). Я б воліла бачити ринкову конкуренцію як силу технологічного вдосконалення та покращення суспільства.
Але в останні роки стало зрозуміло, що регулювання потрібне, ще й тому, що зростання технократії доводить: лідери Кремнієвої долини просто не будуть діяти в інтересах суспільства. Необхідно багато зробити, щоб захистити дітей від небезпеки соціальних медіа, знищити монополії та олігополії, що завдають шкоди суспільству тощо. Водночас я вважаю, що одного лише регулювання буде недостатньо, щоб завдати серйозного удару культурній гнилі, яку поширюють нові технократи.
Університетам треба відновити належний статус лідерів у розробці технологій, що змінюють світ, на благо людства. Окремим людям також доведеться брати справу у свої руки. Можливо, ви не зможете повністю відмовитися від соціальних мереж або програмного забезпечення для спостереження на своєму робочому місці. Можливо, навіть не захочете відмовлятися від цих речей.
Але у визначенні ідеалів криється надзвичайна сила. Ми всі можемо почати це робити — для себе самих, справжніх офлайн-друзів, шкіл, релігійних спільнот.
Нам було б доцільно розробити більш детальні спільні норми для обговорення та прийняття рішень щодо використання інвазивних технологій між собою та в наших спільнотах. Це стосується чинних норм використання різних застосунків і YouTube на заняттях у школі, повсюдності смартфонів у руках підлітків і всюдисущого нехтування конфіденційністю. Людям, які вірять, що всі ми заслуговуємо на краще, потрібно докласти сил та очолити такі спроби.
Наші діти — це не набори даних, які чекають на кількісну оцінку, відстеження та продаж. Наша інтелектуальна продукція — це не просто навчальний посібник для ШІ, який він використає для імітації та плагіату. Наше життя призначене не для того, щоб оптимізувати його через екран, а для того, щоб його жити: встрягати в халепи, лазити по деревах, плавати уночі — коротко кажучи, шукати пригод. Ми стаємо кращою версією себе, не тоді, коли пишемо твіти, натискаємо «Подобається» або скролимо, скролимо й скролимо без зупину.
Технократи праві у тому, що технології є ключем до кращого світу. Але спочатку ми повинні визначитися, яким ми хочемо бачити цей світ. Які проблеми прагнемо розв’язати в суспільних інтересах і відповідно до цінностей й прав, що сприяють людській гідності, рівності, свободі, збереженню приватності життя, здоров’ю та добробуту? І ми повинні наполягати на тому, щоб лідери інституцій, які представляють нас використовували технології, корисні для людей і суспільства, а не лише ті, які збагачують технократів.
Ми не маємо жити у світі, який створюють для нас нові технократи. Ми не повинні погоджуватися на їхній проєкт дегуманізації та аналізу даних, який постійно зростає. Кожен з нас має свободу волі.
Геть політику «створюй, бо можеш». Геть стрічку новин на основі алгоритму. Геть інфраструктуру, створену для того, щоб відібрати в людей владу, а тим, у кого влада є, дати її ще більше. Кожен день ми обираємо, на що звернути свою увагу. Вона дорогоцінна. Тому нашу увагу відчайдушно хочуть ті, хто оберне її проти нас для власної вигоди та політичних цілей.
Не дозвольте їм це зробити.
