Релігія Маска. Чому лонгтермізм (не) має стати новою ідеологією людства

Хто це почав

У 1980-х роках британський філософ Дерек Парфіт поставив питання, яке мало б прояснити наші моральні зобов’язання перед ненародженими поколіннями:

«Уявіть собі дитину, яка біжить босоніж лісом, а під землею лежить розбита скляна пляшка. Що гірше: те, що сьогоднішня дитина наступить на уламки, чи те, що це зробить дитина через 100 років?».

Тут, як завжди, усе залежить від ракурсу. Хтось сподіватиметься, що за 100 років пляшку приберуть, тому краще, щоб не поранилась дитина зараз. Інші — вважатимуть, що головне, аби це була не їхня дитина. На думку ж лонгтермістів, нинішня дитина ніяк не відрізняється від майбутньої. Як пояснював все той же Парфіт, свідомий ризик заподіяння шкоди людині однаково поганий, незалежно, відбувається це зараз чи через століття.

Саме його ідеї послужили основою для розвитку гілки моральної філософії, яку ми знаємо як лонгтермізм. Він ґрунтується на трьох передумовах: майбутні люди важливі, їх може бути багато, і ми в силах зробити їхнє життя кращим або гіршим. Тому забезпечення хорошого майбутнього має стати одним із головних моральних пріоритетів нашого часу. Ширшого вжитку лонгтермізм набув не завдяки Парфіту, а через популярність серед технологічних лідерів та футуристів. Зокрема, підтримку Ілона Маска, Ніка Бострома та Елізера Юдковського.

Важливу роль в тому, що ця течія набрала розмаху та отримала гілку «сильного лонгтермізму», відіграв шотландський філософ та науковий співробітник Інституту глобальних пріоритетів Оксфордського університету Вільям Макаскілл. І на ньому варто зупинитися докладніше. 

Ефективний альтруїст 

В юності Макаскілл зловживав пивом, виступав як саксофоніст у студентському фанк-гурті, а ще був відомий як безнадійний романтик. Останнє, схоже, залишилося з ним на все життя. У 18-літньому віці майбутній філософ познайомився з есе філософа Пітера Сінгера «Famine, Affluence, and Morality» (1972). Це змінило життя Макаскілла.

Сінгер вважає, що розвиток інфраструктури, зокрема транспорту та засобів зв’язку, вплинув на моральні зобов‘язання людства. Ми стали відповідальними майже за все зло, яке відбувається у світі. Тобто віддаленість від, наприклад, країни, що голодує, більше не є причиною жити звичне життя й відмовитися їй допомагати.

Сінгер вважає, якщо в наших силах запобігти чомусь поганому, не жертвуючи при цьому чимось з такою ж моральною цінністю, то ми повинні це зробити. В есе він наводить приклад, схожий до Парфіта, але не про часову дистанцію (майбутнє), а географічну, а також про моральну цінність в порівнянні з потенційною жертвою. Якщо дуже коротко, то: ви проходите повз неглибокий ставок і бачите, що в ньому тоне дитина. Ви повинні увійти в нього й врятувати дитину. Проте це означатиме, що доведеться забруднити свій одяг. 

Як пояснюють в The New Yorker, неважливо, де знаходиться дитина — в ставку біля вас чи в метафоричному за тисячі кілометрів. Головне інше. Коли ви витрачаєте ресурси на непотрібні товари та блага, то це рівнозначно тому, щоб дозволити дитині потонути, аби не платити за хімчистку. Якщо вам здається це дивним, то не тільки вам. Насправді есе використовували як завдання для здібних студентів — знайти недоліки теорії, які звільняють від виконання її вимог. 

Проте Макаскілл взяв концепцію за основу та почав використовувати як наріжний життєвий принцип. Він знизив власні витрати, а заощаджені кошти почав жертвувати іншим. Наразі Макаскілл обмежує особистий бюджет приблизно 26 000 фунтами на рік, а все інше віддає. Також він не має власної квартири чи будинку, а тому ділить житло з двома сусідами.

Макаскілл не обмежив зону впливу ідей Сінгера власним життям, а допоміг перетворити їх на глобальний філософський рух під назвою «ефективний альтруїзм». Про цю концепцію можна докладніше прочитати в його книзі «Doing Good Better. How Effective Altruism can Help You Make a Difference». 

Суть ефективного альтруїзму — використати факти й докази, щоб з’ясувати, як принести максимальну користь іншим, і зробити це.

Мова не про просто пожертвувати на благодійність, а зробити це науково правильно. Тобто знайти, де ваші ресурси, час та кошти принесуть найбільшу користь, а також — де існує найвища потреба. Серед його прибічників називають Білла Гейтса, Воррена Баффета, Ілона Маска, Пітера Тіля, Дастіна Московіца, а також колишнього CEO FTX Сема Бенкмена-Фріда. 

Однак ефективним альтруїзмом все не закінчилоcя. Деякі філософи в рамках цього руху дійшли висновку, що найкращий спосіб допомогти найбільшій кількості людей — зосередитися на довгостроковому майбутньому людства. Тобто добробуті багатьох мільярдів людей, які ще не народилися. Так розпочалась популяризація лонгтермізму.

Довгостроковий вклад у людство

2020-го оксфордський філософ Тобі Орд випустив книгу «The Precipice». У ній розповідається про екзистенційні ризики — ті, які ставлять під загрозу знищення довгострокового потенціалу людства.

«Наскільки я можу судити, у ХХ столітті ризик вимирання людства або непоправного колапсу цивілізації становив приблизно один до ста. З урахуванням усього, що мені відомо, я оцінюю екзистенціальний ризик у поточному столітті як приблизно один до шести. Якщо ми не візьмемося за розум, якщо ми допустимо, щоб наша сила й далі наростала швидше, ніж накопичується мудрість, то варто очікувати, що цей ризик стане ще вищим наступного століття і далі посилюватиметься від століття до століття», — пише Орд.

В книзі він пояснює й суть лонгтермізму. Орд зауважує, що в рамках цієї філософської системи нашому поколінню відведена «лише сторінка в набагато довшій історії». Тому наша головна місія — вплинути (або не зуміти) на хід історії. Відповідно робота над збереженням довгострокового потенціалу людства є одним зі способів залишити свій слід у майбутньому. «Лонгтермізм ґрунтується на моральній переорієнтації на безмежне майбутнє, яке можуть перекреслити екзистенційні ризики», — пояснює він.

При цьому він вбачав, що людство досягне значного успіху, якщо ми зможемо проіснувати ще два століття та не розгубити власний потенціал.

«Ми можемо дістатися до однієї з головних вершин науки: повністю описати фундаментальні закони, що керують реальністю. І ми продовжимо розширювати діапазон свого прогресу, досліджуючи все нові й нові території. Найважливіше, мабуть, потенційні досягнення в галузі моралі. Хоча за століття і тисячоліття ми пройшли в цій сфері чималий шлях, прогрес у ній йшов значно повільніше, ніж в інших галузях, і був менш стабільним. Людство має потенціал побудувати воістину справедливий світ, і здійснення цієї мрії стало б величезним досягненням», — пише Орд.

А що Макаскілл? Коли Орд вперше згадав про екзистенційний ризик, він вважав це божевільною ідеєю. На той момент Макаскілл не знав, як вона пов’язана з його власними пріоритетами. Проте змінив думку, коли оцінив швидкість розвитку ШІ та зростання обчислювальних потужностей. 

Ще в липні 2019-го він написав розлогу статтю (а потім оновив у 2021-му) про визначення лонгтермізму. За нею, це погляд, згідно з яким позитивний вплив на довгострокове майбутнє є ключовим моральним пріоритетом нашого часу. 

Фактично це означає, що життя майбутніх людей має значення таке ж, як і теперішніх. При цьому мова не лише про наших дітей та онуків, а покоління, які будуть через тисячі чи навіть мільйони років після них.

Скажімо, якби ми могли не допустити смертельного вірусу чи ядерної війни через 1000 років, то чи виправдовувало б нас зараз рішення нічого не робити, бо цих людей поки немає.

При цьому Макаскілл не зупинився на одному визначенні. Він виділив одразу три концепції у цьому напрямку:

• Лонгтермізм (більш відомий, як слабкий лонгтермізм) — означає етичну позицію, яка особливо зацікавлена в тому, щоб довгострокові результати були гарними. Якщо спростити, то коли вас турбує загроза ШІ, і ви б не хотіли, щоб від нього постраждали майбутні покоління, то ви прихильник слабкого лонгтермізму.
• Сильний лонгтермізм — це погляд, згідно з яким визначальним фактором цінності наших дій сьогодні є те, як вони впливатимуть на дуже довгострокове майбутнє. Мова ледь не про тисячі та мільйони років уперед. 
• Дуже сильний лонгтермізм — погляд, згідно з яким довгострокові результати є надзвичайно важливими. Згідно з матеріалом Vox, тут ледь не ключовою є ідея, що людство повинно йти на великі ризики, щоб зробити довгострокове майбутнє утопічним.

«Можливо, в іншому місці Всесвіту, на який ми можемо впливати, не існує іншого    високорозумного життя, і, можливо, його ніколи не буде. Якщо це так, то наші дії мають космічне значення. З великою рідкістю приходить велика відповідальність. Протягом 13 млрд років відомий нам Всесвіт був позбавлений свідомості… Зараз і в найближчі століття ми стикаємося із загрозами, які можуть вбити нас усіх. І якщо ми зіпсуємо це, то зіпсуємо назавжди. Саморозуміння Всесвіту може бути назавжди втрачено… короткий і тонкий вогник свідомості, що мерехтів якийсь час, згасне назавжди», — цитують його слова у Vox.

Підсумовуючи, за лонгтермістами, майбутні покоління мають величезне значення, і ми вже несемо за них відповідальність. Тому маємо переконатися, що у них є майбутнє і воно буде гарним.

Звучить логічно й надихаюче. Уявіть, людей ХХІ століття, які замість споглядати своє досить сумбурне життя, що тоне в нових технологіях та інформаційному перевантаженні, зосередяться на побудові кращого майбутнього для наступних поколінь. Ба більше, лонгтермісти пояснюють, як це робити.

По-перше, зменшити ризик вимирання людства. В іншому випадку наші дії або бездіяльність повністю позбавлять їх шансу на життя. Тобто нам бажано не допускати ядерних війн та використання бактеріологічної зброї. Словом, прогрес та світле майбутнє — усе, як ми любимо.

По-друге, забезпечити процвітання цивілізації. Наприклад, через вдосконалення цінностей (Макаскілл приділяє їм особливу увагу), якими керується суспільство. Історично активісти та мислителі вже досягли низки довготривалих моральних покращень. Мова про демократію, права жінок та людей з різним кольором шкіри тощо. 

Проте не можна залишати цей процес напризволяще в надії, що все саме складеться якнайкращим чином. Ідеології та моральні цінності постійно конкурують між собою. Додамо до цього стрімкий розвиток ШІ, різницю між багатими та бідними, яка відкриває або ні доступ до сучасних технологічних рішень (включно з ліками), і поляризацію, яка панує в суспільстві. Словом, роботи у цьому напрямку ще дуже багато. Тому нам слід спиратися на прогрес попередників, щоб залишити ще кращий світ для майбутніх поколінь.

І тут починаються проблеми

Лонгтермізм можна вважати позитивним кроком щодо розвитку людства. Ми нарешті серйозно  взялися за побудову майбутнього, і цим займаються ледь не найрозумніші та найбагатші люди на планеті. Насправді ж все складніше, особливо якщо говорити про радикальний довгостроковий лонгтермізм.

2009 року футуролог Елізер Юдковський опублікував повість під назвою «Three Worlds Collide». Вона піднімає низку питань щодо ризиків становлення міжпланетним видом та контакту з позаземними цивілізаціями. А ще, на мій погляд, гарно ілюструє суть поглядів лонгтермістів.

Отже, корабель людей зустрічається в космосі одразу з двома інопланетними цивілізаціями:

• Перші — дітоїди. Інсектоїдна раса, яка їсть своїх дітей, і це важлива частина їх культури. Людство розвинутіше за дітоїдів. Також воно має за моральний обов’язок врятувати дітей. При цьому не може з етичних причин ні знищити, ні залишити дітоїдів, як є. 
• Другі — надщасливі. Це цивілізація розвинутіша за людей. Надщасливі не знають болю, страждань та присвятили життя найінтенсивнішим задоволенням, зокрема сексу. 

Не вдаватимуся в деталі, бо повість варто прочитати (навіть щоб потім розкритикувати). Проте врешті (спойлер) усе закінчується тим, що надщасливі вирішують допомогти (фактично, змусити) і людству, і дітоїдам ліквідувати фізичний біль, сором і любовні муки. Плюс нас мали б змінити на щось менш людське, але не надто. Залишилися б мистецтво, література, кохання тощо. Закінчується все радикальним рішенням — задля порятунку людської цивілізації в нинішньому вигляді (трохи вдосконаленішому, ніж зараз) довелося пожертвувати життями жителів колонізованої нею системи.

Лонгтермісти думають в схожому ключі. Щоб врятувати потенціал людської цивілізації та забезпечити його реалізацію, вони готові піти на жертви чи короткострокові (на їхній погляд) поступки. Це одна з можливих причин, чому той же Маск говорить про загрозу ядерної війни та придумує мирні плани для України. Або Елізер Юдковський рекомендує знищувати центри обробки даних авіаударом, якщо вони порушують відмову від розвитку ШІ.  

За словами філософа та критика лонгтермізму Еміля Торреса, найвищий пріоритет реалізації передбачуваного потенціалу людства здатний нетривіально збільшити ймовірність, що представники нинішнього і найближчих поколінь серйозно постраждають чи загинуть. 

З погляду лонгтермізму, світова війна, геноцид етносу чи нації — не є екзистенційними ризиками.

Зате розвиток просунутого ШІ, який через неправильно поставлене завдання вирішить передробити на скріпки всю матерію — так. Тому через останній варто непокоїтися більше. 

Ось як це пояснює футуролог-лонгтерміст Нік Бостром: «Неекзистенціальна катастрофа, що спричиняє розпад глобальної цивілізації, є, з точки зору людства в цілому, потенційно відновлюваною невдачею: гігантською бійнею для людини, маленькою помилкою для людства». 

При цьому для реалізації довгострокового потенціалу все одно доведеться йти на ризики. Тобто певний радикальний лонгтерміст може розвивати просунутий ШІ, щоб сприяти майбутньому нашої цивілізації. І так паралельно він створить екзистенційний ризик.

Виникає питання: а куди в цій історії поділась дитина, яка могла б потонути в неглибокому ставку тут чи за кілька тисяч кілометрів? Вона перенеслася в майбутнє і тепер диктує правила нашому та найближчим поколінням. А скоріше не вона, а впливові прихильники лонгтермізму.

Торрес називає його, можливо, однією з найбільш впливових ідеологій, про яку знають мало людей поза межами Кремнієвої долини та елітних університетів. Відтак її дотримується певна спільнота, до якої входять найбільш впливові та багаті люди. Історія вже неодноразово показувала нам, що буває, коли окрема країна або група вирішує побудувати світле майбутнє, не надто рахуючись з інтересами та потребами решти.

Але в чому ж полягає та омріяна реалізація потенціалу? Заради чого б ми мали пожертвувати цінністю окремої людини задля збереження та розповсюдження виду? За словами все того ж Торреса, деякі лонгтермісти вбачають під цим фінальним етапом  колонізацію космосу та створення величезних комп’ютерних симуляцій навколо зірок. У них неймовірно велика кількість людей щасливо житиме у віртуальній реальності.

«Ось у чому полягає наш “величезний і славетний” потенціал: значна кількість технологічно вдосконалених цифрових постлюдей всередині величезних комп’ютерних симуляцій, розкиданих по всьому майбутньому світловому конусу. Саме заради цієї мети політик-лонгтерміст знищить Німеччину. Саме заради цієї мети ми не повинні марнувати ресурси на такі речі, як подолання глобальної бідності, розглянути можливість впровадження глобальної системи спостереження, тримати на порядку денному питання про превентивну війну й зосередитися на суперінтелектуальних машинах, а не на порятунку людей на глобальному Півдні від руйнівних наслідків зміни клімату (в основному спричинених глобальною Північчю)», — підкреслює він.

Цю думку Торрес підкріплює тезою з дисертації ще одного філософа-лонгтерміста та екс-CEO FTX Foundation Ніка Бекстеда. Останній зазначав, що порятунок життів у бідних країнах може мати значно менші наслідки, ніж порятунок і покращення життя в багатих країнах. Просто останні мають значно більше інновацій, а їхні працівники продуктивніші з економічної точки зору.

Замість висновків

Попри сказане вище, було б неправильно вважати, що лонгтермізм — однозначне «зло». Це цінний підхід, який змушує нас пам’ятати, що після нас також будуть люди, і ми несемо відповідальність за них. Проте важливо зберігати баланс — і не забувати про ті самі моральні цінності, які також радять розвивати лонгтермісти.

Інакше ідея про покращення життя людей в майбутньому може перетворитися в радикальний план з порятунку тих, хто багатший, народився в більш успішній економічно країні або ж закінчив елітний університет. Помилки в цьому напрямку також можуть дорого коштувати людству, нехай не існування, але тих цінностей, які роблять нас нами. Рятуючи майбутню дитину, нам не варто забувати про теперішню, адже саме від неї залежить доля наступних поколінь, а значить і людства.

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter