«Оппенгеймер нашого часу». Як працює, планує та думає Сем Альтман — частина I

Презентація від буддійського монаха

Минулої весни Сем Альтман, 38-річний CEO OpenAI, мав розмову із Джеком Корнфілдом, улюбленим буддійським монахом Кремнієвої долини. Вона відбулася в межах конференції Wisdom 2.0 у Сан-Франциско, присвяченої поєднанню мудрості з «великими технологіями нашого часу». Два чоловіки зайняли величезні білі крісла на темній сцені з мандалою на задньому фоні. Здається, навіть модератор не розумів, чому Альтман завітав на цей захід.

Він прямо й спитав: «Що вас сюди привело?»

«Так, хм, дивіться», — сказав Альтман. «Мені точно цікава ця тема», — офіційною темою заходу були майндфулнес і ШІ. «Але зустріч із Джеком — серед найбільших радощів мого життя. Я б із величезною насолодою поговорив з ним буквально на будь-яку тему».

Тільки коли Корнфілд — 78-річний письменник, книжки якого, включно з «Мудрим серцем», розійшлися тиражем понад мільйона, — сказав вступне слово, усі зрозуміли мету зустрічі:

«За моїм досвідом, Сем… мені хочеться назвати його “лідером-служителем Філософія лідерства, у якій лідер-слуга ділиться владою, ставить потреби працівників на перше місце та допомагає людям розвиватися та працювати якомога краще. ”». 

Корнфілд прийшов засвідчити досконалість характеру Альтмана. Він повинен був відповісти на запитання, яке хвилювало багатьох з нас: «Наскільки в безпеці ми почувалися з Альтманом, враховуючи, що цей відносно молодий чоловік, схоже, контролює те, як ШІ стане частиною нашого світу?»

За словами Корнфілда, вони з Альтманом знайомі кілька років. Медитували разом, шукали відповідь на питання, як Альтман може вбудувати до свого творіння обітниці Бодхісаттви щодо піклування про всіх живих істот»? Чи можна якось, на найглибшому рівні, запрограмувати співчуття та турботу?

Протягом усієї промови Корнфілда Альтман не схрещував ноги. Руки були складені на колінах, а вираз обличчя мав демонструвати терплячість (хоча й було ясно, що вона йому непритаманна). Корнфілд попередив: «Я змушу тебе соромитися». Потім монах знову звернувся до публіки: «У нього чисте серце».

Далі більшу частину розмови Альтман розвивав свої головні тези. Він знає, що люди бояться ШІ, і вважає, що нам дійсно слід це робити. Він відчуває моральну відповідальність — прийти й відповісти на запитання людей. За його словами, «було б дуже нераціонально цього не зробити». Людство має разом вирішувати, що може робити ШІ, а чого слід уникати.

За власною оцінкою Альтмана, яку можна зрозуміти з численних публікацій у блозі, подкастах і відеовиступах, нам слід добре, але без захвату ставитися до нього в ролі лідера розвитку ШІ. Він бачить себе як досить-розумного-але-не-геніального «технологічного брата», трохи схожого на Ікара, що має кілька визначних рис.

По-перше, Альтман має «абсолютно нереалістичний рівень впевненості в собі». По-друге, майже пророцьке бачення «розвитку технологій і змін у суспільстві у довгостроковій перспективі». По-третє, він єврей, тому хоч і оптиміст, проте чекає найгіршого. По-четверте, він чудово оцінює ризики, оскільки його мозок не зациклюється на тому, що думають інші.

З іншого боку, він ані емоційно, ані за демографічними ознаками не придатний для ролі, у якій опинився. «Можливо, хтось інший насолоджувався б цією роботою більше», — зізнався він у березні на Lex Fridman Podcast. «Можливо, хтось значно харизматичніший». Альтман усвідомлює, що «існує досить далеко від реальності, у якій живе більшість людей». Він також може бути «емоційно глухим». Наприклад, як багато учасників «технологічної бульбашки», Альтман користується фразою «медіанна людина».

Модератор наполегливо питав Альтмана, як він планує визначати цінності для свого ШІ. За словами підприємця, один із варіантів — зібрати «якомога більшу частку людства» і дійти світового консенсусу. Тобто разом вирішити, що «ось ці системи цінностей треба вкласти, а це межі, за які система не має ніколи виходити».

Аудиторія затихла.

«Ще один варіант, на який я погодився б, щоб Джек (Корнфілд, — прим.ред) просто написав десять сторінок на тему “Ось такими мають бути загальні цінності, а ось так ми змусимо систему їх дотримуватися”. Це було б непогано».

Повна тиша в залі.

Альтман не зміг сказати напевно, чи очолювану ним революцію в історичній перспективі вважатимуть технологічною або суспільною. Але вірив, що вона буде «масштабнішою за стандартну технологічну революцію».

Вона неминуча, у цьому він упевнений. ШІ здійснить переворот щонайменше у політиці (уже зараз викликає серйозне занепокоєння застосування діпфейків під час президентських виборів 2024-го), сфері праці (ШІ був причиною страйку голлівудських сценаристів), громадянських прав, в індустрії спостереження, військовій сфері та освіті, а також з точки зору економічної нерівності. Влада Альтмана і те, як він нею користуватиметься, — наразі наша загальна проблема.

Але може бути складно зрозуміти, ким насправді є Альтман. Наскільки йому варто довіряти. Наскільки він враховує побоювання інших людей, навіть коли виходить на сцену з наміром їх заспокоїти. Він зізнається, що намагатиметься уповільнити революцію, наскільки зможе. Але все ж вірить, що все буде добре. Або, імовірно, буде добре. 

«Ми» — це коротесеньке слово, з натяком на королівські амбіції, часто звучало в його промові — повинні просто «зрозуміти, чого хочемо, що будемо цього домагатися, і прийняти факт — майбутнє значно відрізнятиметься від сьогодення, і, імовірно, у значно кращу сторону».

Це твердження аудиторія також сприйняла без ентузіазму.

«Багато нервового сміху», — відзначив Альтман.

А потім розвів руки та знизав плечима. «Я міг би збрехати вам і сказати: “О, ми точно можемо це зупинити.” Але я вважаю, що це…»

Гарний хлопець з прагненням до влади

Альтман не закінчив думку, тому ми повернулися до цієї розмови у серпні в офісі OpenAI у Сан-Франциско. Зовні, на вулиці, ніби проходить неокапіталістичний гаражний розпродаж: автомобілі без водіїв, собаки лежать на сонці біля наметів, розташованих прямо на тротуарі, поблизу автобусне депо, і магазини, де продають лате за $6. Усередині OpenAI схожа на банальну і не дуже примітну технічну корпорацію: «Будь ласка, візьміть Pellegrino з міні-холодильника, або наліпку з нашим логотипом».

В особистому спілкуванні Альтман чарівніший, серйозніший, спокійніший і веселіший (це більше проявляється в мові його тіла), ніж можна очікувати. Він викликає симпатію. У його волоссі помітна сивина. Сем одягнув ту ж сорочку «хенлі», яка швидко стає його візитівкою. 

Я була десятимільярдним журналістом, з яким він розмовляв того літа. Тому коли ми усілися в звукоізольованій кімнаті, попросила вибачення за те, що змусила його знову давати інтерв’ю. А він посміхнувся й сказав: «Я дуже радий познайомитися з вами».

Про Корнфілда: «Після того виступу хтось сказав мені: «Знаєте, я вельми хвилювався, що OpenAI ухвалюватиме всі рішення про цінності ШІ, а ви запевнили мене, що не збираєтеся цього робити», — я відповів: «Чудово». І почув: «Ні, тепер я хвилююся ще більше. Ви довірите рішення світові, а я цього не хочу».

Навіть Альтман розуміє — те, що він стоїть на сцені та відповідає на запитання про глобальні цінності, — не норма. «Якби я не брав у цьому участі, я б також запитував себе: “Чому ці засранці вирішують, яким буде моє майбутнє?”» — так він сказав у 2016 році Теду Френду з The New Yorker. Через сім років його заяви пом’якшали. «Я з великою прихильністю ставлюся до думки, що проєкти на кшталт OpenAI повинні бути урядовими проєктами».

Цей новий образ «гарного хлопця» не зовсім відповідає давновідомому прагненню Альтмана до влади.

Один з його близьких друзів у розмові охарактеризував його так: «Він найамбітніша людина з усіх моїх знайомих, які ще сповна розуму. А я знаю 20 000 людей в Кремнієвій долині».

Утім, Альтман розповідає про свій успіх з певною скромністю. «Розумієте, я єврей з Середнього Заходу, і моє дитинство було, якщо сказати дуже ввічливо, досить незручним. І я керую майже єдиним…» — він схаменувся. — «Одним з декількох десятків найважливіших технологічних проєктів. Я не міг навіть уявити, що це на мене чекало».

Його дитинство

Альтман виріс у передмісті Сент-Луїса та був найстаршим з чотирьох дітей: троє хлопців, Сем, Макс і Джек, з різницею у два роки, і дівчинка, Енні, на дев’ять років молодша за Сема. Якщо ваше дитинство не пройшло в єврейській cім’ї середнього класу на Середньому Заході США — і я кажу це з власного досвіду — важко уявити, який рівень латентної впевненості в собі така родина може вкласти у свого сина. 

«Одна з найкращих речей, які для мене зробили батьки, — постійне (декілька разів на день, здається) підтвердження їхньої любов і віри в мою здатність досягти чого завгодно», — сказав Джек Альтман.

В результаті утворюються фантастичні, наркотичні, подібні до зброї запаси впевненості в собі. Це як додатковий клапан серця.

Про Сема зазвичай розповідають, як про юного генія. «Висхідна зірка серед вундеркіндів у світі технологій», як пише St. Louis Post-Dispatch. Наприклад, у три роки він взявся ремонтувати сімейний відеопрогравач. У 1993-му, на восьмий день народження батьки — Конні Гібcтін, дерматологиня, і Джеррі Альтман, брокер з нерухомості — купили йому Mac LC II. За словами Альтмана, цей подарунок став «лінією, яка розділила моє життя на період до комп’ютера та після».

Родина Альтманів щовечора збиралася на вечерю. За столом вони грали в ігри на кшталт «квадратного кореня»: хтось називав велике число, а хлопці вгадували. Енні з калькулятором перевіряла, чий варіант був ближчий за інших. За допомогою гри у «20 запитань» вони дізнавалися про десерт вечора. Родина також грала у настільний теніс, більярд, відеоігри та шаради, і щоразу всі знали, хто переміг. Сем завжди хотів бути цим переможцем. 

Сем — гей, і він зробив камінг-аут у старших класах школи. Це стало несподіванкою навіть для його матері. Вона вважала, що Сем просто один з тих хлопців, які думають лише про технології. 

Як сказав Альтман у подкасті у 2020-го, його приватна старша школа «не була місцем, де можна було спокійно встати і сказати, що ти гей». Коли йому було 17 років, до школи запросили гостя з розповіддю про Національний день камінг-ауту. Деякі студенти були проти цього, «здебільшого через релігійні засади, але також через те, що «геї — погані люди». Альтман вирішив виголосити промову перед усіма учнями. Напередодні він майже не спав. Його промова закінчувалася словами: «Ви або толерантні до відкритого суспільства, або ні, переобирати не можна».

Стартапи та YC

2003-го Кремнієва долина відновлювала позиції після краху доткомів, а Альтман вступив до Стенфорду. У тому ж році Рід Гоффман став одним із засновників LinkedIn, а у 2004-му Марк Цукерберг запустив Facebook. У такий момент старший син єврейської родини з передмістя не обрав кар’єру інвестиційного банкіра або лікаря. Він став стартапером. 

На другому курсі Альтман разом зі своїм бойфрендом, Ніком Сіво, почав працювати над Loopt, одним з перших геолокаційних застосунків. Пол Грем з Джесікою Лівінгстон та іншими тільки-но створили програму Summer Founders Program у рамках венчурної компанії Y Combinator. Альтман подав заявку на участь. Він виграв інвестиції у розмірі $6 000 і можливість провести кілька місяців у Кембриджі, штат Массачусетс, серед інших «нердів». Того літа Альтман так багато працював, що захворів на цингу.

Але Loopt усе ж не допомогла йому виділитися з-поміж інших. «О, ще один розумний молодий чоловік», — казав Гоффман, який до січня був членом ради директорів OpenAI, згадуючи свої враження від молодого Альтмана. Зате підприємець зміг отримати $5 млн від Sequoia Capital. Проте Loopt так і не стала популярною серед користувачів. У 2012 році Альтман продав компанію корпорації Green Dot за $43,4 млн але не вважав це успіхом.

 «Зазнати невдачі завжди неприємно. Проте зазнати невдачі, намагаючись щось довести, ще неприємніше», — сказав мені Альтман. 

У результаті він був «сильно незадоволений», проте заробив $5 млн, які, разом із грошима Пітера Тіля Відомий та дуже впливовий венчурний інвестор. Першим вклався у Facebook. , витратив на відкриття власного венчурного фонду Hydrazine Capital. Крім того, узяв відпустку на рік, прочитав купу книжок, подорожував, грав у відеоігри, а ще: «Як справжній мемний технобро вирішив провести певний час в ашрамі, і це змінило моє життя. Впевнений, я досі відчуваю тривогу та стрес, але моє сприйняття цього таке, що відчуваю себе розслабленим, щасливим та спокійним».

2014-го Пол Грем обрав Альтмана своїм наступником на посту президента Υ Combinator, який вже встиг допомогти із запуском Airbnb та Stripe. 2009-го Грем описував Альтмана як одного з «п’ятьох найцікавіших засновників стартапів за останні 30 років», а пізніше як «імовірно, схожого на Білла Гейтса у часи заснування Microsoft… виняткову і впевнену у собі людину».

Під час президентства Альтмана YC отримував близько 40 000 заявок від нових стартапів на рік. 1000 з них запрошували презентувати проєкти особисто. Усього пара сотень отримували фінансування від YC, зазвичай близько $125 000. Також вони мали допомогу менторів і можливості налагоджувати професійні зв’язки (включно із щотижневими вечерями). За це вони віддавали YC 7% своєї компанії. 

Керування YC можна вважати або найкращою роботою в Кремнієвій долині, або однією з найгірших. З точки зору венчурних інвесторів — це як «проводити пів року фактично у ролі вожатого табору».

Погляди, OpenAI та Ілон Маск

Альтман довго жив разом із братами в одному зі своїх двох будинків у Сан-Франциско. Він проповідував власні цінності: амбіції, відокремленість та масштаб. Вірив у цінність наймання людей через мережу знайомих. А також в те, що не слід надто зважати на думку оточуючих.

Цитата з блогу: «Великий секрет полягає у тому, що світ можна прогнути під свою волю у дивовижній кількості випадків. Проте більшість людей навіть не намагаються це робити». Ось ще одна: «Найуспішніші засновники не мають за мету створення компаній. Їхня місія — щось подібне до релігії. Але в якийсь момент виявляється, що найпростіше зробити це через заснування компанії». Був певен, що найгірше — це обмежити себе маленькою ідеєю і не мислити достатньо масштабно.

Альтман жив пречудово. Він розбагатів. Інвестував «у хлопчачі мрії», як-от розробку надзвукового літака. Купив будинок у районі Біг-Сур і наповнив його зброєю та золотом. Ганяв на своїх McLaren.

Також хлопець перейняв утилітаристську філософію ефективного альтруїзму. Останній виправдовує отримання величезних грошей майже будь-якими методами на підставі теорії, що його послідовники краще за інших знають, як їх слід витрачати. За цією ідеологією, майбутнє має пріоритет перед теперішнім. І майбутнє з її ракурсу представляє собою технологічну сингулярність, де люди й машини зіллються в одне ціле.

У 2015-му, глибоко занурившися в це вчення, Альтман став співзасновником OpenAI разом з Ілоном Маском, Іллею Суцкевером, Грегом Брокманом, Джоном Шульманом і Войцехом Зарембою. Місія цієї некомерційної організації: створити «комп’ютер, який може думати, як людина, у всіх аспектах, і використовувати його з метою досягнення максимальної вигоди для людства».

Ідея полягала у створенні доброго ШІ та домінуванні у цій індустрії до того, як погані люди побудують поганий. OpenAI обіцяла відкрити вихідні дані своїх досліджень відповідно до цінностей ефективного альтруїзму. Якби хтось, кого вони вважали б «таким, що відповідає цінностям» та «дбає про безпеку», — мав змогу досягти AGI Сильний штучний інтелект ШІ, який може успішно виконати будь-яку інтелектуальну задачу, яка під силу людині. раніше за OpenAI, вони б допомогли цьому проєкту, а не конкурували б з ним

Протягом декількох років Альтман продовжував працювати президентом YC. Щодня він надсилав силу-силенну текстових повідомлень і електронних листів засновникам різних компаній і відстежував швидкість відповіді. Альтман вважає швидкість реакції «однією з найбільш разючих відмінностей між чудовими та посередніми засновниками компаній». 

У 2017-му Сем хотів балотуватися на пост губернатора Каліфорнії. Він розповідав, як одного разу на вечірці «скаржився на політику та штат», і хтось сказав: «Ти повинен перестати скаржитися та зробити щось з цього приводу». Сем відповів «Окей». Він опублікував свою програму United Slate, у якій були сформульовані три ключових принципи: процвітання завдяки технологіям, економічна справедливість і особиста свобода. Проте за декілька тижнів Альтман відмовився від цього наміру.

На початку 2018-го Маск намагався перехопити контроль над OpenAI, стверджуючи, що організація відстає від Google. Уже в лютому Маск пішов, а на чолі OpenAI став Альтман.

За декілька місяців, наприкінці травня, у 67-річного батька Альтмана стався серцевий напад під час веслування на озері Крев-Кер поблизу Сент-Луїса. Незабаром він помер у лікарні. Сестра розповідала, що під час похорону Сем виділив кожному з дітей по п’ять хвилин на промову. У свої хвилини вона проранжувала членів родини за здатністю виражати емоції: Сем разом з матір’ю опинилися на останніх місцях.

«Закон Мура для всього» 

У березні 2021-го. Альтман опублікував есе під назвою «Закон Мура для всього». Воно починається з таких слів: «Робота в OpenAI щодня нагадує мені про масштаби соціоекономічних змін, які відбудуться раніше, ніж вважає більшість людей… Без відповідної адаптації державної політики, життя більшості людей стане гіршим, ніж сьогодні».

Закон Мура у застосуванні до мікрочипів стверджує, що кількість транзисторів на чипі подвоюється приблизно кожні два роки, а ціна знижується вдвічі. Закон Мура для всього, який запропонував Альтман, говорить про «світ, у якому протягом десятиліть все — житло, освіта, їжа, одяг тощо — дешевшало кожні два роки».

На момент написання цього есе Альтман вже пішов з YC, щоб повністю зосередитися на OpenAI. Одним з перших кроків, зроблених під його керівництвом, стало створення навесні 2019-го комерційного дочірнього підприємства. Виявилося, будувати ШІ надзвичайно дорого й Альтману потрібні були гроші. До початку літа він отримав $1 млрд від Microsoft.

Деякі співробітники звільнилися через те, що місія організації відійшла від заявленої «максимальної вигоди для людства». Однак ця зміна, на диво, засмутила небагатьох.

Альтман відмовився від частки в акціонерному капіталі компанії. Від початку прибуток інвесторів OpenAI був обмежений стократним розміром. Але багато людей побачили в цьому кроці лише роботу на імідж. Мільярд, помножений на сто, — це багато грошей. Як сказав приятель Альтмана, «якщо прийде Елізабет Воррен Сенаторка США відома критикою Маска та мільярдерів, виступала за введедння податку на багатство. і скаже: “О, ти почав заробляти гроші, злий технар”, усі люди з індустрії просто відправлять її звідси».

Альтман продовжив ганяти на своїх авто. Серед улюблених — Lexus LFA вартістю щонайменше $950 000. На початку пандемії він носив протигаз від Сил оборони Ізраїлю. Придбав ранчо в Напі. Альтман вегетаріанець, але його партнеру, програмісту Оліверу Малхеріну, за словами Сема, «подобаються корови». Купив будинок вартістю $27 млн у Сан-Франциско. 

Знайшов багато модних друзів. У 2021 році бельгійська модна дизайнерка та підприємиця Діана фон Фюрстенберг назвала його «одним зі своїх нещодавно знайдених і дуже, дуже близьких друзів». Вона каже, що зустріч з Семом — це як зустріч з Айнштайном.

Тим часом OpenAI почала продавати доступ до свого програмного забезпечення GPT іншим компаніям. Альтман же започаткував низку паралельних проєктів, готуючись до життя у світі, трансформованому ШІ:

• Інвестував $375 млн у Helion Energy, авантюрну компанію, яка займається розробкою технології ядерного синтезу. Якщо ідея Helion спрацює (що зовсім не гарантовано), Альтман сподівається отримати контроль над джерелами найдешевшої енергії у світі.
• Ще $180 млн він вклав у Retro Biosciences. Її мета — подовжити людське життя на десять років. 
• Інший проєкт Альтмана — Worldcoin. У його рамках сканують райдужні оболонки людей у всьому світі через сферу Orb. Після кожен відбиток прив’язують до криптогаманця, до якого Worldcoin переводить валюту. Цей проєкт має за мету розв’язати одразу дві проблеми, які створює ШІ. По-перше, розрізнення людей та не-людей (потреба в цьому зросте, коли ШІ ще більше зітре межу між ними). По-друге, повернення людям частини грошей, які поглинуть такі компанії, як OpenAI. Під нього підприємець зібрав $115 млн фінансування. 

Це не схоже на портфоліо людини з амбіціями Цукерберга, якому, здається, достатньо «побудувати місто-державу й панувати у ній», за висловом дослідника та автора подкасту про високі технології Джейтана Садовського. Це портфоліо підприємця з амбіціями Маска, який вдається до «імперіалістичного підходу». «Він насправді бачить себе надлюдиною у ніцшеанському розумінні цього слова», — сказав Садовський. «Він одночасно створить те, що нас зруйнує та врятує від цього».

30 листопада 2022-го OpenAI випустила ChatGPT. За два місяці він залучив 100 млн користувачів. Це був найуспішніший запуск продукту в історії високих технологій. Так, ChatGPT вводив в оману й галюцинував. Але Альтман усе одно випустив його, наполягаючи, що це перевага. Світ має до цього звикнути. Нам треба ухвалювати рішення разом.

«Іноді аморальність — це єдине, що вирізняє CEO або продукт, який виграв, від решти», — сказав мені колишній колега, який працював разом з Альтманом у перші роки існування OpenAI. «Фактично Facebook не був надто цікавий з технологічної точки зору, то чому ж Цук переміг?» Він мав можливість «швидше масштабуватися і будувати продукти».

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter