«Математичні» твіти, сім’я та хейтери. Як працює, планує та думає Сем Альтман — частина II
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
У вересні New York Magazine випустив великий матеріал про феномен Сема Альтмана — співзасновника та СЕО компанії OpenAI, який наразі очолив ШІ-революцію. У тексті, до написання якого долучився сам підприємець, багато інсайдів про його життя, уявлення про світ та плани. Бюро перекладів для бізнесу MK: translations підготувало адаптований варіант перекладу цього матеріалу. Редакція Vector публікує скорочену версію в себе.
Враховуючи великий розмір матеріалу, він вийде двома частинами. Першу можна прочитати за посиланням. Тепер публікуємо другу.
Оппенгеймер та математичний жаргон
У травні 2023 року Альтман вирушив у світове турне — відвідав 22 країни й 25 міст. Спочатку все виглядало як можливість познайомитися з користувачами ChatGPT, але згодом перетворилося на своєрідну вечірку дебютантів. Частіше в костюмі, але іноді й у своїй сірій сорочці «хенлі», Альтман подавав себе дипломатам як неминучу новітню технологічну суперсилу.
Він зустрівся з прем’єр-міністром Великої Британії Ріші Сунаком, президентом Франції Еммануелем Макроном, прем’єр-міністром Іспанії Педро Санчесом, канцлером Німеччини Олафом Шольцем, прем’єр-міністром Індії Нарендрою Моді, президентом Південної Кореї Юн Сук Йолем та президентом Ізраїлю Ісааком Герцогом. Позував для фото з президенткою Європейської комісії Урсулою фон дер Ляйєн. На ньому вона має стриманий й елегантний вигляд, а він — наче персонаж «Де Воллі?» — телефон виглядає з передньої кишені штанів, зелені очі напружені від втоми та кортизолу.
А потім Альтман повернувся додому і, здавалося, розпакував не лише валізу, але й свою душу. З кінця червня до середини серпня багато писав у Twitter.
«Фільм сьогоднішнього вечора — барбі чи оппенгеймер?»
Альтман запостив опитування. «Барбі» програла з 17% проти 83%.
«окей, оппенгеймер — так оппенгеймер»
Так наступного ранку Альтман висловив своє розчарування.
«я сподівався, що фільм оппенгеймер надихне ціле покоління дітей стати фізиками. я помилявся».
«треба створити такий фільм!»
«(Гадаю, “Cоціальній мережі” вдалося зробити це для засновників стартапів)».
Довгі роки Альтман порівнював себе з творцем атомної бомби. Казав репортерам, що у них з Оппенгеймером День народження в один день.
Він перефразував слова вченого Кейду Метцу в New York Times: «Технології з’являються, тому що це можливо».
Альтмана не могло здивувати, що Кріс Нолан не використовував активної пропаганди у своєму біографічному фільмі. Другу половину свого життя Оппенгеймер боровся з ганьбою та жалем за свою роль у створенні атомної бомби. «Тепер я став Смертю, руйнівником світів», — цей найвідоміший рядок з «Бгаґавад-Ґіти» звучав в голові Оппенгеймера під час випробування «Трініті» (його також двічі використали у фільмі).
Альтман ототожнював себе з Оппенгеймером під час свого світового турне, коли розповідав (узагальнено) про ризик глобальної катастрофи, який провокує ШІ. А ще стверджував (абсолютно конкретно) про необхідність створення регулятивного органу за зразком Міжнародного агентства з атомної енергії. ООН ратифікувала МАГАТЕ в 1957-му, через чотири роки після його створення. Завдання агентства — працювати задля миру та процвітання у всьому світі — звучало чудово, як на пересічного слухача. Але дуже дратувало експертів.
Одне із зауважень критиків стосувалося політичного цинізму. «Ви кажете: “Регулюйте мене” та “Це дійсно складна та спеціалізована тема. Тому для цього нам потрібне складне та спеціалізоване агентство”, прекрасно розуміючи, що таке агентство ніколи не створять», — казав дослідник та автор подкасту про високі технології Джейтан Садовський. «Або якщо щось подібне створять, це теж добре, бо ви побудуєте його ДНК».
Ще одна проблема — невизначеність. Хейді Хлааф — інженерка, яка спеціалізується на оцінці та перевірці протоколів безпеки для дронів і великих атомних електростанцій. Вона пояснила — для зменшення ризиків, пов’язаних з технологією, потрібно точно визначити, на що ця технологія здатна, як вона може допомогти і як зашкодити суспільству.
І коли Альтман каже, що ШІ може знищити світ — це загальні фрази. Можливо, хтось використає ШІ, щоб винайти супержука чи для запуску ядерної зброї. Або, можливо, ШІ сам обернеться проти людей. Рішення для кожного випадку не ясні. Хлааф стверджує, що нам не потрібне нове агентство.
ШІ повинен регулюватися в межах сфер його використання, як і інші технології.
Нарешті, якби Альтман серйозно ставився до суворих протоколів безпеки, він був би набагато обачнішим з тим, що вважає незначною шкодою.
«Якщо ви навіть не можете запобігти дискримінації чорношкірих у своїй системі», — мова про алгоритмічне упередження, що впливає на все, від відбору кандидатів на посаду, до визначення найпривабливішого обличчя, — «Як ви збираєтеся не дозволити їй знищити людство?»,— запитує Хлааф.
«Невелика помилка в програмному забезпеченні може вивести з ладу електромережу в Нью-Йорку. Кваліфіковані інженери це знають. Кожна з цих компаній, кожен з головних претендентів на першість у галузі ШІ, має ресурси й фундаментальне інженерне розуміння, щоб з’ясувати, як зменшити шкоду в цих системах. Не робити цього — виважений вибір», — вважає вона.
У день з опитуванням «Оппенгеймер — Барбі» Альтман також запостив:
«все «творче» — це ремікс того, що відбулося в минулому, додати іпсилон і помножити на якість петлі зворотного зв’язку та кількість ітерацій».
«люди думають, що їм треба максимізувати епсилон, але фокус в тому, щоб максимізувати дві інші складові».
Математичний жаргон надає впевненості. Математичність, термін, введений у 2015 році лауреатом Нобелівської премії з економіки Полом Ромером. Він описує математичну мову, як таку, що використовується не для пояснення, а навпаки, для заплутування. «Краса математичної мови полягає в її здатності передавати істину про світ надзвичайно простими словами — E = MC2», — сказав мені Ной Гіансіракуза, професор математичних наук та науки про дані з Університету Бентлі. «Я знову і знову перечитую твіт Сема, і досі не знаю, як його аналізувати або що саме він намагається сказати».
Гіансіракуза перетворив слова Альтмана на символи. «Якщо C — це творчість, R — ремікси минулих подій, Q — якість петлі зворотного зв’язку, N — кількість ітерацій, то він говорить C = R + іпсилон*Q*N або C = (R + іпсилон)*Q *N?» Формулювання Альтмана не дає чітко зрозуміти порядок операцій, сказав Гіансіракуза. «Чи означає “і N” — і кілька повторів — щось інше, ніж множення?»
Протягом літа й осені OpenAI зазнавала дедалі більшого тиску через те, що нібито тренувала свої моделі — і заробляла гроші — на масивах викрадених даних і робіт, захищених авторським правом. Майкл Чабон подав колективний позов після того, як дізнався, що його книги без дозволу використовувалися для навчання ChatGPT.
Федеральна торгова комісія почала розслідування щодо звинувачення компанії у порушенні законів про захист прав споживачів. Тепер Альтман стверджував, що творчості насправді не існує.
Що б собі не думали приголомшені письменники чи роздратовані ілюстратори про власну індивідуальність або цінність, вони просто реміксують старі ідеї. Так само як продукти OpenAI.
Магніт для хейтерів
Альтман — магніт для хейтерів. «Знаєте, це як у тому фільмі з 90-х про дитину, яку помістили в тіло дорослого, а вона має прикидатися і сподіватися, що ніхто не помітить?», — сказав колись Малкольм Гарріс, автор книги «Пало-Альто». «Він — наче той хлопець, який має кидати фастбол зі швидкістю мільйон миль на годину, тому що його зламана рука зрослася неправильно, а ще він новачок року і пітчер вищої ліги, тільки от йому всього 12 і він нічого з цього не вміє робити».
Тут, безсумнівно, є легка тінь заздрості, а також реакція на середньозахідну люб’язність Альтмана. Але здебільшого це глибока злість на те, що технологічна культура знову міцно вкоренилася у клубній культурі білих чоловіків. «Знаєте, це виглядає наче ми — жінки — потрапили в кімнату на мить, але, як тільки подали голос, вони такі “Забирайтеся!”, — сказала мені Мередіт Віттакер, президент Signal і колишня викривачка Google.
Єдиний вихід зараз — чинити тиск ззовні. «Я хочу, щоб його дотисли. Щоб він стояв, дивився комусь в очі й говорив це лайно», — продовжила Віттакер. «Ми говоримо про те, щоб взяти творчий доробок мільйонів, мільярдів людей, і використати його для створення систем, які можуть лишити їх без засобів до існування. Невже ми справді хочемо взяти щось настільки значуще, як творчість, і виплюнути назад у вигляді похідного контенту з якогось продукту Microsoft, відкаліброваного сумнівними працівниками з Кенії (які страждають на ПТСР від своєї роботи), щоб переконатися, що він вписується в параметри ввічливого ліберального діалогу?»
Багато хто, звісно, радий повернутися до консервативних цінностей, мотивуючи тим, що це вигідно і дає почуття перемоги. «Я впевнений, що існує такий тон: “А я ж вам казав”, — сказала мені про стан індустрії інша людина з близького оточення Альтмана. «Вас хвилює все це лайно» — а це «лайно» — етнокультурна різноманітність, рівність та інклюзивність (DEI) — і «Дивіться, до чого це призвело». Звільнення технічного персоналу, занепад компаній. Все це не є наслідком DEI, але зручне виправдання. Поточна ситуація наразі така, що «більше не потрібно прикидатися, що вас це хвилює».
Темношкірий підприємець — який, як і майже всі представники tech-сектора, з якими я спілкувалася для статті, не хотів називати своє ім’я через страх перед силою Альтмана — розповів, що витратив 15 років на те, щоб стати членом технологічного клубу білих чоловіків. Вони ходили в «правильні» школи, зробили себе блискучими, успішними й багатими.
«Я б нікому такого не побажав», — сказали вони мені. «Ілон, Пітер Маються на увазі Ілон Маск та Пітер Тіль. і всі їхні приятелі з вузького кола, які п’ють кров молодих людей або що вони там роблять — хто змусить їх поділитися крихітним шматочком, та хоч будь-яким шматочком пирога, коли в цьому немає ніякої потреби, ніякого тиску? Система чудово працює для тих, кому вона була створена». До решти ставитимуться так, як зараз: з «явною і стійкою зневагою».
Енні Альтман
У некрологу Джеррі Альтмана сказано: «Чоловік Конні Гібстін; дорогий батько і тесть Сема Альтмана, Макса Альтмана, Джека (Джулії) Альтман» — (це дружина Джека) і Енні Альтман…»
Енні Альтман? Читачі блогу Альтмана, його твітів, маніфесту Startup Playbook, а також сотень статей про нього знайомі з Джеком і Максом. Вони з’являються скрізь, особливо на яскравій обкладинці Forbes з оголошенням про створення їхнього спільного фонду Apollo. Брати також фігурують у профілі Теда Френда про Альтмана в The New Yorker за 2016 рік і в багатьох дружніх жартах. Наприклад:
@jaltma: Я дуже засмучуюсь, коли бачу статті, в яких Сема називають технобро. Він технологічний брат.
@maxaltman: Він і *є* технологія, брате.
@sama: люблю вас, (техно) брати.
Енні в публічному житті Сема не існує. Вона ніколи не прагнула потрапити до їхнього клубу. Ніколи не збиралася бути «надлюдиною». Проте вона завжди відчувала страждання світу. У п’ять почала прокидатися посеред ночі, і щоб втамувати тривожність, приймала ванну. У шість думала про самогубство, хоча навіть не знала цього слова.
Вона часто знайомилася з людьми у ліфтах і магазинах: «Я — Енні Френсіс Альтман. А вас як звати?». Про Сема вона сказала: «Він, мабуть, теж аутист, але з комп’ютерно-математичним ухилом. А я більше схильна до людяності, гуманізму, справедливості».
Як і її старший брат, Енні надзвичайно розумна, і так само рано кинула навчання, але не тому, що її стартап фінансувала Sequoia. Вона склала всі заліки в Тафтсі й поринула в глибоку депресію. Хотіла жити в кращому місці. Хотіла творити. Відчувала, що саме від цього залежить її життя. Вона кинула навчання після семи семестрів.
Коли я відвідала Енні на Мауї цього літа, вона розповіла історії, які знайдуть відгук у серці кожного, хто був емо в родині бізнесменів або відчував глибокий біль від того, що члени сім’ї його не розуміли. Енні — довге темне волосся заплетене в косу, голос низький, розмірений і глибокий — розповіла мені про відвідини Сема в Сан-Франциско у 2018 році.
До нього прийшли друзі. Один з них попросив Енні заспівати пісню, яку вона написала. Дівчина знайшла своє укулеле і почала. «На середині пісні Сем мовчки встає і йде нагору до своєї кімнати», — розповіла вона мені. «Я думаю: “Мені продовжувати грати? З ним все гаразд? Що це було?”»
Наступного дня Енні сказала Сему, що засмутилася, і запитала, чому він пішов. «А він відповів щось на кшталт: “У мене заболів живіт”, або “я був надто п’яний”, або “надто накурився, мені треба було відійти на хвилину”. А я така: “Серйозно? Саме у цю хвилину? Ти не міг зачекати ще 90 секунд?”».
Того ж року помер Джеррі Альтман. Він мав проблеми з серцем на фоні постійного стресу, і частково, зі слів Енні, через те, що їздив в Канзас-Сіті доглядати за своїм бізнесом у сфері нерухомості. Батьки Альтманів розлучилися. Джеррі продовжував працювати, бо йому потрібні були гроші. Після його смерті Енні зламалася. Її тіло, як і психіка, руйнувалися. Дівчина завжди була губкою, яка всмоктувала біль. Цього разу вона увібрала в себе більше, ніж могла витримати.
Спершу Сем пропонував грошову допомогу, а потім перестав. З їхнього листування зрозуміло, що він любить її, але має важелі впливу. Він заохочує Енні знову стати на ноги та до прийому «Золофта» — вона кинула, бо ненавиділа відчуття, які виникали після цього.
Одним з численних творчих проєктів Енні є подкаст під назвою All Humans Are Human. На перший після смерті батька День подяки всі брати погодилися записати з нею епізод. Енні хотіла поговорити в ефірі про психологічний феномен проєкції: те, що ми перекладаємо на інших людей.
Брати спрямували розмову на ідею зворотного зв’язку. Зокрема, як давати фідбек на роботі. Енні виклала запис онлайн та сподівалася, що її брати, зокрема Сем, поділяться ним. Він сприяв кар’єрному зростанню інших братів. Компанія Джека, Lattice, пройшла Y Combinator. «Я подумала: “Ти міг би просто опублікувати посилання у Твіттері. Це б допомогло. Чи ти не хочеш поділитися подкастом своєї сестри, на який ти прийшов?” Він цього не зробив. «Джек і Сем сказали, що він не відповідає їхньому бізнесу».
У першу річницю смерті Джеррі Альтмана Енні зробила на шиї татуювання «sch’ma» — «слухай» на івриті. Вона пішла з роботи в амбулаторії, тому що її пошкоджене ахіллове сухожилля все не заживало, і вона вже втретє за сім років була на милицях. Енні попросила Сема та їхню матір про фінансову допомогу. Вони відмовили.
«Це стала саме тоді, коли я вперше потрапила на сайт для шугар-дейтингу Стосунки, побудовані на взаємовигідних умовах: наприклад, літня і забезпечена людина отримує увагу, турботу, ласку і часто секс в обмін на гроші, подарунки і будь-яку іншу матеріальну допомогу. », — розповіла мені Енні. «Я була настільки розгублена, в такому відчаї, в такому смутку». Сем був її улюбленим братом. Він читав їй книжки перед сном. Фотографував її на турніку для шкільного проєкту. Тоді вона відчувала, що її розуміють, люблять і пишаються нею. «Я думала: “Чому? Чому ці люди не допомагають мені, коли мають можливість це зробити без особливих витрат для себе?”»
У травні 2020 року вона переїхала на Великий острів (Гаваї). Одного дня, невдовзі після її переїзду на ферму, де вона жила і працювала, дівчина отримала електронний лист від Сема з проханням прислати поштову адресу. Він хотів надіслати їй пам’ятний діамант, який зробив з праху їхнього батька.
«Я уявляла, як він надсилає діамант з праху батька до поштової скриньки у нашу сільську місцевість… Це було так важко, сум і гнів переповнювали мене, але водночас було і смішно».
Їхній батько ніколи не бажав стати діамантом. Психічне здоров’я Енні було дуже крихким і тендітним. Її турбувало, чи вистачить грошей на продукти. Важко було спілкуватися з людиною, для якої гроші означали все, але водночас майже нічого. «Ти або не усвідомлюєш всієї серйозності ситуації, або тобі просто байдуже», — зазначала вона. Під «ситуацією» вона мала на увазі своє життя. «Ти готовий витратити $5000, щоб зробити річ, яка була твоєю ідеєю, а не татовою, і потім надіслати мені її замість того, щоб дати 300 баксів на їжу. Що?»
Вони віддалилися одне від одного. Сем запропонував купити Енні будинок, проте вона не хоче, щоб її контролювали. Останні три роки Енні заробляла собі на хліб у секс-індустрії, «як фізично, так і віртуально». Вона публікує порно на OnlyFans. І одночасно викладає в Instagram Stories про взаємодопомогу, намагаючись поєднати людей, які мають гроші, з тими, хто потребує фінансової підтримки.
Вони з братом повні протилежності. Сем, зі слів його знайомого, жартує про те, що хоче стати першим у світі трильйонером (Альтман заперечує це і попросив мене додати заяву: «Я не хочу бути першим у світі трильйонером»). Він присвятив себе створенню програмного забезпечення для відтворення — і перевершення — людського інтелекту за допомогою викрадених даних та графічних процесорів.
За останній рік Енні переїздила понад 20 разів. Коли вона зателефонувала мені в середині вересня, питання житла знову стояло гостро. На її банківському рахунку була $1 000. З 2020 року її мучать спогади. Вона знає, що кожен бере шматочки свого життя й компонує їх у наративи, щоб надати сенс своєму світу.
Поки Енні розповідає свою історію, Сем, їхні брати та мати розпоряджаються грошима, які залишив їй батько. Зі слів дівчини, вона почувалася особливою, улюбленицею, коли в дитинстві Сем читав їй казки на ніч. Тепер ці спогади здаються їй аб’юзивними.
Сім’я Альтманів хотіла б, щоб весь світ знав: «Ми любимо Енні й будемо продовжувати робити все можливе, щоб підтримувати і захищати її, як будь-яка інша сім’я». Тим часом Енні працює над моновиставою під назвою «HumAnnie». Основна думка така: ніхто насправді не знає, як бути людиною. Всі ми в цій виставі імпровізуємо.
Гість Білого дому
22 червня 2023 року Альтман зі своїм партнером Олівером Малхеріном при повному параді вирушив на вечерю до Білого дому. Він був схожий на персонажа з фільму про подорожі в часі 90-х. Не вірилося, що вся ця сила вміщається у таку молоду, слабку оболонку.
Відтоді, як Альтман обійняв посаду СЕО OpenAI, неприбутковий статус компанії став розчинятися. Вона перестала бути настільки відкритою, публікувати свої навчальні дані та вихідний код, давати доступ до своїх технологій для аналізу та розвитку іншим. Припинила працювати «на максимальне благо людства». Та хіба хтось щось міг вдіяти?
У Мюнхені, під час свого світового турне, Альтман запитав аудиторію, чи хочуть вони, щоб OpenAI відкрила вихідний код наступної великої мовної моделі, GPT-5, після офіційного випуску.
Натовп відповів гучним «так».
На що Альтман відповів: «Ого, ми точно цього не зробимо, але було цікаво дізнатися».
У серпні у офісі Альтмана я запитала, що він робив останні 24 години. «Одна з речей, над якою я працював вчора, полягає в наступному: ми намагаємося з’ясувати, чи зможемо узгодити ШІ з набором людських цінностей. З технічної точки зору ми досягли значного прогресу. Тепер постає складніше питання: “Окей, а чиї цінності брати за основу?”».
Ще він пообідав з мером Сан-Франциско, спробував скоротити свій 98-сторінковий список справ і робив вправи зі штангою (хоча, як він сказав з певною покорою, «я відмовився від спроб справді накачатися»), привітав нових співробітників, повечеряв зі своїми братами та Оллі, і пішов спати о 20:45.
Імперіалізм, що замаскований під скромність, збиває з пантелику. Однією з найцінніших речей Альтмана, за його словами, є мезуза, яку його дідусь носив у кишені все своє життя. Вони з Оллі хочуть незабаром завести дітей, бо він любить великі родини. Сем так щиро регоче, що іноді навіть падає на підлогу, щоб віддихатися. І одночасно «намагатиметься знайти способи, як залучити волю людей до його творіння». Знає, що «ШІ — це не чиста історія, лише з перевагами», «втрати неминучі», і їх «боязнь — це цілком природно і зрозуміло. Люди не хочуть чути історію, в якій вони — жертви».
А ще зізнається, що його публічний образ «має лише дотичну схожість» зі справжнім Семом.
