Не називайте це «інтелектом». Що ми втрачаємо, коли дозволяємо ШІ думати за нас — колонка The Atlantic

Штучний інтелект часто знімає з нас потребу думати. Він відповідає на запитання ще до того, як ми їх сформулюємо, й імітує наш голос, поки ми намагаємося знайти свій. Усе, що здається відкриттям, він може запропонувати за мить, але водночас забирає змогу пошукати відповіді самостійно. В адаптованій The Atlantic версії лекції, прочитаної для студентів, американський письменник Чарльз Ю показує, як ця ілюзія швидкості та безпомилковості змінює наш інтелект, рівень освіти й власний голос — і чому справжнє мислення не в алгоритмах, а у здатності ставити запитання й стикатися з невизначеністю.

Матеріал українською мовою підготувало Бюро перекладів для бізнесу MK:translations. Ми публікуємо адаптований та скорочений переклад.

---

Іноді мене запрошують до коледжів прочитати лекцію про те, як я став письменником. Найпростіше — провести слухачів крізь нетрі мого літературного становлення, влаштувавши своєрідну екскурсію: низку анекдотів, що викликають усмішки, одну-дві миті роздумів про неминучі повороти дороги — про речі, які здавалися доленосними, але виявилися неважливими, або, навпаки, про те, що на той момент не виглядало значущим, але з часом стало найважливішим.

Зазвичай ці подорожі мають однаковий фінал: автор знаходить вихід з цих хащ і дорогою віднаходить свій голос. Саме голос виводить нас із лісу.

Проблема, принаймні для мене, у тому, що така розповідь здебільшого вигадка. Шлях виглядає шляхом лише згодом. Такий спосіб оповіді нівелює, згладжує та применшує роль обставин і сліпого випадку. Більша частина письменницького досвіду — це невдачі.

Формування голосу триває роками. Суть не в тому, щоб швидко чи без втрат вибратися з лісу. Заблукати — це не найгірше. У цьому й полягає суть усього шляху.

І тут з’являється ШІ, що нібито має бути нашим GPS у темному лісі. І не просто провідник — невтомний, безстрашний, такий, що знає всі короткі шляхи. ШІ взагалі знімає потребу заходити в ліс. Навіщо дивитися на порожню сторінку й курсор? Навіщо намагатися зрозуміти, що саме ти хочеш сказати і як це сформулювати? Навіщо слухати свій власний хрипкий, нестійкий голос, якщо можна натиснути кнопку й отримати плавну, бездоганну, відшліфовану мову у будь-який момент і на будь-яку тему? Голос за запитом.

Коли я спілкуюся зі старшокласниками та студентами (зокрема зі своїми дітьми), мене непокоїть, що саме в той момент, коли вони мають формувати власний голос, їм фактично кажуть, що цього робити не потрібно. ШІ пише за нас, читає за нас, думає за нас. Він підміняє наш голос своїм.

Та насправді в ШІ немає голосу. Він лише імітує наш голос. Це лише усереднення, ремікс. Спочатку великі мовні моделі не мали нічого, окрім людської мови. Без природного голосу не могло б існувати й штучного. Але якщо ми погоджуємося замінити власну мову текстами, згенерованими ШІ, ми опиняємося в замкненому колі, де ті самі результати знову й знову повертаються як вхідні дані.

Я боюся, що ми втрачаємо здатність відрізняти наш голос від голосу машини. Або, що ще гірше, втрачаємо саму волю наполягати на тому, що ця різниця взагалі існує.

І це справді тема для дискусії. Найзатятіші прихильники автоматизованого навчання стверджують, що штучний загальний інтелект — AGI, тобто системи, здатні зрівнятися з людськими когнітивними здібностями або перевершити їх у будь-якому завданні — вже на порозі, за два-три роки. Дехто говорить про десять років або більше. Це рухома ціль, що постійно відсувається й лишається десь за горизонтом. Але незалежно від термінів, ідея залишається тією самою: вся наша «когнітивна праця» невдовзі буде автоматизована. І вони вірять у це, бо вважають, що мову, яку створюємо ми, можна замінити тією, яку генерують великі мовні моделі.

Мене не цікавлять прогнози чи часові межі, не цікавить, хто має рацію, а хто ні, і наскільки. Я не експерт зі штучного інтелекту і навіть не аматор у цій сфері. Я не нейробіолог, не когнітивний науковець і взагалі не науковець. Я — батько підлітків, людина, читач і письменник, приблизно в такому порядку. Я, як і багато інших, намагаюся зрозуміти своє ставлення до ШІ, яке він має значення для роботи, освіти та життя, і як говорити про все це зі своїми дітьми, які, без сумніву, розуміються на ньому краще за мене.

Найбільше мене цікавить літера «I» в AGI. Що вона насправді означає? І чому ми дозволили невеликій групі заможних бізнесменів визначати її зміст?

Сем Альтман, генеральний директор OpenAI, пообіцяв, що взаємодія з ChatGPT-5 буде схожа на розмову «зі справжнім експертом рівня PhD у будь-якій галузі». Я не можу позбутися думки про те, наскільки показовим, і водночас дивним, є таке визначення інтелекту.

Не зрозумійте мене неправильно. Сам факт того, що ми взагалі ведемо цю розмову, — уже вражає. Я не хочу применшувати шлях, який пройшла ця технологія, швидкість, із якою вона розвивалася, чи те, як далеко вона ще може зайти. Але я хочу поставити запитання: як ми можемо створити інтелект, якщо не до кінця розуміємо, і навіть до пуття не можемо визначити, що таке інтелект?

Повернімося до формулювання Альтмана: загальний інтелект означає бути експертом рівня PhD у будь-якій галузі. Така експертиза, без сумніву, вражає і, безперечно, пов’язана з інтелектом або навіть є його складовою, як би його не визначати. Але це лише невелика частина інтелекту. Мій альма-матер, UC Berkeley, пропонує докторські програми у 94 галузях. Імовірно, AGI охоплюватиме всі з них.

Але жоден науковий ступінь не охоплює і навіть не намагається охопити емоційний інтелект. Який може бути PhD у вмінні відчувати настрій в кімнаті? В навчанні дитини їздити на велосипеді? У тому, щоб плакати, коли тебе зворушує музика? Ми вважаємо слонів розумними, бо вони оплакують своїх померлих. То який може бути PhD зі скорботи, захоплення, подиву й цікавості?

Можливо, не варто дивуватися, що одні з найкращих учених та інженерів світу визначили інтелект саме так. Навіть якби мотиви прихильників AGI були цілком альтруїстичними, вони все одно залишалися б упередженими через власний спосіб бачення світу, досвід та успіхи.

Дослідники, які перебувають на передовій ШІ, належать до найяскравіших і найуспішніших умів на планеті, і водночас вони становлять дуже вузьку, самостійно відібрану групу людей, схильну краще розуміти певні типи знань, ніж інші: явні, чітко визначені, такі, що піддаються токенізації, знання, які лежать в основі наших наймасштабніших і напрочуд точних теорій про Всесвіт, знання, що дозволили створити технології, які змінюють світ. Але це лише незначна частка всього знання, той вузький сегмент, який можна оформити в символи, мову чи математику.

Усе інше — це те, що філософ Майкл Полані назвав «неявним знанням», яке становить значно більший обсяг і взаємодіє у значно більшій кількості способів. Його підхід до знання можна звести до простої формули: «Ми знаємо більше, ніж можемо сказати».

Чи є це частиною AGI? Я так не думаю. Я не повірю в це, доки ChatGPT не надішле мені посилання на відео, яке змусило його сміятися, плакати або переглянути свою думку щодо того, про що ми говорили раніше. Поки цього не сталося, я б стверджував, що те «I», за яким женуться ці інженери, є лише замінником або навіть хибною назвою. Це зовсім не схоже на інтелект у тому розумінні, яке ми в нього вкладаємо.

Можна заперечити, що цей аргумент недосконалий, бо спирається на антропоцентричне Підхід або погляд, в якому людина є центром і головною цінністю; усе оцінюється з точки зору її інтересів, потреб і значення. бачення інтелекту. Можливо, нам слід відмовитися від упереджених уявлень і прийняти думку, що машинний інтелект може і, можливо, навіть повинен суттєво відрізнятися від людського. Можливо, машинний інтелект не потребує ні свідомості, ні автономії, ні допитливості, ні здатності відчувати.

Припустімо, я погоджуюся з усім цим. Моя позиція така: незалежно від того, на що здатні машини, якими б винятковими, корисними чи потенційно прибутковими не були їхні можливості, це не можна назвати інтелектом.

За поодинокими винятками, навіть найпалкіші прихильники AGI не вважають, що найсучасніші моделі ШІ здатні відчувати. Отже, вони мають виходити з того, що інтелект можна відокремити від тілесності та емоцій. Вони фактично кажуть: ми розуміємо, що таке інтелект, у його очищеній, ізольованій формі. На що я відповів би: «Будь ласка, поділіться цим визначенням з усіма нами». Якщо вони мають рацію, ми скоро це побачимо.

Але якщо ні, безупинна гонитва за AGI створює реальні ризики: для соціальної політики, освіти, енергосистеми, економіки, довкілля. Вже зараз генеративний ШІ виглядає як пропозиція, що шукає попит. Потреба масштабування разом із постійним тиском на підвищення прибутковості призвели до приголомшливого перерозподілу капіталу й суспільних ресурсів в одну галузь. Генеративний ШІ — це технологічний аналог кукурудзяного сиропу з високим вмістом фруктози: можливо, корисний інгредієнт, який тепер додають майже до всього, що ми споживаємо, без нашої згоди.

Але, можливо, не менш важливими є потенційні ризики для нашого уявлення про самих себе, як окремих людей і як виду.

ШІ й надалі вдосконалюватиметься. Він може змінити світ, і, цілком можливо, вже змінив його. Але наразі, і, можливо, завжди, він не є заміною людському голосу.

Голос це те, чим ми спілкуємося одне з одним. Голос — це звук, який ми створюємо, коли рухаємося в невідомому, це наша ехолокація, спосіб орієнтуватися у світі й намагатися визначити своє місце в ньому. Голос кодує досвід, втрати, біль, радість. Ми здобуваємо голос не попри невдачі, а через них. Завдяки їм.

У ШІ немає голосу, і він не спілкується з нами. Не по-справжньому. Він відповідає на наші запитання. Саме для цього його створили. Це генератор відповідей. А ми — генератори запитань. Запитання є основою інтелекту. Без них ми залишаємося статичними, застиглими, без них ми не розвиваємося. Ми можемо вивчати відповіді, але лише ставлячи запитання. Саме через запитання ми постійно вдосконалюємося. Ми, люди, безперервно «підказуємо» одне одному нові запити у безмежно творчі способи. Ми ставимо запитання. Ми відповідаємо. Наші відповіді стають новими запитаннями. Наші контекстні вікна — це наше життя, наші токени — незліченні.

Це більше, ніж питання термінології. Називаючи те, що може ШІ, «інтелектом», ми змішуємо технологічну можливість із людською рисою. Ми самі себе спрощуємо, не через розмову з ШІ, а через те, що починаємо оцінювати себе через нього. Небезпека не в тому, що ми переоцінюємо ШІ, вона в тому, що ми недооцінюємо себе.

Реклама у Vector

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter