Темний бік його використання: як ШІ руйнує наші стосунки та дружбу — колонка The Atlantic
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Штучний інтелект дедалі частіше втручається в особисте спілкування: він відповідає за нас в повідомленнях з колегами, друзями, пише нам промови та привітанням з днем народженням, а подекуди навіть…і поминальні промови. Звісно, АІ економить час і зберігає зусилля, але водночас руйнує тонкі соціальні сигнали — щирість, турботу, увагу — замінюючи їх на шаблонність і формальність. Автор статті The Atlantic Ден Брукс розповідає, як ШІ, створений для ефективної роботи з інформацією, підриває значущість людських стосунків.
Матеріал українською мовою підготувало Бюро перекладів для бізнесу MK:translations. Ми публікуємо адаптований та скорочений переклад.
Мій товариш нещодавно був на похороні і посеред поминальної промови раптом дійшов висновку, що її написав штучний інтелект. У тексті рясніли характерні абстрактні іменники, спостерігався надлишок тверджень у стилі «він був не просто X — він був Y», але бракувало конкретних спогадів, а слово співпраця з’являлося частіше, ніж можна було б очікувати від товариша за аматорською хокейною лігою. Промова була водночас занадто доброю (з погляду граматичної правильності) і недостатньо доброю, якщо йшлося про індивідуальність.
Мій товариш не мав незаперечних доказів, що слухає текст, створений ШІ, але його позиція — і я з нею погоджуюся — проста: інколи просто знаєш. Йому здалося, що він щойно почув, як комп’ютер позбавив людину необхідності думати про свого померлого товариша.
Дедалі частіше великі мовні моделі позбавляють людей потреби читати й писати, і це стосується не лише школи чи роботи, а й спілкування з друзями. У багатьох сферах уже з’являються правила: навчальні заклади формують політики щодо використання ШІ студентами, суди намагаються визначити правові межі ШІ та інтелектуальної власності. Але в особистому спілкуванні ШІ досі лишається територією без правил.
У нас є негласні правила, які фільми дивитися разом із сусідом по квартирі та кого кликати до будинку на озері. А от щодо того, чи варто відповідати на різдвяні листи за допомогою ChatGPT, жодних правил досі немає. Це видається прикрим упущенням.
Для цієї розмови я пропоную визначити дружбу максимально широко як будь-яке дружнє спілкування: не лише з близькими друзями, а й із родичами, сусідами, знайомими, а також ті формальні стосунки, де все одно потрібна людяність, наприклад, з учителями або нянями. Є всі підстави вважати, що ШІ вже активно проник у такі «дружні» взаємини. За даними опитування Інституту Брукінгса, оприлюдненого в листопаді, 57% респондентів використовують генеративний ШІ для особистих потреб, а 15–20% — для соціальних мереж або спілкування.
Щоправда, учасників опитування не запитували, чи попереджають вони співрозмовників про використання ШІ або видають його тексти за власні, статистики з цього приводу майже немає. Водночас дослідження Microsoft 2024 року показало: 52% тих, хто користується ШІ на роботі, неохоче зізнаються, що застосовують його для «важливих завдань», імовірно, побоюючись виглядати тими, кого легко замінити. Мені здається, у дружньому спілкуванні діє той самий принцип — тільки частка людей, яким варто було б за це ніяковіти, ближча до 100%.
Обман — це лише частина проблеми. Справжнє зло тут — ефективність. Продавці ШІ раз у раз переконують мене використовувати його для «оптимізації» речей, які я вважаю приємними й навіть змістовними. Наприклад, iOS 26 від Apple зробила повідомлення «ефективнішими», пропонуючи ШІ-резюме їхнього змісту у сповіщеннях і списках. Перш ніж я вимкнув цю функцію, вона підсумувала мені груповий чат, де подруга надіслала фото дверей до свого моторошного горища, зазвичай замкнених, але тепер нещільно зачинених, що спричинило хвилю жартів про те, що її нарешті почали переслідувати привиди, нагадуючи «розмову про дерев’яну кімнату».
Окрім неточностей, цей підсумок позбавив чат будь-якого розважального характеру, звівши його до сухого обміну інформацією. Можливо, він був би кориснішим, якби розмова стосувалася дат, часу чи конкретних робочих результатів, а не жартів, які, як відомо, ШІ аналізує зі значними проблемами. Але скільки розмов із друзями взагалі зводяться до передавання фактів?
Коли мій брат пише «Як справи?», його мета — не отримання інформації, а підтримання зв’язку. І цей зв’язок руйнується, якщо я прошу ChatGPT скласти відповідь на 50 слів про те, який у нього милий малюк і як я його люблю. Щоб фанати максимальної ефективності не закидали нас машинним мотлохом, варто домовитися: якщо я надсилаю текст від ChatGPT, це так само образливо, як якби я замість реакції просто вставляв фразу на кшталт «О, це цікаво» щоразу, коли ви щось кажете.
Уявлення про те, що головне призначення повідомлень — швидко передавати інформацію, руйнується, щойно ми виходимо за межі вивісок і специфічних жанрів на кшталт оголошень в залі аеропорту.
У шкільних завданнях, дружньому листуванні та ділових повідомленнях, усюди, де є взаємні зобов’язання, текст виконує ще одну важливу роль: він, якщо скористатися терміном із криптовалют, слугує доказом виконаної роботи. Важливий не лише результат, а й сам процес: він або приносить користь авторові, або демонструє його залученість і повагу до адресата.
Генеративний ШІ підриває цю функцію, створюючи тексти, на розуміння та сприйняття яких витрачається більше зусиль, ніж на їхнє написання. Виникає типовий для поганих манер дисбаланс: інші змушені напружуватися більше, щоб хтось один міг менше працювати, думати чи перейматися. Мій товариш, який займається репетиторством зі старшокласниками, щотижня надсилає батькам звіти про успішність їхніх дітей. Один із батьків відповів електронним листом на 3000 слів із заголовками розділів, жирним виділенням імені свого сина щоразу, коли воно згадувалося, та іншими ознаками стилю ChatGPT.
Майже напевно його згенерували за секунди, але читати довелося хвилинами. Якщо говорити про порушення етикету, важко сказати, до чого його зарахувати — цей асиметричний лист. На мою думку, він десь між нікому не потрібною історією з дитинства і розмовою по гучномовцю в літаку. Але сигнал був очевидний: клієнт мого товариша хотів отримати будь-які переваги ґрунтовної відповіді від цих «стосунків», не докладаючи зусиль, щоб написати лист самостійно.
Створення повідомлення — це акт турботи. Студенти пишуть курсові не для того, щоб повідомити викладачам про роль соціальних класів і класових відмінностей у «Буремному перевалі», а щоб, формулюючи власні думки, краще зрозуміти матеріал. Написання поминальної промови змушує людину глибоко осмислити свої стосунки з покійним і водночас засвідчує її відданість цим стосункам, і особливо тоді, коли вона вже не може отримати від них жодної користі: наш воротар помер, але нам настільки не байдуже, що ми продовжуємо думати про нього, навіть якщо він більше не відбиватиме шайби у цьому світі.
Технології на кшталт ШІ, що економлять час, привабливі на роботі, бо багато хто хоче витрачати на неї менше життя. Але ця логіка не має поширюватися на дружні стосунки. Вони — не лише засіб заробити гроші чи здобути статус, а й цінність самі по собі: досвід спілкування з іншими людьми, який має сенс саме як досвід і тому втрачає щось важливе, коли його «оптимізують». Я не хочу, щоб ці стосунки ставали ефективнішими, з тієї ж причини, з якої не хочу робота, який буде гладити собаку замість мене. І якщо ти не хочеш писати мені повідомлення, то навіщо тоді взагалі хочеш бути моїм другом?
Звісно, іноді дружба буває виснажливою. Було б простіше будувати її лише на власних умовах: відповідати, коли з’являється настрій, і доручати комп’ютеру спілкуватися з друзями, коли немає настрою. Але це вже не дружба. Комп’ютер не здатен піклуватися. І не варто дозволяти йому позбавляти нас відчуття турботи.
Більше про це
Люди, яким не подобається музика: і що це пояснює про наш мозок — колонка The New Yorker
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
