OpenAI стурбована тим, що у користувачів ChatGPT-4o з’являються почуття до чат-бота

OpenAI попереджає, що можливості GPT-4o, схоже, змушують деяких користувачів все більше прив’язуватися до чат-бота, пише TechRadar. Ми вибрали головне.

Що сталося

Пам’ятаєте, на початку травня цього року OpenAI презентувала нову модель — GPT-4о? Детальніше про це можна прочитати тут. Трохи пізніше компанія представила швидшу та дешевшу своєї флагманської ШІ-моделі — GPT-4o mini.

Тепер компанія попереджає, що можливості GPT-4o, схоже, змушують деяких користувачів все більше прив’язуватися до чат-бота. А це може призвести до тривожних наслідків.

OpenAI зафіксувала випадки, коли користувачі говорять про бота так, ніби він — важлива частина їхнього життя. Наприклад, деякі юзери вже використовують фрази на кшталт «це наш останній день разом», що свідчить про їхні емоції щодо бота.

OpenAI також попереджає, що GPT-4o може випадково створювати текст, схожий на стиль конкретної особи. Іншими словами, шахраї можуть використовуватися це для того, щоб видавати себе за когось іншого. Наразі компанія працює над тим, щоб зменшити ці загрози. Однак, конкретних планів щодо боротьби з емоційною прив’язаністю користувачів поки немає.