OpenAI викрила російську пропагандистську кампанію, яка використовувала ChatGPT
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Розробники ШІ виявили та заблокували мережу акаунтів ChatGPT, які керувалися з росії для розкрутки та створення фальшивого авторитету у вигаданому ізраїльському аналітичному центру, пише OpenAI.
Що сталося
Розробники ШІ заблокували мережу акаунтів ChatGPT, які використовувалися російськими операторами для пропаганди. Зловмисники намагалися замаскуватися під авторитетний міжнародний аналітичний центр, щоб непомітно маніпулювати громадською думкою та дискредитувати країни Заходу.
Основою операції став так званий «Міжнародний інститут Берка» (IBI), сайт якого зареєстрували у лютому 2025 року. На сайті йшлося, що організація базується в Ізраїлі, а для солідності на ньому вказали імена відомих світових мислителів, як-от Френсіса Фукуями та Ноама Хомського. Щоб наповнити сайт «науковими» статтями, зловмисники просто копіювали реальні академічні роботи з інтернету.
Детальний аналіз вибірки з 36 публікацій інституту показав, що 34 статті були повністю скопійовані з інших джерел в інтернеті. Справжніми авторами виявилися науковці Кембриджського університету та Інституту міграційної політики.
Чому це цікаво
російські оператори використовували ШІ як допоміжний інструмент для ведення пропаганди та просування сайту IBI в соціальних мережах X, LinkedIn, Facebook, Substack та Telegram. До сервісу підключалися через VPN, оскільки на росії доступ до ChatGPT офіційно заблоковано. Вони писали запити російською мовою, але вимагали від ШІ генерувати контент англійською та давали ChatGPT чітку інструкцію приховувати будь-які лінгвістичні ознаки їхнього російського походження.
Попри усі старання, російські оператори зазнала провалу через машинний переклад. Зокрема в англомовному звіті про політичну ситуацію в Німеччині німецьку коаліцію «світлофора» (нім. Ampelkoalition) переклали транслітерацією зі слов’янських мов як «Svetofor». Для профілю Telegram-каналу «American Observer», який видавав себе за американське медіа, опис згенерували із явними помилками нерідної мови, зокрема фразою «absolutely non-partisan perspective on hazzy».
Головним продуктом вигаданого аналітичного центру став так званий «індекс суверенітету», який мав прославляти росію та демонструвати нібито занепад західних держав:
- Францію звинувачували в тому, що після десяти років правління Еммануеля Макрона країну нібито «розпродають частинами».
- Німеччині нав’язували наратив про те, що вона втратила «справжній військовий суверенітет» і повністю залежить від військових баз США.
- США критикували за нібито «добровільне скорочення автономії», а країни ЄС (наприклад, Словаччину та Італію) називали «заручниками Великого Союзу».
Безпосередній вплив цієї кампанії на аудиторію виявився низьким: публікації в соціальних мережах збирали мало переглядів, а офіційні акаунти інституту практично не мали реальних підписників. Певного прориву досягли лише окремі пов’язані канали в Telegram, які залучили по 10 000–20 000 підписників кожен.
Більше про це
Моделі OpenAI обійшли sandbox і отримали доступ до Hugging Face
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
