російська пропагандистська кампанія використала ШІ для створення фальшивих новин з використанням голосових технологій, щоб вплинути на громадську думку в Європі щодо підтримки України, пише TechCrunch.
Що сталося
російська пропаганда використовує технології ШІ для створення фальшивих новин, аби маніпулювати громадською думкою в Європі та знизити підтримку України.
За даними дослідження компанії Recorded Future, російська пропагандистська кампанія під назвою Operation Undercut активно використовувала технології генерації голосу, зокрема продукцію стартапу ElevenLabs.
Наприклад, в одному з роликів йшлося про те, що навіть системи радіоелектронної боротьби не можуть врятувати американські танки Abrams. За допомогою ШІ росіяни швидко перекладали відео на кілька європейських мов, таких як англійська, німецька, французька, польська та турецька.
Чому це цікаво
Для підтвердження, що голоси на відео створено за допомогою штучного інтелекту, компанія Recorded Future використала інструмент AI Speech Classifier від ElevenLabs, який це підтвердив. У відповідь на ці інциденти ElevenLabs запровадили нові заходи безпеки, щоб обмежити використання їхніх технологій для обману, зокрема автоматично блокуючи голоси політиків.
За даними дослідників, за цим стоїть російське Social Design Agency, яке вже потрапило під санкції США за створення мережі з 60 сайтів, що імітують європейські ЗМІ.
Для ElevenLabs це вже не перший скандал — нещодавно їхні технології використовували для створення фейкових робо-дзвінків від імені Байдена із закликом не ходити на праймеріз. При цьому компанія активно зростає: виручка зросла з $25 до $80 млн за рік, а оцінка може досягти $3 млрд. Серед інвесторів — Andreessen Horowitz і колишній CEO Github.
Що відомо про стартап
У 2022 році інженер Google Пьотр Карватка та стратег впровадження в компанії-розробника ПЗ Palantir Маті Станішевський заснували стартап ElevenLabs. У січні 2023 року вони випустили бета-версію платформи, яка за допомогою ШІ дозволяє перетворювати текст на аудіо.
Згодом, команда стартапу повідомила Vector про запуск нової багатомовної моделі Eleven Multilingual v2, яка підтримує 30 мов, зокрема українську. Сервіс користується попитом серед медіакомпаній, включаючи розробників першого ШІ-радіо Super Hi-Fi, а також серед видавців, ігрових студій та незалежних креаторів.