Здолати російську пропаганду. Як французький UncovAI прагне побороти дезінформацію за допомогою ШІ — інтерв’ю
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Режим читання збільшує текст, прибирає все зайве зі сторінки та дає можливість зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
У рамках рубрики «Хто ці люди» Vector дає можливість засновникам розповісти про свій проєкт: його продукт, маркетинг, монетизацію, інвестиції та плани. Цього разу на «трибуні» команда французького стартапу UncovAI. Їхній продукт виявляє тексти та зображення, згенеровані ШІ, використовуючи математичну гіпотезу. Команда позиціонує його як інструмент для боротьби з пропагандою і дезінформацією. Зокрема, і російською.
Head of News Юлія Ткач поговорила із засновником та СЕО UncovAI Флоріаном Барбаро про особливості продукту, просування, інвестиції та подальші плани.
Як з’явилась ідея
31-річний Флоріан Барбаро родом з Корсики, виріс у Ніцці. Має докторський ступінь в галузі прикладної математики та обробки природної мови — навчався в Університеті Париж I Пантеон-Сорбонна. Після випуску в 2022-му поїхав до США, щоб приєднатись до каліфорнійського стартапу Innov8ai. Там він став віце-президентом з ШІ-технологій. Стартап, зокрема, був підрядником Національного інституту охорони здоров’я США.
«Я вивчав дезінформацію, пов’язану з COVID-19, а потім, самостійно, російську пропаганду. Опублікував наукову статтю на конференції WWW 2023, у якій запропонував рішення для боротьби з російською пропагандою. Зрозумів, що все більше і більше людей використовують генеративний ШІ для поширення дезінформації. Тож почав працювати над ідеєю створення такого ШІ, не заснованого на техніці глибокого навчання. Так народилася модель на базі математичної гіпотези. Зробив її самотужки. Запустив UncovAI наприкінці вересня 2023-го», — розповів Барбаро.
Далі до нього як СМО приєдналася Анна Дика, родом з Харкова. Зараз в команді троє основних членів — СЕО, СМО і СТО, а також кілька фрілансерів та позаштатні радники.
На питання, чому саме російська дезінформація, відповів так:
«Я жив в Києві протягом одного місяця у вересні 2021-го, бачив, що люди слідкують за дезінформацією і тим, як вона впливає на суспільство.
У Франції, наприклад, ми також маємо величезну кількість російської дезінформації. Це дуже схоже на сегрегацію у суспільстві. Може призвести до якоїсь катастрофи.
Думаю, що саме тому почав шукати, чи можна це виявити або знайти якийсь спосіб боротися з дезінформацією. Я не можу робити це зі зброєю в руках, але здатний допомогти людям зрозуміти — не все, що вони читають в інтернеті, є правдою. Вони можуть знайти більше інформації в достовірних джерелах, — це допоможе нашому суспільству жити краще».
Продукт та аудиторія
UncovAI — інструмент, який виявляє тексти та зображення, згенеровані штучним інтелектом. Але замість моделі глибокого навчання, використовує математичну гіпотезу. Вона, за словами засновника, ефективно розрізняє контент, створений ШІ та людиною.
Модель має два головних шари:
- Перший дозволяє оптимально представити дані для подальшої обробки.
- Другий використовує ці дані для виявлення взаємозв’язків між ними.
Подальша обробка дозволяє визначити — згенеровано контент за допомогою ШІ чи його створила людина. Шари є незалежними і можуть еволюціонувати для адаптації до нових моделей та типів вмісту, таких як звуки чи відео.
Наразі команда має два основних продукти-детектори:
- Для тексту, згенерованого штучним інтелектом. Є вебзастосунок та два розширення для браузера. Пропонують API великим корпораціям. Для тестування моделі виявлення тексту створили набори даних з матеріалів, написаних людьми (взятих з «Вікіпедії», новинних статей тощо). Далі — згенерували еквівалентні статті за допомогою GPT4, Llama 2 або Bard.
- Для згенерованих зображень. Його запустили нещодавно. Працює через вебзастосунок у альфа-версії. Для тестування моделі створили набори даних, використовуючи зображення людей з фотосайтів та створені ШІ.
За словами Барбаро, математична модель розрізняє контент із високою точністю:
- для текстів — від 94% до 97%;
- для зображень, залежно від моделі, — приблизно від 90% до 95%.
У планах — запустити рішення для розпізнавання відео. Наразі UncovAI, каже фаундер, має близько 6 000 користувачів з 50 країн світу. Модель працює тільки з латинським алфавітом — французькою та англійською мовами. Проте планують додати кирилицю та зробити рішення доступним, зокрема, українською та російською. Наразі обговорюють з колегами із українського стартапу Mantis Analytics. Вони познайомилися під час Disinformation Detection Сhallenge у Києві, організованого AI House та Mantis Analytics у листопаді 2023-го. Барбаро був там одним із менторів.
«Якщо ми можемо допомогти українській екосистемі боротися з дезінформацією, то це буде дуже корисно і для Франці».
«Про це ми говорили на CES 2024 з одним французьким генералом, який спеціалізувався на боротьбі з дезінформацією. Особливо це актуально зараз, у рік виборів у західних країнах, які вже зіткнулись з великою кількістю фейкових повідомлень. Наприклад, коли “Вагнер” почав будувати власну екосистему в Африці, то поширював багато дезінформації про Францію, щоб загітувати людей вступати до своїх лав. Усе дуже пов’язано, і завжди через російську дезінформацію», — пояснює Барбаро.
Бізнес-модель та інвестиції
Поки UncovAI безоплатна для користувачів. У команді збирають зворотній зв’язок. Незабаром планують перейти на щомісячну преміум-підписку. Для великих компаній збираються встановити ціну за виклик API.
Щодо просування, то зараз повністю зосередилися на участі у заходах та особистому спілкуванні— людям потрібно пояснювати, як працює їх інструмент. UncovAI вже брали участь у Web Summit, Slush, CЕS. Зараз збираються на Web Summit в Катарі.
Фаундер запустив і поки розвиває стартап на власні кошти. Каже, загалом вклав вже близько $50 000. У планах залучити $3 млн. Їх використають на удосконалення рішення та розширення команди.
Плани
«Наша мета через п’ять років — мати платформу для визначення походження будь-якого контенту. Потім поширювати наше рішення, щоб покращити новинну стрічку людей. Щоб у соцмережах була відмітка з написом “будьте обережні, очевидно, це згенерований контент”», — фіналізує засновник.
