Переваги, ризики та кейси використання ШІ в українських програмних продуктах. Конспект дискусії із шоуруму «Своє.ІТ»
9 травня в Києві за організації GigaCloud — лідера українського хмарного ринку — вже втретє відбувся Національний шоурум українського софту «Своє.ІТ». У межах заходу тривала панельна дискусія «ШІ-алгоритми в українських програмних продуктах: переваги, ризики, кейси». У дискусії взяли участь:
- Сергій Кравцов, кофаундер та CEO, ConnectiveOne;
- Дмитро Борисов, комерційний директор, Linkos Group;
- Максим Корженевський, засновник і CTO, МК Consulting, архітектор ШІ-платформи Avengers у ЗСУ;
- Дмитро Осіюк, AI Discovery Manager, MacPaw;
- Ісмаіл Осбанов, CEO, Vector Media, модератор.
Наводимо головні тези спікерів в адаптованому та скороченому форматі.
Про сфери застосування ШІ в Україні
За словами Сергія Кравцова, співзасновника та CEO ConnectiveOne, компанія працює з великими бізнесами, зокрема Uklon, Varus, Samsung, Fokstrot і Megogo. Вона допомагає їм автоматизувати підтримку ШІ-інструментами.
Наприклад, оброблення запитів через будь-який текстовий канал — сайт, сторінку в соцмережах чи на Google Maps, месенджери. На найпоширеніші запитання чи коментарі відповідає бот. Оператор може присвятити час складнішим і цікавішим завданням. Зрештою, це покращує показник eNPS Employee Net Promoter Score — задоволеність оператора від роботи. .
«Завдання такої автоматизації — не скорочення працівників, а полегшення їхньої роботи завдяки підвищенню швидкості та якості оброблення запитів», — наголошує Сергій Кравцов.
Комерційний директор Linkos Group Дмитро Борисов поділився специфікою понад 25-річної роботи у сфері автоматизації українського бізнесу. Компанія створює продукти, які роблять простішим та зручнішим документообіг і взаємодію між різними бізнесами та державою. Серед них, наприклад, застосунок M.E.Doc, за допомогою якого практично кожна українська компанія здає звітність. Також система ISpro, рішення CRS СОТА, РРО Cashalot, комерційний надавач ЕЦП ЦСК «Україна».
«Ми робимо складні речі простими», — зазначає Дмитро Борисов.
Максим Корженевський, фаундер і CTO компанії МК Consulting, яка працює на ринку GovTech, розповів, що лише місяць тому звільнився з лав Збройних Сил України. Служив у Центрі інновацій, де запустив ШІ-платформу Avengers. Вона просто зараз допомагає виявляти й знищувати ворога.
«Наш слоган: develop systems that matter», — підкреслює Максим Корженевський.
Дмитро Осіюк, AI Discovery Manager у MacPaw, працює над ШІ-асистентом для макбуків. Продукт назвали Eney, взявши ім’я літературного героя поеми Івана Котляревського. Розробники сподіваються: як і у творі українського класика, Eney буде моторним — швидким і спритним ШІ-асистентом. Реліз заплановано на 2025 рік.
«Це частина української культури, яку наша компанія хоче просувати у світі», — каже Дмитро Осіюк.
Чим корисний ШІ в службі підтримки та як може заважати
Ступінь залученості штучного інтелекту в роботу сапорта залежить від бажання замовника, який звертається до ConnectiveOne. Сергій Кравцов розповідає, що умовно всіх клієнтів можна поділити на три групи.
- Інноватори — говорять: «Змінімо всіх операторів на ШІ».
- Збалансовані — віддають перевагу гібридній моделі «людина + ШІ».
- Консерватори — вважають, що тільки люди можуть працювати з людьми.
Відповідно ConnectiveOne дозволяє втілити всі ці три варіанти.
ШІ людей не замінює, він їх доповнює.
— Сергій Кравцов
Він наводить кейс клієнта ConnectiveOne. Компанія прийшла з початковою ідеєю автоматизувати сапорт і отримала автоматизацію, на яку розраховувала. Попри зростання клієнтської бази до 60 тис., кількість операторів залишилася такою самою — троє. Тепер вони можуть витрачати по дві години на дзвінок чи виїжджати до клієнта. Також компанія вирішила адаптувати бота для навчання нових співробітників, тому ШІ додали в систему онбордингу.
Сергій Кравцов розповідає, що вони завжди вимірюють показники ефективності застосування ШІ в клієнтів. Наприклад, для вище згаданого клієнта економія часу операторів служби підтримки досягла кількох мільйонів хвилин. Також був кейс, у якому середній діалог з оператором тривав 39 хвилин до запровадження автоматизації оброблення запитів за допомогою штучного інтелекту. Після — скоротився до двох хвилин. До того ж перша відповідь надавалася вже через десять секунд.
Поряд з очевидними плюсами застосування ШІ в роботі служби підтримки трапляються й неприємності. У практиці ConnectiveOne був випадок, коли через неправильно встановлений механізм агрегації бот відповів на запитання клієнта фінансової установи: «Кому ви продали мій борг?» назвою конкретної компанії. Це викликало обурення людини та призвело до санкцій Національного Банку України. Проблему розвʼязали, а неточності в роботі бота виправили.
«Штучному інтелекту контроль обов’язково потрібен», — Сергій Кравцов.
Він розповідає, що для машинного навчання вони використовують гібридний формат. Тобто беруть реальні дані компанії-замовника й доповнюють їх синтетичними даними.
ШІ на службі ЗСУ
Архітектор ШІ-платформи Avengers Максим Корженевський розповідає, що в армії не дають чітких техзавдань і даних. Усе тримається на ініціативності й горизонтальних зв’язках.
Для створення Avengers використовували computer vision, object detection, object tracking та дані пілотів авіації. Зараз це вже сталий процес: є стримінгові системи, з якими ШІ-платформа інтегрована повністю. Усе, що відбувається на фронті, потрапляє до системи. Платформа обробляє відеострими та записи й виявляє потенційні цілі для ураження. Після цього дані про цілі надсилаються відповідним структурам ЗСУ.
«Взагалі не було війн із такою кількістю застосування військової техніки, помноженої на таке число відеофіксації. Тому природно, що ні в кого немає таких обсягів даних у світі, окрім нас і росіян», — Максим Корженевський.
Українські ML-стартапи й компанії зі сфери ВПК звертаються до МК Consulting. Після перевірки Службою Безпеки України їх долучають до платформи. Розробники технологічно убезпечили дані від крадіжки. Тобто вони дають можливість підприємствам ВПК лише користуватися даними Avengers, щоб створювати моделі ШІ під власні завдання.
Військові технології після завершення війни часто переходять у цивільне підприємництво. Тому, на думку Максима Корженевського, ШІ-технології знайдуть застосування в медицині, освіті, комунальній сфері тощо.
Особливості застосування штучного інтелекту у фінансах і звітності
Комерційний директор Linkos Group Дмитро Борисов розповідає, що вони працюють із державними та недержавними організаціями. Проте клієнтура специфічна й консервативна — це бухгалтери, фінансисти тощо. Крім того, інформація, якою вони оперують, конфіденційна. За 25 років роботи компанії вдалося «привчити» клієнтів до електронного документообігу.
Наступний крок — пояснити, що інформація не тільки зберігається в цифровому вигляді, зокрема, у хмарному сховищі. Її ще й може генерувати штучний інтелект. Водночас важливо, щоб користувач міг відстежити походження кожної цифри.
Людина повинна довіряти цій цифрі. І вона повинна мати кнопку, щоб вимкнути ШІ.
— Дмитро Борисов
Багато алгоритмів, які автоматизує Linkos Group, закріплені в держрегулюванні. Це й створює певні нюанси та обмеження для впровадження.
У зв’язку із цим Дмитро Борисов наводить кейс. Розробляється модуль для автоматизації закупівель. Він аналізує кон’юнктуру ринку й виводить оптимальну ціну, з якою можна виходити на тендер. Однак для держсектора це не працює.
Потрібна формальна процедура: надіслати три листи, отримати цифри, а потім вивести на їхній основі ціну, з якою вже йти на тендер. На думку Дмитра Борисова, вкрай важлива підтримка держави в цьому питанні. Тобто щоб було зарегламентовано використання тих чи інших інструментів, зокрема ШІ.
Щодо навчання штучного інтелекту, то в Linkos Group використовують чотири моделі.
- Федеративне навчання. Система навчається в периметрі власника інформації. Далі тільки оновлюються певні параметри, але не йде чутлива інформація, наприклад, кадрова чи фінансова.
- Диференційна приватність. Модель отримує інформацію, та не може використовувати певні деталі щодо деяких людей чи організацій.
- Локальна. Розгортається закрита система, і навчання в ній відбувається на власній моделі.
- Синтетичні дані. Створюють уявну організацію, яка зберігає всі патерни, всю математичну статистику, всі залежності. Хоча це не реальна організація. Серед мінусів — модель може не врахувати якісь специфічні випадки.
Обʼєднати всіх розробників ПЗ для macOS в одній екосистемі
MacPaw понад 15 років розробляє софт для екосистеми Apple. Дмитро Осіюк каже, що один із найбільших продуктів — це CleanMyMac. Компанія має експертизу в macOS і співпрацює із численними вендорами. Усе це втілено в сервісі Setapp — підписці, що дає доступ до 250 застосунків з App Store без обмежень.
«Ми намагалися створити максимально інтегровану систему штучного інтелекту — асистента, який дозволить глибше працювати із системою, автоматизовувати процеси», — Дмитро Осіюк.
Він розповідає, що до епохи ШІ потрібно було досить довго розбиратися, як користуватися якоюсь новою програмою. Наприклад, вам потрібно конвертувати файл з одного формату в інший. Ви йдете в Google і шукаєте, як це зробити. Знаходите інструкції або п’ять способів розв’язати це завдання.
Проте зараз штучний інтелект може одразу вас направити в правильне місце й відкрити необхідний функціонал. В ідеалі — навіть згенерований спеціально під вас. Тобто він здатен створювати Generative UI — генеративні інтерфейси, які підлаштовуватимуться під ваше користування комп’ютером.
«Наша мета — об’єднати розробників. Створити екосистему для розроблення програмного забезпечення саме на macOS в одному продукті, який буде таким розумним, що покриватиме всі запити користувача в цьому сегменті», — Дмитро Осіюк.
За його словами, у MacPaw дуже високо цінують приватність і конфіденційність. Тому всі дані завжди збирають зі згоди користувачів. У деяких випадках використовують і синтетичні дані. Це корисно в ході запуску нового продукту, коли немає даних про його використання. Компанія займається файнтюнінгом моделей LLM, різні моделі підбирають під різні завдання, оскільки всі вони мають специфічні особливості.
Ризики використання ШІ
«Навіть в медичній сфері ведеться багато дискусій щодо того, чи може ШІ аналізувати МРТ-знімки, анамнез пацієнта й робити хоч якісь висновки. І це філософське питання, оскільки воно “загортається” в таке формулювання: “Це не висновки, це порада”. А от де закінчується порада й де починається людська лінь? Наприклад, коли кажуть, що ШІ вже щось накидав — навіщо мені перевіряти? Це важко тощо. Однак це процедурні питання, їх потрібно вирішувати процедурами», — ділиться Максим Корженевський, засновник МК Consulting.
У Кремнієвій долині обговорюють disclosing — коли модель, навчена на внутрішніх даних, видає новим співробітникам конфіденційну інформацію про компанію. На думку Максима Корженевського, це ще одна проблема.
У MacPaw стався випадок із діпфейком, який намагався влаштуватися на роботу. Рекрутерка впізнала в ньому знайомого, який заперечив зміну роботи. Це виявилася підміна особи: діпфейк використовував чужі дані й навіть проходив онлайн-співбесіди зі зміненим у реальному часі обличчям.
«Ризикові сфери — це ті, у яких непрозоре ухвалення рішень і які мають серйозний вплив на людину. Кримінальні справи, соціальна допомога — тут краще без ШІ. І це, безперечно, ще й критична інфраструктура, де наслідки помилок можуть бути катастрофічними», — підкреслює Дмитро Борисов.
У сапорті, як каже Сергій Кравцов, головний ризик застосування ШІ — це те, що бот видасть критичні дані. Тому в нього закладається загальновідома інформація про компанію, а чутлива — залишається в безпеці.
Обмеження для ШІ на українському ринку
За словами Сергія Кравцова, зараз перешкод для застосування ШІ в Україні він не бачить. На додаток, український бізнес краще сприймає цю технологію, ніж аналогічні компанії в Арабських Еміратах, Бразилії, Великобританії тощо.
Максим Корженевський зазначає, що багато представників українського бізнесу думають, що GAI (General Artificial Intelligence) вже винайдено. Запити на зразок: «Дайте мені агента, який передбачить курс біткойна на п’ять років вперед», досить часті.
«Якщо говорити про Україну зараз, то обмеження очевидні. Коли ти займаєшся інноваціями в укритті, під час повітряної тривоги, це дуже складно. Тому сподіватимемося, що ми переможемо якомога швидше. Й оця стиснута пружина наших українських IT-потужностей вистрелить із новою силою», — резюмує Дмитро Осіюк.