Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
OpenAI придбала стартап Promptfoo, який розробляє інструменти для тестування безпеки великих мовних моделей і захисту ШІ-систем від зловмисників. Про це повідомляє TechCrunch. Розповідаємо деталі.
Що сталося
Компанія OpenAI оголосила про придбання стартапу Promptfoo, який спеціалізується на безпеці систем штучного інтелекту. Після завершення угоди технології стартапу інтегрують у платформу OpenAI Frontier — корпоративне середовище компанії для створення та керування ШІ-агентами.
Promptfoo заснували у 2024-му році Ієн Вебстер та Майкл Д’Анджело. Компанія розробляє інструменти, які допомагають тестувати великі мовні моделі на вразливості та перевіряти, як вони поводяться у різних сценаріях. Йдеться, зокрема, про інтерфейс і бібліотеку з відкритим кодом, що дозволяють компаніям виявляти потенційні способи зламу моделей або маніпуляцій їхніми відповідями.
У OpenAI пояснюють, що розвиток автономних ШІ-агентів — систем, які можуть виконувати цифрові завдання без постійної участі людини — створює нові можливості для бізнесу. Такі інструменти можуть автоматизувати роботу з даними, виконувати операційні процеси або взаємодіяти з клієнтами. Водночас їхнє поширення відкриває нові ризики: зловмисники можуть намагатися отримати доступ до конфіденційної інформації або впливати на роботу автоматизованих систем.
Саме для перевірки таких ризиків і створювали Promptfoo. Інструменти стартапу дозволяють компаніям тестувати системи штучного інтелекту на вразливості та перевіряти, чи можуть сторонні користувачі обійти обмеження моделей або отримати доступ до закритих даних. За даними компанії, її продукти використовують понад 25% компаній зі списку Fortune 500.
Після інтеграції технологій Promptfoo платформа OpenAI Frontier отримає нові інструменти безпеки для роботи з агентами. Зокрема, система зможе:
- автоматично формувати команди з кількох ШІ-агентів для виконання завдань;
- перевіряти робочі процеси агентів на наявність вразливостей;
- відстежувати активність систем для виявлення потенційних ризиків;
- контролювати відповідність вимогам безпеки та комплаєнсу.
За даними PitchBook, від моменту заснування Promptfoo залучила близько $23 млн інвестицій, а після раунду фінансування у липні 2025-го року компанію оцінювали приблизно у $86 млн. Вартість угоди з OpenAI сторони не розкривають.
У OpenAI також заявили, що планують продовжувати розвиток відкритої версії інструментів Promptfoo, якою користуються розробники для тестування безпеки систем штучного інтелекту.
Більше про це
OpenAI і Oracle зупинили розширення проєкту на $500 млрд — причина
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
