Google запустила програму винагород за виявлення вразливостей у штучному інтелекті. За знайдені помилки в системах компанії дослідники можуть отримати до $30 000. Розповідаємо деталі.
Оригінальна дата публікації: 8 жовтня 2025 року.
Що сталося
Компанія Google запустила програму AI Vulnerability Reward Program (VRP), спрямовану на виявлення вразливостей і помилок у своїх продуктах із застосуванням штучного інтелекту. Компанія встановила базову винагороду до $20 000, але з урахуванням бонусів за новизну чи якість звіту сума може сягати $30 000.
Програма охоплює випадки, коли взаємодія з великою мовною моделлю чи іншою генеративною системою є центральною складовою вразливості або зловживання. До пріоритетних ситуацій Google віднесла несанкціоновані дії, наприклад, непряма ін’єкція запиту SQL, коли пристрій, як-от Google Home, може виконати команду без відома користувача, наприклад, відкрити двері.
За цими змінами вже стоїть минулий досвід компанії: в межах попередньої програми з виявлення помилок у ШІ Google виплатила понад $430 000 за подібні знахідки. Новий VRP доповнює цей підхід і створює чіткіші правила для винагород у контексті AI.
Також одночасно Google представила CodeMender — експериментального ШІ-агента, здатного автономно виявляти та виправляти вразливості у програмному коді.