Google DeepMind випустила експериментального ШІ-агента CodeMender, який автономно знаходить і виправляє помилки у програмному коді. Про це компанія повідомила у своєму блозі.
Що сталося
Компанія Google DeepMind оголосила про запуск CodeMender — системи, яка може самостійно аналізувати код, виявляти вразливості та вносити виправлення без втручання людини. Агент використовує комбінацію моделей Gemini Deep Think, статичного й динамічного аналізу, fuzzing-тестування та символьного моделювання.
CodeMender не лише реагує на помилки, а й переписує частини коду, усуваючи цілі класи потенційних помилок.
Попри те, що CodeMender залишається дослідницьким проєктом, система вже подала 72 виправлення до відкритих репозиторіїв із загальним обсягом понад 4,5 млн рядків коду.
Серед найпомітніших прикладів — патч для бібліотеки libwebp, яку у 2023 році використали для zero-click атаки на iOS. CodeMender додав анотації -fbounds-safety, що зробило подібні переповнення буфера непридатними для експлуатації, за словами дослідників.
Перед публікацією кожне виправлення проходить кілька етапів перевірки:
- його оцінює «LLM-суддя»;
- система самокорекції усуває залишкові помилки;
- фінальне рішення ухвалюють дослідники DeepMind.
У компанії підкреслюють, що всі зміни проходять людський аудит.
Що далі
DeepMind планує розширити співпрацю з розробниками open-source проєктів і згодом надати CodeMender як інструмент безпеки для великих кодових баз.