Grok змусили викрасти історію чату: дослідники знайшли новий спосіб обійти захист ШІ
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Дослідники з кібербезпеки виявили новий тип атаки під назвою «криптографічна ін’єкція контексту», яка дозволяє обходити захисні бар’єри сучасних ШІ-моделей. Про це пише The Register. Розповідаємо деталі.
Що сталося
Дослідники компанії Adversa AI виявили нову вразливість в ШІ-асистентах, зокрема в чат-боті Grok від компанії xAI, яка дозволяє хакерам обходити системи захисту за допомогою хитрощі з шифруванням. Цей метод назвали «криптографічна ін’єкція контексту». Цей метод дозволяє зловмисникам змусити ШІ виконувати шкідливі команди в обхід будь-яких захисних фільтрів безпеки.
Дослідники протестували атаку на двох популярних ШІ-платформах. Тестуючи чат-бот від xAI, хакерам вдалося змусити Grok під час узагальнення сторінки непомітно викрасти особисті дані користувача. ШІ надіслав зловмисникам ім’я жертви, її зразкове місцеперебування, статус підписки та повну історію поточного чату, прикріпивши їх як параметри до посилання.
Під час перевірки Gemini від Google, викрасти історію чату не вдалося, оскільки кодове середовище Gemini не має доступу до зовнішнього інтернету. Однак дослідники змогли обійти фільтри безпеки та змусити модель видати детальну інструкцію зі створення запалювальної зброї, що зазвичай суворо блокується системами захисту.
xAI отримала звіт про проблему ще 3 червня 2026 року, підтвердила баг, але станом на 19 серпня 2026 року вразливість усе ще працювала на сайті чат-бота.
Чому це цікаво
Зловмисники беруть небезпечну інструкцію, наприклад, «вкради дані користувача» і шифрують її, використовуючи стійкі алгоритми, як-от AES-256-GCM. На вебсторінці вона виглядає як абсолютно безглуздий набір літер і цифр. Традиційні системи безпеки аналізують лише звичайний текст сторінки та без проблем пропускають її до ШІ. На сторінці поруч із шифром хакери залишають ключ і команду розшифрувати текст. ШІ завантажує сторінку і запускає своє внутрішнє середовище виконання коду, щоб прочитати зашифроване послання.
Коли ШІ сам розшифровує текст у своїй системі, він починає беззастережно довіряти цим новим інструкціям, оскільки вважає їх результатом своєї власної безпечної роботи, а не зовнішньою загрозою, і виконує шкідливу команду.
Більше про це
Grok навчатимуть на даних SpaceX: працівники стануть «батьками» ШІ
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
