Google попередила 2 млрд користувачів Gmail про новий тип кібератак, пов’язаних із роботою ШІ-помічника. Про це повідомляє американський Forbes. Розповідаємо деталі.
Що сталося
Компанія Google повідомила про нові хакерські атаки, пов’язані з інтеграцією ШІ в Gmail та інші сервіси компанії, якими користуються понад 2 млрд людей. Йдеться про вразливість типу непрямого впровадження запитів, коли зловмисники можуть впливати на дії ШІ через контент, який він аналізує — електронні листи, документи Google Docs або запрошення в «Календарі».
За даними звіту компанії Noma Security, зафіксовано атаку під назвою GeminiJack. Вона дозволяла викрадати корпоративні дані без будь-яких дій з боку користувача: достатньо було, щоб ШІ Gemini прочитав заражений документ або лист. При цьому не з’являлися попередження, а стандартні засоби безпеки не спрацьовували. Google підтвердила проблему, співпрацювала із Noma та заявила, що конкретну вразливість уже усунено.
Водночас експерти наголошують: модель роботи ШІ, яка має доступ до Gmail, «Документів» і «Календаря», створює новий рівень ризиків. Якщо зловмисник може впливати на те, що читає штучний інтелект, він потенційно може впливати й на те, які дії АІ виконує далі.
Чому це цікаво
Національний центр кібербезпеки Великої Британії радить ставитися до ШІ не як до помічника, а як до нового співробітника з обмеженим доступом. Це означає, що кожне оновлення або нову інтеграцію ШІ варто оцінювати з точки зору доступу до даних, а не лише користі функцій.
Нагадаємо, 9 грудня європейська комісія розпочала нове антимонопольне розслідування проти Google. Компанію підозрюють у просуванні власних ШІ-продуктів. Деталі розповідаємо тут.