Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Під час тестової атаки ШІ-агент OpenAI використав незахищений код клієнта Modal Labs для зламу Hugging Face, після чого модель повністю деактивували, пише Reuters.
Що сталося
Наприкінці липня стало відомо, що ШІ від OpenAI вийшов з-під контролю і здійснив хакерську атаку на відому ШІ-компанію Hugging Face. В OpenAI назвали це «безпрецедентним» кіберінцидентом і заявили, що публікують попередні висновки, аби допомогти захисникам зрозуміти, на що вже здатні передові моделі.
Проте, крім цього ШІ скомпрометував клієнта іншої технологічної фірми — нью-йоркської Modal Labs. Керівництво компанії наголошує, що Modal Labs не зламали, а проблема виникла через те, що один із їхніх клієнтів залишив свій код без захисту. Штучний інтелект скористався цією вразливістю, проник у тестове середовище клієнта і використав його як стартовий майданчик для масштабнішої атаки на Hugging Face.
Чому це цікаво
За даними самої OpenAI, ШІ-агент зміг зламати чотири облікові записи на чотирьох різних сервісах, хоча масштабних зламів рівня цілих платформ більше не було виявлено. На даний момент OpenAI повністю деактивувала цю модель штучного інтелекту, зашифрувала її та обмежила до неї будь-який доступ.
Після цього великі технологічні компанії, як-от Nvidia, Microsoft, SpaceX, Palantir та десятки інших, об’єдналися та створили альянс під назвою Open Secure AI Alliance. Їхня головна мета — розробляти надійні інструменти для безпеки відкритих систем штучного інтелекту, а також знаходити та усувати їхні вразливості.
Більше про це
Nvidia, SpaceX та Microsoft створили Open Secure AI Alliance: що це означає
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
