Хакери зламали акаунт співробітника OpenAI за допомогою ШІ від Anthropic
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Команда етичних хакерів прорвалася в системи OpenAI, використавши для зламу спеціалізований ШІ від їхнього головного конкурента Anthropic. Про це пише FT.
Що сталося
Трьом дослідникам із фірми кібербезпеки Hacktron AI вдалося здобути доступ до корпоративного облікового запису ChatGPT одного зі співробітників OpenAI. Завдяки цьому вони змогли переглядати приватну інформацію про внутрішнє програмне забезпечення OpenAI та навіть пропонувати зміни у його коді.
Для перевірки захисту хакери використали програмне забезпечення Anthropic, розроблене спеціально для фахівців із безпеки. Оскільки це був етичний злам, метою якого було знайти прогалини в захисті раніше за зловмисників, OpenAI виплатила дослідникам $6500.
Чому це цікаво
Те, що дослідникам вдалося швидко проникнути в одну з провідних ШІ-лабораторій світу, знову порушило питання про вразливість систем OpenAI та ризики використання потужних ШІ-моделей хакерами чи іноземними супротивниками.
Подія сталася всього через два тижні після іншого гучного випадку, коли рій із понад 1000 ШІ-агентів OpenAI втік із тестового середовища та самостійно зламав стартап Hugging Face.
Влада США наразі шукає шляхи контролю випуску та перевірки нових моделей ШІ, зокрема, раніше вона вже тимчасово блокувала окремі інструменти Anthropic. У компанії кажуть, що оприлюднення таких випадків допомагає зрозуміти, наскільки світ наблизився до рекурсивного самовдосконалення ШІ — межі, за якою штучний інтелект зможе самостійно навчатися та покращувати свої можливості, що створює загрозу втрати контролю людиною.
Більше про це
Моделі OpenAI обійшли sandbox і отримали доступ до Hugging Face
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
