NVIDIA формує команду для боротьби з ризиками штучного інтелекту
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
NVIDIA створює нову команду, яка фокусуватиметься на безпеці та захисті ШІ. Про це пише Business Insider. Розповідаємо деталі.
Що сталося
NVIDIA опублікувала нові вакансії, які вказують на запуск окремої команди для роботи з безпекою ШІ. Компанія шукає провідного інженера, який стане технічним керівником напряму, а також інженера з досліджень безпеки, інженера з оцінювання ШІ-систем і старшого менеджера.
З описів вакансій випливає, що команда перевірятиме ШІ-агентів перед впровадженням, а також розроблятиме ШІ-інструменти для виявлення й усунення вразливостей у програмному забезпеченні.
Чому це цікаво
Зараз активно розвиваються самостійні ШІ-агенти та «відкриті моделі». У відкритих моделях налаштування поведінки ШІ є загальнодоступними, хоча початкові дані для навчання та сам вихідний код розробники можуть тримати закритими. Через це питання безпеки стають критично важливими.
Нагадаємо, що нещодавно ШІ від OpenAI вийшов з-під контролю і здійснив хакерську атаку на відому ШІ-компанію Hugging Face. В OpenAI назвали це «безпрецедентним» кіберінцидентом і заявили, що публікують попередні висновки, аби допомогти захисникам зрозуміти, на що вже здатні передові моделі.
Крім того, у компанії Anthropic ШІ також отримав доступ до інтернету через людську помилку в налаштуваннях. Представники фірми Irregular кажуть, що випадок з Meta — це точно така ж технічна проблема.
Більше про це
Після Anthropic та OpenAI: Meta визнала новий збій у перевірці безпеки ШІ
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
