Anthropic заявила, що три китайські ШІ-компанії використали близько 24 000 фейкових акаунтів і 16 млн запитів до чат-бота Claude для навчання власних моделей. Про це пише Тhe Guardian. Розповідаємо деталі.
Що сталося
Американська компанія Anthropic заявила про виявлення масштабних кампаній із незаконного вилучення даних із її чат-бота Claude. За даними Тhe Guardian, до цього причетні три китайські розробники ШІ — DeepSeek, Moonshot AI та MiniMax.
Anthropic стверджує, що компанії застосовували техніку «дистиляції» — підхід, за якого менш потужна модель навчається на відповідях більш просунутої системи. За оцінкою Anthropic:
- було здійснено близько 16 млн запитів до Claude;
- використано приблизно 24 000 фальшивих облікових записів;
- найбільшу активність продемонструвала MiniMax — понад 13 млн обмінів;
- основний фокус — програмування, агентне мислення та робота з інструментами.
Компанія заявила, що для обходу обмежень на комерційний доступ із Китаю трафік нібито спрямовували через проксі-сервіси, які керували великими мережами облікових записів.
Чому це цікаво
Anthropic назвала це «крадіжкою інтелектуальної власності промислового масштабу» і заявила, що такі дії дозволяють конкурентам відтворювати можливості американських моделей із меншими витратами, а також потенційно обходити експортні обмеження США на передові технології.
Anthropic також зазначила, що моделі, створені шляхом такої дистиляції, можуть не зберігати запобіжні механізми безпеки, вбудовані в оригінальні системи. Зокрема, йдеться про обмеження, пов’язані з біологічними загрозами або кібератаками.
Нагадаємо, нещодавно стався незручний момент між CEO OpenAI Сем Альтман і CEO Anthropic Даріо Амодей, тому що вони відмовилися взятися за руки під час спільного фото з прем’єр-міністром Нарендрою Моді. Деталі розповідаємо тут.