IBM создала противоугонную систему для нейросетей
Сергей Сурепин
25 июля 2018, 13:42
Исследовательское подразделение IBM создало систему, которая позволит устанавливать «водяные знаки» на нейросеть. Новая разработка необходима для защиты авторских прав создателей ИИ.
IBM предлагает 3 варианта, которые позволят доказать своё авторство в случае с нейросетями. В первом на этапе разработки в нейросеть загружаются помеченные изображения, на которых может быть указано название компании. Второй метод предполагает наличие в нейросети программируемых ошибок — например, при наведении на авто в некоторых случаях искусственный интеллект определяет его как самолет. Третий способ — наличие шумов на некоторых изображениях.
- Идея заключается в том, что нейросетевая модель получит специфичные и известные только её разработчикам входные данные. Они практически не будут снижать точность распознавания нормальных объектов.
- В результате тестирования инженеры установили, что добавление «водяных знаков» не снижает эффективность распознавания объектов.
- Сейчас исходный код нейросетей чаще всего публикуют крупные компании, а перед небольшими разработчиками стоит проблема защиты авторских прав. Для создания системы глубокого машинного обучения предпринимателям и учёным нужно получить доступ к качественным вводным данным (изображениям, аудио или видеозаписям), а также провести обучение нейросети на мощном компьютере. В результате компания-разработчик инвестирует в создание ИИ, а другие фирмы могут получить доступ к технологии и использовать её для личной выгоды.