ИИ заблокировал шахматный YouTube-канал из-за расизма

23 February 2021, 18:02

2 мин чтения

Добавить в закладки

Любую статью можно сохранить в закладки на сайте, чтобы прочесть ее позже.

Завершить

Марко Кушнир Рассказываю истории людей из украинского и мирового бизнеса в экспериментальных форматах

Режим чтения включен

Режим чтения увеличивает текст, убирает всё лишнее со страницы и даёт возможность сосредоточиться на материале. Здесь вы можете отключить его в любой момент.

Режим чтения

Завершить

В июне 2020-го искусственный интеллект YouTube заблокировал канал с шахматами. Похоже, алгоритм принял шахматные термины за расизм, пишет Independent.

Что случилось

28 июня 2020 года ИИ YouTube заблокировал канал хорватского шахматиста Антонио Радича с более чем 1 млн пользователей. Он посчитал его контент «вредным и опасным». Платформа не указала конкретную причину блокировки. Канал восстановили уже через 24 часа.

Почему это произошло

Радич предположил, что канал заблокировали из-за фразы «черные против белых». Конечно же, он говорил о шахматах.

На фоне произошедшего специалисты из Университета Карнеги-Меллона начали расследование инцидента. В процессе они проанализировали 680 000 комментариев на пяти самых популярных каналах о шахматах. Выяснилось, что ИИ неправильно классифицировал 82% сообщений. Всему виной использование таких слов, как «черный», «белый», «нападение» и «угроза».

Нашли ошибку? Выделите ее и нажмите Ctrl+Enter