ИИ заблокировал шахматный YouTube-канал из-за расизма
В июне 2020-го искусственный интеллект YouTube заблокировал канал с шахматами. Похоже, алгоритм принял шахматные термины за расизм, пишет Independent.
Что случилось
28 июня 2020 года ИИ YouTube заблокировал канал хорватского шахматиста Антонио Радича с более чем 1 млн пользователей. Он посчитал его контент «вредным и опасным». Платформа не указала конкретную причину блокировки. Канал восстановили уже через 24 часа.
Почему это произошло
Радич предположил, что канал заблокировали из-за фразы «черные против белых». Конечно же, он говорил о шахматах.
На фоне произошедшего специалисты из Университета Карнеги-Меллона начали расследование инцидента. В процессе они проанализировали 680 000 комментариев на пяти самых популярных каналах о шахматах. Выяснилось, что ИИ неправильно классифицировал 82% сообщений. Всему виной использование таких слов, как «черный», «белый», «нападение» и «угроза».