Аспірант швейцарського університету EFPL, українець Богдан Кулініч виявив расистську упередженість в алгоритмах Twitter. За знахідку компанія заплатила йому винагороду у розмірі $3500, повідомляє The Guardian.
Що сталося
Аспірант швейцарського університету EFPL Богдан Кулініч у рамках конкурсу на DEF CON security знайшов упередженість в алгоритмі Twitter. Його використовують для фокусування попереднього перегляду зображень.
Користувачі Twitter ще 2020 року виявили проблему з алгоритмом. Він краще фокусується на молодших, стрункіших обличчях зі світлішою шкірою й обрізає чорношкірих людей та навіть темних тварин.
Як виявив недолік
Кулініч спочатку штучно згенерував ряд ідентичних облич, які він потім пропустив через алгоритм обрізки Twitter. У них лише точково змінювався тон шкіри, ширина обличчя та вік. Так дослідник продемонстрував, що алгоритм дійсно обирає молодші та світліші обличчя.
Twitter заплатив Кулінічу $3500 за успішне виявлення проблеми.