Чому ШІ змінив расу користувачки при редагуванні її фото для LinkedIn?

Студентка Массачусетського технологічного інституту (MIT) попросила ШІ адаптувати її селфі для фото у LinkedIn. Натомість ШІ змінив її расу. Про це пише Insider. Розповідаємо деталі.

Що сталося

24-річна Рона Ванг — американка азійського походження. Восени вона закінчує аспірантуру в MIT. Нещодавно дівчина попросила нейромережу Playground AI адаптувати її селфі для фото у LinkedIn. Натомість ШІ висвітлив колір її шкіри та замінив карі очі на блакитні. Спершу результат розвеселив Ванг. Однак вона рада, що це стало каталізатором ширшої дискусії про упередженість ШІ і про те, хто є або не є частиною нової хвилі технологій.

Ванг також додала, що «расові упередження є постійною проблемою в інструментах ШІ»: «Я ще не отримала жодних корисних результатів від генераторів або редакторів фото. Тому поки мені доведеться обійтися без нового знімку для профілю в LinkedIn».

Вона сподівається, що розробники знають про такі упередження та думають про те, як їх пом’якшити.

Що кажуть у Playground AI

Засновник Playground AI Сухайл Доші відповів на пост Ванга так: «Моделі опираються на запити, тому вони оберуть будь-яку загальну річ на основі підказки. На жаль, вони недостатньо розумні. Ми дуже незадоволені цим і сподіваємося розв’язати цю проблему».