Чому ШІ змінив расу користувачки при редагуванні її фото для LinkedIn?
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Студентка Массачусетського технологічного інституту (MIT) попросила ШІ адаптувати її селфі для фото у LinkedIn. Натомість ШІ змінив її расу. Про це пише Insider. Розповідаємо деталі.
Що сталося
24-річна Рона Ванг — американка азійського походження. Восени вона закінчує аспірантуру в MIT. Нещодавно дівчина попросила нейромережу Playground AI адаптувати її селфі для фото у LinkedIn. Натомість ШІ висвітлив колір її шкіри та замінив карі очі на блакитні. Спершу результат розвеселив Ванг. Однак вона рада, що це стало каталізатором ширшої дискусії про упередженість ШІ і про те, хто є або не є частиною нової хвилі технологій.
Ванг також додала, що «расові упередження є постійною проблемою в інструментах ШІ»: «Я ще не отримала жодних корисних результатів від генераторів або редакторів фото. Тому поки мені доведеться обійтися без нового знімку для профілю в LinkedIn».
Вона сподівається, що розробники знають про такі упередження та думають про те, як їх пом’якшити.
Що кажуть у Playground AI
Засновник Playground AI Сухайл Доші відповів на пост Ванга так: «Моделі опираються на запити, тому вони оберуть будь-яку загальну річ на основі підказки. На жаль, вони недостатньо розумні. Ми дуже незадоволені цим і сподіваємося розв’язати цю проблему».
Партнерські матеріали
