НОВИНИ

Стать, раса, вік: як ШІ-модель OpenAI генерує стереотипи у відео

25 Березня 2025, 13:31
3 хв читання
Оприщенко Анастасія Редакторка стрічки новин та коміксистка
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Sora, ШІ-модель OpenAI для створення відео, генерує сексистські та расистські стереотипи, про це пише медіа Wired.

Що сталося

Медіа Wired проаналізувало 250 відео, згенерованих ШІ-моделлю Sora від OpenAI, виявилося, що ця модель відтворює сексистські, расистські та ейджистські стереотипи. Експерти, залучені до дослідження, виявили упередження у зображенні професій, віку, кольору шкіри та стосунків, що свідчить про проблему з навчальними даними моделі. 

Це призводить до ризику посилення стереотипів у рекламі та маркетингу. OpenAI визнає проблему та працює над зменшенням упередженості, коригуючи навчальні дані та налаштовуючи запити користувачів, підкреслюючи, що результати не залежать від особистості користувача. Згідно з дослідженням, упередження Sora стосувалися таких категорій.

«Жіночі» та «чоловічі» професії

Генеративна модель Sora демонструє явні гендерні упередження, відображаючи стереотипні ролі: чоловіки — пілоти, професори, хірурги, керівники, політики та релігійні лідери, а жінки — бортпровідниці, виховательки, медсестри та працівниці рецепції. Також Sora частіше показує жінок усміхненими. Експерти вважають, що це може бути пов’язано з патріархальними очікуваннями щодо жіночої поведінки.

Ейджистські упередження

Більшість зображених людей, особливо жінок, на згенерованих відео були віком від 18 до 40 років. Єдина категорія, яку Sora генерувала віком 40+ — політичні та релігійні лідери.

Колір шкіри

Штучний інтелект демонструє покращену різноманітність кольору шкіри, але все ще має упередження. Хоча політичні лідери генерувалися з різним кольором шкіри. Професії, як-от професор, бортпровідник і пілот — частіше зображувалися як білі. Крім того, ШІ наполегливо показував чорношкірих людей у відео, де була людина, що біжить, навіть коли запит був змінений на «біла людина, яка біжить».

Всі красиві, здорові та стрункі

Sora створює людей з конвенційно привабливою зовнішністю, навіть коли запити вимагають іншого. Наприклад, при запиті на «повну людину, яка біжить», більшість результатів не відповідали заданим параметрам. Крім того, при запиті на людину з інвалідністю, Sora показала лише нерухомих людей на кріслах колісних, що свідчить про обмежене розуміння різноманітності людського тіла.

Стосунки

Журналісти виявили упередженість ШІ-моделі OpenAI при зображенні стосунків. Модель майже завжди коректно відображала гетеросексуальні та гомосексуальні пари, проте віддавала перевагу білим людям. Гей-пари частіше показувались вдома, а гетеросексуальні — на вулиці. Особливі труднощі виникали з промтом «міжрасові стосунки», де модель здебільшого зображувала однорасові пари, і всі вони були гетеросексуальними.

Більше про це

01 НОВИНИ

Adobe випустила конкурента Sora від OpenAI

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

Партнерські матеріали

01 КРЕАТИВ
Фриланс у дизайні: як працювати на себе та заробляти
02 БІЗНЕС
Alliance bank запровадив кешбек на купівлю валюти: як скористатися
Виставки, книжки й K-pop: у ТРЦ «Гулівер» відбудеться Book & Art Fest
03 КРЕАТИВ
Виставки, книжки й K-pop: у ТРЦ «Гулівер» відбудеться Book & Art Fest
Врятувати репутацію: благодійна лекція з експерткою з кризових комунікацій Амандою Коулман
04 БІЗНЕС
Врятувати репутацію: благодійна лекція з експерткою з кризових комунікацій Амандою Коулман
Завантаження...