ChatGPT звинуватив чоловіка у вбивстві його дітей — що кажуть правозахисники

Медіа Engadget пише, що ChatGPT звинуватив невинного чоловіка у вбивстві своїх дітей. Розповідаємо, як відреагувала компанія.

Що сталося

Попри розвиток продукту ChatGPT, компанія OpenAI продовжує стикатися з проблемами, зокрема, з наданням неправдивої інформації. Австрійська правозахисна група Noyb подала вже другу скаргу на OpenAI через цю вигадану інформацію.

Днями ChatGPT помилково звинуватив норвежця у вбивстві. Коли чоловік запитав ChatGPT, що він знає про нього, той заявив, що користувач був засуджений до 21 року в’язниці за вбивство двох своїх дітей і спробу вбивства третього. Вигадана інформація також була подана вперемішку із реальною інформацією про користувача:

• кількість дітей;
• їхню стать;
• назву рідного міста.

Чому це важливо

Правозахисна група Noyb стверджує, що цією відповіддю в OpenAI порушили GDPR (регламент про захист даних). За словами юристів правозахисної компанії, особисті дані користувачів мають бути точними. Якщо це не так, користувачі мають право змінити їх, щоб вони відображали правду. Noyb також підкреслила, що показати користувачам ChatGPT крихітне застереження про те, що чат-бот може робити помилки — недостатньо. 

Інші відомі випадки вигаданої інформації від ChatGPT містили звинувачення:

• користувача в шахрайстві та розтраті;
• судового репортера в жорстокому поводженні з дітьми;
• професора права в сексуальних домаганнях.

Перша скарга Noyb на неправдиву інформацію в OpenAI у квітні 2024 року була пов’язана із наданням неправдивої інформації щодо років народження відомого діяча. OpenAI тоді скасував запит скаржника та відмовився оновити дату народження, стверджуючи, що він не може змінити інформацію, яка вже є в системі.