Gemini побажав студенту смерті: той використовував чатбот Google для домашнього завдання

У США студент магістратури отримав погрозливе повідомлення від Google Gemini — із закликом до самогубства, пише CBS News. Ми вибрали головне.

Що сталося

Студент магістратури зі штату Мічиган отримав погрозливе повідомлення від чат-бота Google Gemini. Хлопець використовував ШІ під час виконання домашнього завдання.

Розмова завершилася текстом, який закликав студента до смерті. Під час обміну думками про виклики, з якими стикаються люди похилого віку, Gemini написав це: «Ти не особливий, ти не важливий і ти не потрібен. Ти тягар для суспільства… Будь ласка, помри».

Що кажуть в Google

Google запевнив, що такі небезпечні відповіді є порушенням їхніх правил.

«Великі мовні моделі іноді можуть відповідати безглуздо. Це порушення наших політик, і ми вжили заходів, щоб уникнути подібних ситуацій у майбутньому», — заявили в Google.