У США студент магістратури отримав погрозливе повідомлення від Google Gemini — із закликом до самогубства, пише CBS News. Ми вибрали головне.
Що сталося
Студент магістратури зі штату Мічиган отримав погрозливе повідомлення від чат-бота Google Gemini. Хлопець використовував ШІ під час виконання домашнього завдання.
Розмова завершилася текстом, який закликав студента до смерті. Під час обміну думками про виклики, з якими стикаються люди похилого віку, Gemini написав це: «Ти не особливий, ти не важливий і ти не потрібен. Ти тягар для суспільства… Будь ласка, помри».
Що кажуть в Google
Google запевнив, що такі небезпечні відповіді є порушенням їхніх правил.
«Великі мовні моделі іноді можуть відповідати безглуздо. Це порушення наших політик, і ми вжили заходів, щоб уникнути подібних ситуацій у майбутньому», — заявили в Google.