Grok обмежив функцію створення та редагування зображень для більшості користувачів після хвилі критики з боку регуляторів і правозахисників. Про це пише Тhe Guardian. Розповідаємо деталі.
Що сталося
Компанія X обмежила доступ до функції генерації зображень у Grok, зробивши її доступною лише для передплатників. Рішення ухвалили після численних повідомлень про використання інструмента для створення сексуально відвертого та насильницького контенту.
За даними The Guardian, Grok використовували для створення:
- порнографічних відео із зображенням жінок без їхньої згоди;
- сцен насильства, зокрема зображень розстрілів і вбивств жінок.
Після оновлення функції генерації зображень наприкінці грудня протягом двох тижнів у сервісі з’явилися тисячі подібних матеріалів. Публічні заклики до Ілона Маска та компанії X обмежити або вимкнути функцію тривалий час залишалися без реакції. Зміни запровадили лише після загрози регуляторних дій.
Прем’єр-міністр Великої Британії Кір Стармер заявив, що компанія X має негайно припинити поширення створених за допомогою ШІ зображень частково оголених жінок і дітей на платформі. Він назвав такий контент ганебним і таким, що порушує закон.
Стармер також зазначив, що британський регулятор зв’язку Ofcom має повну підтримку уряду щодо можливих дій проти платформи, включно із застосуванням санкцій.
Що далі
Платні передплатники, які зберігають доступ до функції, мають прив’язані платіжні дані, що дозволяє ідентифікувати їх у разі зловживань.