ChatGPT Search може вводити в оману користувачів — дослідження

Дослідження показало, що нова функція ChatGPT Search може видавати неправдиві результати, ігноруючи негативні відгуки про товари, повідомляє TechCrunch. Ми вибрали головне.

Що сталося

Дослідження показало, що нова функція ChatGPT Search має вразливість — вона генерує неправдиві відгуки на товари, ігноруючи негативні коментарі.

Пошукова функція ChatGPT повинна пришвидшити перегляд вебсторінок, наприклад, шляхом надання коротких оглядів товарів на сайті. Однак, виявилось, що можна додавати прихований текст на вебсторінках, який змусить систему ігнорувати погані відгуки та видавати лише позитивні.

Крім того, така маніпуляція може спричиняти генерацію шкідливого коду. OpenAI зазначила, що активно працює над покращенням захисту своїх продуктів і вже використовує різні методи для блокування шкідливих сайтів, аби зменшити ймовірність маніпуляцій.

Чому це цікаво

У листопаді OpenAI запустила ChatGPT Search — він одразу шукає необхідну інформацію, а потім пропонує посилання на джерела, а також працює на основі вдосконаленої моделі GPT-4o.

Спочатку пошукову систему могли використовувати лише підписники ChatGPT Plus і Team. Тепер компанія відкрила доступ для всіх користувачів. Можна отримувати новини, результати спортивних подій, котирування акцій і багато іншої інформації з посиланнями на джерела.