НОВИНИ

ChatGPT Search може вводити в оману користувачів — дослідження

27 Грудня 2024, 12:27
2 хв читання
Максим Шпирка Пишу новини про бізнес, технології та підприємництво.
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
Режим читання

Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

Дослідження показало, що нова функція ChatGPT Search може видавати неправдиві результати, ігноруючи негативні відгуки про товари, повідомляє TechCrunch. Ми вибрали головне.

Що сталося

Дослідження показало, що нова функція ChatGPT Search має вразливість — вона генерує неправдиві відгуки на товари, ігноруючи негативні коментарі.

Пошукова функція ChatGPT повинна пришвидшити перегляд вебсторінок, наприклад, шляхом надання коротких оглядів товарів на сайті. Однак, виявилось, що можна додавати прихований текст на вебсторінках, який змусить систему ігнорувати погані відгуки та видавати лише позитивні.

Крім того, така маніпуляція може спричиняти генерацію шкідливого коду. OpenAI зазначила, що активно працює над покращенням захисту своїх продуктів і вже використовує різні методи для блокування шкідливих сайтів, аби зменшити ймовірність маніпуляцій.

Чому це цікаво

У листопаді OpenAI запустила ChatGPT Search — він одразу шукає необхідну інформацію, а потім пропонує посилання на джерела, а також працює на основі вдосконаленої моделі GPT-4o.

Спочатку пошукову систему могли використовувати лише підписники ChatGPT Plus і Team. Тепер компанія відкрила доступ для всіх користувачів. Можна отримувати новини, результати спортивних подій, котирування акцій і багато іншої інформації з посиланнями на джерела.

Більше про це

01 НОВИНИ

OpenAI представила нові моделі ШІ o3 та o3-mini

Додати в закладки

Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

Партнерські матеріали

Управління IT-бізнесом. Як об’єднати всі процеси в єдину систему
01 БІЗНЕС
Управління IT-бізнесом. Як об’єднати всі процеси в єдину систему
Mind готує WinTech Summit 2025: про що говоритимуть бізнес і tech-індустрія
02 БІЗНЕС
Mind готує WinTech Summit 2025: про що говоритимуть бізнес і tech-індустрія
Як соцмережі та ритм життя Gen Z змінюють харчові звички
03 БІЗНЕС
Як соцмережі та ритм життя Gen Z змінюють харчові звички
04 СПЕЦПРОЄКТИ
Big Data та штучний інтелект: як FAVBET Tech розвиває технологічну індустрію
Завантаження...