OpenAI маркуватиме тексти ChatGPT у ЄС невидимим водяним знаком
Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
OpenAI представила поетапний підхід до впровадження текстових водяних знаків та інструментів виявлення у відповідь на вимоги Закону ЄС про ШІ. Розповідаємо деталі.
Що сталося
Компанія OpenAI оголосила про поетапний запуск технології прихованого маркування згенерованого тексту textGrain у відповідь на вимоги Закону Європейського Союзу про штучний інтелект. Нововведення насамперед торкнеться користувачів сервісів компанії на території Європейського Союзу, де європейські норми зобов’язують постачальників генеративного ШІ позначати створений текст у машинозчитуваний спосіб.
Протягом найближчих тижнів невидимий водяний знак почне додаватися до текстових відповідей ChatGPT та Codex для користувачів усіх тарифних планів у країнах ЄС. Якщо користувач перебуває за межами Євросоюзу, його тексти від ChatGPT за замовчуванням не маркуватимуться. Для розробників, які використовують API OpenAI по всьому світу, можливість додавати текстові водяні знаки до вибраних моделей уже доступна, проте ця опція залишається добровільною та вимкненою за замовчуванням.
Система textGrain вбудовує невидимий статистичний сигнал безпосередньо у процес вибору слів моделлю. За твердженням розробників, цей сигнал здатний розпізнати спеціальний алгоритм, тоді як читач не помічає різниці у формулюваннях. Внутрішні випробування на передовій моделі Astra показали, що додавання водяного знака практично не позначається на якості генерації чи точності відповідей у профільних тестах. Надалі компанія планує зробити вихідний код технології відкритим, щоб інші розробники могли використовувати та вдосконалювати ці напрацювання.
Чому це цікаво
Сам інструмент перевірки не буде загальнодоступним, через ризики помилок. Доступ до нього надаватимуть у індивідуальному порядку лише акредитованим дослідникам та профільним організаціям, які допоможуть протестувати та покращити технологію. В OpenAI відкрито визнають, що технологія водяних знаків для тексту залишається на ранній стадії розвитку й має суттєві обмеження, тому детектор може як видавати помилково позитивні результати, так і пропускати марковані уривки.
Компанія підкреслила, що наявність текстового маркування має суто технічний характер і не дає відповідей на юридичні чи етичні питання. Водяний знак не фіксує внесок людини і не показує, скільки редагування чи творчості було вкладено в текст та не встановлює авторські права чи юридичну відповідальність за створений матеріал. Крім того, маркування не ідентифікує особу, обліковий запис або зміст запиту. Наявність знака не гарантує правдивість чи безпеку наведеної інформації, а відсутність знака не є доказом того, що текст написала людина, оскільки уривок міг бути переписаний, перекладений або згенерований іншою моделлю.
Більше про це
Dots від OpenAI можуть самостійно вести кілька проєктів і працювати у фоні
Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.
Партнерські матеріали
