ChatGPT начнет помечать тексты невидимыми водяными знаками

ChatGPT в ближайшее время начнет помечать сгенерированные и обработанные тексты невидимыми водяными знаками для пользователей в Евросоюзе.

Как передает nedelia.az, об сообщила пресс-служба OpenAI на официальном сайте компании.

"В ближайшие недели мы добавим невидимый водяной знак к текстовым сообщениям, выводимым через ChatGPT и Codex в Европейском союзе", - говорится в сообщении.

В OpenAI пояснили, что маркировка связана с требованиями закона ЕС об искусственном интеллекте, который предусматривает возможность машинного распознавания текста, созданного генеративными системами.

Технология водяной маркировки получила название textGrain. Она меняет статистические характеристики выбора слов моделью во время генерации текста, создавая незаметный для читателя сигнал. Специальный инструмент затем анализирует текст и определяет, присутствует ли в нем такой сигнал. При этом водяной знак не добавляет в текст скрытых символов, дополнительных пробелов или необычных знаков препинания.

В OpenAI отметили, что технология пока имеет ряд ограничений. Например, надежность определения водяного знака зависит от объема текста, а его редактирование, перевод или существенная переработка могут ослабить сигнал.

Для пользователей API OpenAI - разработчиков и компаний, которые используют модели компании в собственных приложениях и сервисах, - функция уже доступна для ряда моделей. Ее можно включить по желанию, а по умолчанию она отключена.

Ранее аналогичную технологию начала использовать компания Anthropic. В августе она добавила невидимые водяные знаки в тексты, созданные новыми моделями Claude. В компании заявляли, что маркировка не влияет на смысл и читаемость материалов и может сохраняться после копирования и некоторых изменений текста.

• 06 окт., 09:10