Компания Anthropic начала внедрять новую технологию скрытой маркировки текстов, созданных её чат-ботом Claude. Об этом сообщает NPR. Решение разработано для повышения прозрачности контента и призвано помочь в борьбе с дезинформацией и академическим мошенничеством.
Технология работает непосредственно на этапе генерации ответов. Алгоритм вносит математически выверенные, но незаметные для человеческого глаза изменения в распределение выбираемых слов и символов. В результате формируется уникальный статистический узор, который легко считывается специальным детектором, но не снижает качество, естественность и читаемость итогового текста.
По словам представителей компании, такой метод значительно надежнее традиционного поиска совпадений по базам данных. Скрытый водяной знак сохраняет свою целостность даже при частичном редактировании текста пользователем, замене отдельных слов синонимами или изменении структуры предложений.
Внедрение этой меры происходит на фоне ужесточения требований регуляторов в США и Евросоюзе, которые настаивают на обязательной маркировке ИИ-контента. Ранее подобные инструменты для детекции сгенерированного текста и изображений начали тестировать другие крупные игроки рынка, включая Google и OpenAI.
Пока нет комментариев. Будьте первым!