Новый водяной знак Cloud: что это значит для пользователей ИИ при написании текстов?
В этой статье объясняется значение тега «Облако» для каждого ответа. Узнайте, как водяные знаки влияют на использование ИИ в текстах и контенте.
Компания Anthropic недавно объявила, что все новые облачные модели будут включать невидимый индикатор в свой текстовый вывод. Это призвано помочь идентифицировать контент, сгенерированный ИИ, и соответствовать новым требованиям прозрачности в соответствии с Законом ЕС об ИИ.
Но если вы представляете себе невидимый цифровой штамп, навсегда доказывающий, что слова были написаны искусственным интеллектом, то это работает не совсем так. Вместо этого Клод незаметно изменяет статистические закономерности в своем тексте. Текст остается обычным для чтения человеком, но программы, предназначенные для поиска этих закономерностей, могут распознать, что он написан Клодом.
Это объявление вновь разожгло дискуссию о том, является ли водяной знак, созданный с помощью ИИ, наконец-то решением проблемы идентификации текста, сгенерированного ИИ, или же он вообще работает.
Что такое водяной знак, созданный с помощью ИИ?
В отличие от водяного знака об авторских правах на изображении или метаданных, скрытых в файле, статистический водяной знак встраивается непосредственно в сами слова. Искусственный интеллект немного отдает предпочтение определенным вариантам слов и структурам предложений при генерации текста.
По отдельности эти варианты выбора не имеют для нас, людей, никакого смысла, но в совокупности сотен слов они создают статистический след, который могут распознать специализированные программы обнаружения. Это как отпечаток пальца, который могут идентифицировать только программы, обученные понимать закономерности.
Сам водяной знак невидим для читателей и нигде в документе не отображается. Копирование текста в Word, Google Docs или электронную почту не выявит ничего необычного, поскольку этот знак предназначен для обнаружения только программами, которые понимают статистические закономерности, оставляемые облаком.
Влияет ли добавление водяных знаков на качество письма Клода?
В некоторой степени, но давайте будем реалистами, искусственный интеллект в своей основе не является идеальным инструментом для написания текстов. Александр Кой، رئيس الأبحاث في GPTZero، موقع DzTecnium أن وضع العلامات المائية الإحصائية يفرض مقايضة صغيرة لأن النموذج يجب أن يتخذ خيارات كلمات مختلفة قليلاً عما كان سيفعله بخلاف ذلك.
Кой сказал: «Качество продукции немного снижается. В целом, это приводит к снижению качества продукции».
Он добавил, что современные технологии нанесения водяных знаков стали настолько совершенными, что большинство пользователей вряд ли заметят разницу в повседневном использовании.
Хотя водяной знак можно удалить, это усложняет ситуацию. Редактирование нескольких слов не удалит статистический водяной знак; на самом деле, многие системы водяных знаков разработаны таким образом, чтобы выдерживать незначительные изменения или перефразирование.
Однако сигнал становится более уязвимым, если ответ Клода переписывается другой моделью ИИ. То есть, если вы попросите Клода написать вашу научную статью, а затем попросите ChatGPT проверить черновик. В этом случае водяные знаки становятся критически важными, поскольку результат работы Клода часто не является окончательным продуктом. Ответ может стать входными данными для другого чат-бота, агента программирования ИИ или помощника по редактированию документов еще до того, как кто-либо его прочитает.
Коуи говорит, что водяной знак обычно не выдерживает такого рода обработки.
Он пояснил: «Водяной знак вносит очень незначительные изменения. Обычно это не влияет на последующий результат. Вам нужен именно тот текст, который написала сама модель».
Значит ли это, что инструменты обнаружения на основе ИИ наконец-то получили представление о ситуации?
Водяной знак Anthropic является дополнительным индикатором, но не неопровержимым доказательством того, что документ был написан искусственным интеллектом.
Алон Ямин, генеральный директор компании Copyleaks , занимающейся обнаружением контента с помощью ИИ , говорит, что статистические водяные знаки могут помочь идентифицировать контент, созданный ИИ, но их не следует рассматривать как панацею.
Ямин добавил: «Хотя это кажется большим шагом вперед в раскрытии искусственного интеллекта во внешнем виде, это далеко не панацея».
Он утверждает, что водяные знаки следует рассматривать в совокупности с другими доказательствами, а не как замену более широким методам обнаружения с помощью искусственного интеллекта.
В наши дни в современных документах часто сочетаются человеческий фактор и помощь искусственного интеллекта. От таких инструментов, как Grammarly для редактирования, до инструментов Apple для написания текстов с использованием ИИ, эти распространенные функции ИИ стали неотъемлемой частью повседневной работы многих людей. Например, кто-то может писать статью самостоятельно и попросить Клода улучшить грамматику, переставить абзацы или переписать заголовок, и вы можете воспользоваться мощными подсказками Plus.
ChatGPT делает то же самое?
Компания OpenAI потратила годы на исследование водяных знаков и других исходных технологий, но до сих пор не получила широкого распространения статистических текстовых водяных знаков в ответах ChatGPT. Если вас интересует более подробная информация об использовании Cloud вместо ChatGPT, вы можете ознакомиться с другими нашими статьями.
Компания Google также изучала технологии создания водяных знаков с помощью искусственного интеллекта, в то время как многие компании экспериментировали с методами, основанными на метаданных, а не на статистических сигналах, встроенных в текст.
В результате, Клод в настоящее время делает один из наиболее значительных шагов на пути к внедрению водяных знаков уровня искусственного интеллекта в повседневный текст.
Вероятно, вы не заметите водяной знак при использовании облачных сервисов, и он не сделает контент, созданный с помощью ИИ, внезапно легко узнаваемым. Но это может быть важно в сфере образования, издательского дела, корпоративного программного обеспечения и на рабочих местах, где необходимо раскрывать информацию об использовании ИИ при создании контента.
Заключение
В целом, водяные знаки — это инструмент, с которым компании экспериментируют, поскольку правительства стремятся к большей прозрачности в отношении контента, созданного с помощью ИИ. Он может быть полезен при определенных обстоятельствах, может исчезнуть после достаточной редактуры или переписывания и лучше всего работает в сочетании с другими доказательствами, а не только на одном из них.
Но начиная со 2 августа 2026 года каждое написанное Клодом слово содержит скрытый статистический водяной знак, который большинство людей никогда не увидят.
Комментарии закрыты.