🔥 HN 热议

Claude给AI内容加上“看不见的标记”,它能说明什么?

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

Anthropic说明了什么

Anthropic表示,Claude生成的内容可以带有机器可读的标记。对于支持的文字,标记是藏在文字中的不可见水印。对于支持的图片和文件,则使用带签名的来源元数据,也就是记录文件如何生成或处理的信息。

它的目标是让人们较容易核查Claude是否可能参与过内容制作。文字标记可能会跟随复制和粘贴,也可能在轻度修改后仍能被找到。

标记不是最后结论

发现Claude标记,并不证明Claude写出了全部想法、事实或文字。有人可能先写好材料,再请Claude摘要、翻译或润色。这样的输出仍可能带有Claude标记。

反过来,没有发现标记,也不证明没有使用AI。较早的模型、很短的文字、大幅改写、翻译,以及把多段文字混在一起,都可能使标记无法被可靠发现。文件的来源元数据也可能在格式转换或重新保存时丢失。

为什么这件事重要

这套方法是了解工具是否参与过的一条线索,不是万能的“识别器”。它不能判断内容是否正确,也不能算出人做了多少工作,更不能决定谁该为发布负责。这些问题仍需要背景资料和人的判断。

Hacker News上的关注

这则说明在Hacker News获得192 points和152 comments。这些数字表示技术社区的关注程度,并不能证明该机制一定准确,或证明人们对它的所有判断都正确。

💬 围绕 Claude 文本水印的讨论

评论主要讨论了水印可能的实现、能否被去除、误判风险,以及对代码的影响。由于实现细节尚未公开,许多技术说法仍是推测。

  • “只在欧盟启用”的最初解读被更正:文章称,支持模型的输出会在全球范围内带有标记。
  • 一种较有说服力的技术猜测是统计水印,而非插入不可见字符:模型会轻微偏向一部分下一 token 候选,再在较长文本中检验这种偏差。
  • 按这一猜测,原样复制或手写转录可能保留 token 序列和信号;保留含义的改写则可能打散相关性,使检测变难。
  • 不可见空格一类的简单方案容易被 IDE 格式化或清理工具移除,也可能破坏 YAML 等把空白当作语法的格式。
  • 仅靠文本可靠识别 AI 生成内容可能产生不少误报,尤其当人们开始采用类似 AI 的表达方式。有人认为,降低召回率、优先保持很高精确率,可以减少误报,但会漏掉更多内容。
  • 代码尤其令人担心:水印能否同时满足精确修改和严格语法,又不损害质量、性能或可用性,仍是未解问题。

这是评论数为205时的初期(修订2)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

Claude会给部分AI文字加隐藏标记

📰 完整报道: Claude给AI内容加上“看不见的标记”,它能说明什么?

Anthropic说,支持的Claude输出可以带机器能读出的标记。它是线索,不是给文章下结论的工具。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

💡 一句话总结

  • Claude可在支持的文字中加入隐藏标记。
  • 标记可帮助了解Claude是否参与过。
  • 它不能证明AI写了全部内容。

Anthropic说,Claude可以给生成内容做标记。 文字中的标记,人眼看不见。 机器可以用它来检查。

部分图片和文件会用另一种方法。 它们可以带有来源元数据。 这像一份关于制作过程的记录。

为什么要这样做? AI写出的内容能很快被复制和转发。 标记能提供一个检查线索。 文字被复制和粘贴后,标记可能还在。 轻微修改后,也可能还可被发现。

可是,线索不等于答案。 比如,一个人先写好采访笔记。 他再请Claude把笔记缩短。 最后的短文可能带有Claude标记。 但原来的想法和材料,可能来自那个人。

所以,发现标记不能说明: “这篇文章全部由Claude写成。” 它只能说明Claude可能处理过输出。

没有发现标记,也要小心解释。 较早的模型可能不支持标记。 很短的文字也许信息不够。 大幅改写会让检查变难。 翻译或混合多段文字也会有影响。 文件重新保存或改变格式后,记录也可能消失。

因此,这不是判断真假的机器。 它不能证明一句话是否正确。 它不能计算人做了多少工作。 它也不能代替编辑和作者负责。

发布内容的人,仍要检查事实。 他们也可以说明AI用在了哪里。 人后来检查和决定了什么,同样重要。

这则消息也在Hacker News受到关注。 它获得192 points和152 comments。 这表示那里有很多人注意到它。 这不证明标记一定总是有效。

💬 关于 Claude 隐形标记的讨论

大家在讨论 Claude 文章里的隐形标记会怎样工作。具体方法还没有公开。

  • 有人更正说,它不只是欧盟使用;文章写的是支持模型在全球的输出都会被标记。
  • 有人猜测,标记可能是 AI 选词时留下的小规律,而不是塞进不可见空格。文本越长,越容易检查这种规律。
  • 原样复制可能留下这种规律,但换一种说法改写,可能让它消失。
  • 简单的隐藏字符容易被编辑器或清理工具删掉,还可能弄坏空格很重要的文件。
  • 检测器可能把人写的文章错当成 AI,尤其当人的写法越来越像 AI。更谨慎的检测能少误报,但会漏掉更多 AI 内容。
  • 大家也担心它会不会影响需要精确修改的代码。

这是评论数为205时的初期(修订2)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

文字里的小小记号

📰 完整报道: Claude给AI内容加上“看不见的标记”,它能说明什么?

Claude写的一些文字,会有看不见的小记号。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

Claude会帮人写文字。

有些文字会有小记号。 眼睛看不见它。 机器可以找一找它。

有些图片和文件,也会有小记录。

小记号只是线索。 它不是老师的答案。

人可以先写故事。 Claude只把故事变短。 新故事也可能有记号。

没有记号,也不能说明什么。 很短的文字不好找。 改了很多的文字也不好找。

所以,大人不能只看记号。 还要看看故事是不是真的。

Hacker News也在谈这件事。 它有192 points和152 comments。 这说明很多人看到了它。 这不说明记号永远正确。

💬 AI 文章里的小记号

Claude 的文章里可能有一个看不见的小记号。

  • 大家把文章理解为:支持模型在世界各地的输出都会有它。
  • 它可能藏在选词的小规律里,不一定是看不见的空格。
  • 照着抄也许会留下它。换句话说,可能会把它洗掉。
  • 人们担心它会认错人写的文章,也担心它影响代码。

这是评论数为205时的初期(修订2)。获取100条,并从整体抽取100条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源