🔥 HN 热议

Claude寻找代码中“没人需要的入口”:Anthropic的安全研究

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
攻击面

外部输入能够碰到的代码和功能范围。

身份验证

检查使用者是否有资格进入的步骤。

OSS-Scanner

一种用于检查软件安全的工具。

发生了什么

2026年10月20日,Anthropic(制作Claude的AI公司)发布了一项研究。研究主题是缩小软件的“攻击面”。这里的攻击面,是指外部输入能够碰到的代码和功能范围。Anthropic让Claude先梳理大型代码库中哪些部分能够被触及,再限制部署时并不需要的部分。重点不是展示攻击步骤,而是减少不必要的可达范围。

Anthropic称,Claude检查了25个开源项目,总量超过500万行代码。它整理出17000多个配置选项,其中3842个与安全控制或功能有关。研究报告称,Claude共发现493项问题。它们主要包括三类:默认设置让不需要的代码仍然可达;多个设置一起使用时悄悄削弱保护;重要的身份验证之前就运行了复杂或敏感的代码。

为什么会发生

软件会不断增加功能、依赖和设置。某个功能关闭后,相关代码不一定马上变得不可触及。两个单独看起来合理的设置,也可能一起改变保护效果。大型项目很难靠人逐项检查全部组合。Anthropic说,Claude会建立代码入口清单,用动态跟踪确认结果,再运行项目自己的测试和回归测试。

为什么重要

修补一个已知问题,并不能说明其他未知问题不存在。若软件不再让外部输入碰到不需要的部分,未知问题的影响范围可能变小。这个方法不是把所有问题都消灭,而是减少问题能够到达的地方。

OpenSSH是一个用于安全远程连接的开源软件。Anthropic称,Claude在它的默认构建中发现约4500行实验性处理在身份验证前就可能被触及,约占这部分代码的16%。研究团队把结果交给维护者。OpenSSH 10.5先调整了一处检查,10.6发布了相关的后续修改。这里的重点是修补过程,不是如何利用问题。

已经确认什么

已经确认的是Anthropic公开了这项研究,并报告了上述数字。OpenSSH维护者也发布了相关修改,这是Anthropic文章中的记录。Hacker News的帖子获得94 points和55 comments,说明它在社区中受到关注。这个数字只代表关注度,不代表研究已经被证明正确。原研究和社区讨论是两件不同的事。

还不知道什么

目前提供的材料没有说明外部研究者是否独立重复了全部结果,也没有说明493项问题在真实产品中分别有多严重。我们也不知道这种方法在更多项目中能否得到同样比例的结果。Anthropic说,可能改变非默认行为的修改会交给人决定。这说明人仍要审查结果,而不能只接受AI的判断。

接下来关注什么

Anthropic正在研究把这套方法接入OSS-Scanner。接下来要看维护者是否愿意采用建议,测试是否能证明软件行为没有被意外改变,以及独立审查能否发现遗漏。真正值得观察的,不是Claude找到一个很大的数字,而是这些发现能否变成可复查、可维护的安全改进。

💬 用 Claude 减少攻击面:Hacker News 评论整理

评论区一边认可用 AI 拆分代码、方便审计的可能性,另一边批评安全机制连防守性的工作也会拦截。下面多数性能、故障和成果都是用户自报,不是独立测量结果。

  • 主要批评来自用户自报:Claude有时会因为请求看起来与网络安全有关,而拒绝审计用户自己的代码、修复漏洞,或制作能证明修复有效的PoC(概念验证)。有人称改变措辞或工作流程后偶尔能通过,但这里没有独立验证其可重复性。
  • 一位用户的比较称,Claude和GPT拒绝了审计,Grok愿意继续但拒绝制作可运行的PoC,而GLM-5.3和Kimi完成了任务。这是个人经历,不是控制条件一致的基准测试。
  • 批评者认为,这会造成防守者受限、攻击者却能使用其他模型的不对称局面。另一种看法是,前沿模型的能力可能在约3个月内扩散到开放权重模型,因此安全限制和公开展示仍能给关键基础设施留下准备时间。约3个月只是评论者的未验证估计。
  • 开放模型和专有模型的争论,也被看作成本与运维能力的选择。有人认为,小团队应使用便宜的专有模型订阅,同时避免被厂商锁定;大型企业则更有能力承担API费用,或自行运行开放权重模型。
  • 作为正面案例,Vix IDE的作者称,Claude的Fable、Opus和Sonnet在一个周末内把整个代码库拆成多个Rust crate和Cargo features。这样用户可以选择功能,审计者也能一次检查一种能力。成果和用时都是作者的自报。
  • 关于证据质量,有评论者引用内核开发者关于Mythos的79个内核漏洞的演讲,称其中很多并不是真正的问题,或此前已经修复。这引发了对 AI 实验室可能先急着做宣传、后验证基础结论的担忧;这里没有独立核查该演讲。
  • 关于长期方案,有人提出形式化验证语言、unikernel、小型TCB(可信计算基)和经过验证的硬件。反对者指出,即使各个部件经过验证,隐藏的软件和部件之间的复杂交互仍可能产生意外行为,因此形式化验证有帮助,但不是完整答案。

这是评论数为55时的初期(修订1)。获取57条,并从整体抽取57条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

Claude检查软件里不该打开的入口

📰 完整报道: Claude寻找代码中“没人需要的入口”:Anthropic的安全研究

Anthropic发布了一项用AI帮助保护软件的研究。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
攻击面

软件中可以从外面碰到的部分。

开源软件

代码公开,别人可以查看和使用的软件。

身份验证

检查使用者是否有资格使用。

💡 一句话总结

  • Anthropic(制作Claude的AI公司)发布了新研究。
  • Claude检查了25个开源软件项目。
  • 研究报告称发现493项需要检查的问题。

Anthropic在10月20日发布了这项研究。软件里有很多代码和功能。代码是告诉电脑做什么的文字。有些功能不用了,相关代码却还可能从外面被碰到。能被碰到的范围,叫作“攻击面”。

Claude检查了超过500万行代码。它整理了17000多个设置。其中3842个和安全有关。它主要寻找三种情况。第一,默认设置让不用的代码仍能被碰到。第二,几个设置合在一起,让保护变弱。第三,身份验证前就运行了复杂代码。

OpenSSH(帮助电脑安全连接的软件)是一个例子。Anthropic说,Claude找到了约4500行过早可碰到的实验代码。维护者检查了结果。OpenSSH 10.6加入了相关修补。Anthropic说,修补后,初始设置下能碰到的代码约少了五分之一。

为什么这很重要?只找已知问题,不够处理未知问题。关掉不用的入口,未知问题也可能更难影响软件。但它不会让所有问题消失。人仍要检查每个建议。

Hacker News上的帖子有94 points和55 comments。这说明很多人注意到了它。它不能证明研究一定正确。这个数字只是社区的关注度。

研究来自Anthropic自己。现在还不知道外部研究者能否重复全部结果。也不知道493项问题在真实软件中有多严重。Anthropic正考虑把方法接入OSS-Scanner。以后要看测试和独立检查的结果。

💬 评论者怎样看用 Claude 让代码更安全

评论者既看到希望,也感到不满:Claude可能帮助人们让代码更容易检查,但安全规则也可能拦住正在保护自己系统的人。结果和数字都是评论者的报告或看法,不是独立测试。

  • 一些用户说,Claude会阻止他们检查自己的程序、修复问题,或制作一个能证明修复有效的小型演示。换一种说法有时能通过,但这只是用户自报。
  • 另一份比较报告称,Claude和GPT拒绝检查,Grok拒绝制作可运行演示,而GLM-5.3和Kimi完成了任务。不过,这些 AI 没有在完全相同的条件下测试。
  • 这引出了一个批评:攻击者可以使用其他 AI,防守者却被拦住。另一位评论者认为,强大能力可能在约3个月内传播到公开模型,所以安全限制仍能给重要系统留下准备时间。约3个月只是个人估计。
  • 人们也争论是购买便宜的专有 AI,还是自己运行开放模型。小团队可能更适合便宜服务并避免锁定,大公司则可能有钱有人员自己管理开放模型。
  • Vix IDE作者称,Claude的Fable、Opus和Sonnet在一个周末把项目拆成Rust部件和功能开关,让人更容易选择功能和检查安全性。这仍是作者自己的报告。
  • 有人引用说法称,Mythos报告的79个内核问题中,有些并不是真问题,或已经修好。因此有人认为 AI 的结论必须由专家认真检查。数学验证方法可能有帮助,但复杂系统仍可能出现意外。

这是评论数为55时的初期(修订1)。获取57条,并从整体抽取57条总结。内容属于HN用户自述,并非编辑部核实的事实。

🔥 HN 热议

Claude找到了电脑里没人需要的地方

📰 完整报道: Claude寻找代码中“没人需要的入口”:Anthropic的安全研究

Anthropic说,Claude帮助人们检查了软件。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
代码

告诉电脑做什么的文字。

OpenSSH

帮助一台电脑连接另一台电脑的软件。

Hacker News

人们讨论技术新闻的网站。

Anthropic(制作Claude的AI公司)说,Claude看了25个公开软件。 公开软件的代码,大家都能看到。 软件里有很多让电脑做事的文字。 有些文字做的事没人需要。 可是,外面有时还能碰到它们。 Claude找到了493个要检查的地方。 这不表示493个地方马上会造成坏事。 人还要一个个检查。

OpenSSH(帮助电脑连接另一台电脑的软件)也是例子。 Claude发现约4500行处理一开始就能被碰到。 人检查后,OpenSSH 10.6有了相关修补。

这像关上一扇没人使用的门。 软件可能更安全一些。 但这不能修好所有问题。

Hacker News上有94 points和55 comments。 这是很多人注意到的数字。 它不是研究正确的证明。

Anthropic还想把方法放进OSS-Scanner这个检查工具。 人要继续测试结果。 可以看研究和帖子。

💬 Claude和更安全代码的故事

大家意见不同。有人觉得它有用,也有人说它会挡住安全工作。

  • 用户说,Claude有时会停止安全检查,也不让人证明修复真的有效。另一个 AI 有时能完成任务,但这不是公平的同条件测试。
  • 有人认为,这会让保护系统的人落后于攻击者。也有人说,安全规则能给重要系统准备时间,因为强大的 AI 可能在约3个月后传到公开模型。这个时间只是评论者的估计。
  • 大家还争论要不要租用便宜的 AI,还是自己运行 AI。Vix的作者说,Claude的模型在一个周末把代码分成了更小的部分,但这只是作者的报告。
  • 另一条评论说,Mythos报告的79个内核问题中,有些可能不是真问题,或早已修好。人类仍要仔细检查,数学检查也不一定能处理很多部件的复杂连接。

这是评论数为55时的初期(修订1)。获取57条,并从整体抽取57条总结。内容属于HN用户自述,并非编辑部核实的事实。

来源