🔥 HNで話題

AnthropicのAI調査で見えた、発見の先の仕事

約3分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
脆弱性(ぜいじゃくせい)

ソフトウェアにある、悪い使い方をされるおそれのある弱点。

CVE(シーブイイー)

公開されたソフトウェアの弱点を区別する番号。

OSS Scanner(オーエスエス・スキャナー)

オープンソースを調べる仕組み。

何が起きたか

Anthropic(Claudeを作るAI会社)は、2026年4月からProject Glasswingで、オープンソースソフトの弱点をAIで探してきた。VulnCheck(脆弱性データを扱う会社)は11月9日の記事で、Anthropicに結びつくCVEを7か月で442件追跡したと報告した。ただし、これはVulnCheckの集計で、442件がすべて新しい重大な弱点だという意味ではない。VulnCheckの記事

クラスタ収集時点のHacker News(技術ニュースのサイト)では359ポイント、164コメントが付いた。これは技術コミュニティの注目度を示す数字で、記事の正しさや弱点の深刻さを証明するものではない。Hacker Newsの投稿

背景

Anthropicは10月8日、参加を選べるOSS Scannerを発表した。公式説明によると、6か月で2万9000件を超える候補を見つけたが、人が確認できたのは約6000件だった。依頼したプロジェクトには、未確認の報告も約5000件送ったという。OSS Scannerの報告は人の確認なしにモデルが作るため、間違いの可能性もある。Anthropicの公式説明

確認できたこと

Anthropicの11月2日時点の台帳には、調査結果が3万7966件ある。そのうち公開されたのは7349件、修正済みの印が付いたのは217件だった。重複とされたものは約1600件、取り下げは419件で、台帳が示す「真の陽性率」は94.2%だった。ここでいう「調査結果」は、すべてが確定した脆弱性ではない。

一方、VulnCheckの追跡では、442件のうち実際の攻撃で使われたと確認されたものは2件だった。curl(広く使われるオープンソースの道具)では、Anthropicから届いた45件の報告のうち、公開された34件を確認した時点で、19件は脆弱性ではなく、6件は低い深刻度の脆弱性、9件は調査中だった。これは一つのプロジェクトの途中経過で、全体の精度を決める数字ではない。

なぜ重要か

この話の焦点は、AIが弱点を「見つけられるか」だけではない。候補を本当の問題か調べ、影響を決め、直しを作り、公開する作業も必要だ。発見の速度だけが上がると、確認する側の仕事が増える。VulnCheckは、Glasswingが助けるはずだった負担が、保守担当者へ移ったと評価している。

ただし、AI調査が役に立たないという結論でもない。curlの担当者は、別の初期スキャンで一件の低い深刻度の脆弱性を確認したと説明している。curl担当者の記録 役立つ報告と、確認に時間がかかる報告が同時に届く点が難しい。

まだ分からないこと

Anthropicの94.2%と、curlで途中まで確認した結果は大きく違って見える。しかし、対象の選び方、重複の扱い、真の陽性の定義が同じかは、この資料だけでは分からない。Anthropicは別の検証で、重大度の高い候補97件のうち85件が自社の開示基準を満たしたとも説明しているが、curlの34件とは別の標本だ。台帳の表示上の不具合をVulnCheckが指摘している点も、独立に確定したわけではない。

次に見る点

今後は、公開件数に対して修正件数がどう増えるかを見る必要がある。プロジェクト側が確認した結果、重複や取り下げの理由、深刻度のずれがどれだけ説明されるかも重要だ。AIが大量に候補を出す時代には、発見数の競争だけでなく、確認と修正を誰が担うのかまで報じなければならない。

💬 Glasswingの数字は何を示し、何を示さないのか

コメントの中心は、Glasswingが「脆弱性を見つける力」を示しても、それだけで危険度や実被害、修正の進み具合までは証明できないという点です。

  • 記事の数字としてコメントで紹介された範囲では、報告37,966件のうち公開は7,349件(19.4%)、修正済みは217件(全体の約0.5%)です。
  • 公開された約20%だけを見ているため、未公開の約80%が未修正なのか、実在しないのか、重複や保留なのかは分かりません。公開分にも撤回・重複が含まれるという指摘があります。
  • OSSスキャナー利用者の自己申告では、問題の20〜30%以上が不良判定で、提示パッチもかなり使えないものだったとされます。別の利用者の自己申告では、約半分が誤検知、その残りの約20%が脆弱性ではないバグで、採用できたパッチは少数でした。
  • このため、AIは発見より修正のほうが遅く、保守者の確認作業を増やしているのではないかという懸念があります。数字の良し悪しは、検出数だけでなく、人間が確認して直すコストでも測るべきだという話です。
  • PHP2Shellをめぐっては、通常の利用者にとって exploit が難しいことは深刻さの反証にならず、強い攻撃者が使えるなら危険だという反論があります。
  • テスト用サイトの暗号資産がAIエージェントに奪われたという投稿者の自己申告については、当初の「2時間」という説明を、別の投稿者が「19.5時間」と訂正しています。これは実験例であり、広範な実被害の証明ではありません。
  • 反対側からは、予想されたような短時間で何千ものサイトが一斉に侵害される事態は起きておらず、脆弱性の存在と実際の exploit を区別すべきだという指摘があります。
  • 結論として、スレッドに合意はありません。公開範囲の偏り、誤検知、修正パッチの品質、再現可能な exploit、実際の被害を分けて評価する必要があります。

コメント216件時点の初期(改訂2)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

🔥 HNで話題

AIが見つけた後の仕事は、だれがする?

📰 しっかり版: AnthropicのAI調査で見えた、発見の先の仕事

AIはソフトの弱い所をたくさん探せる。でも、見つけた後の確認と修理も大切だ。

約2分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
オープンソース(オープンソース)

多くの人が使ったり直したりできるソフト。

CVE(シーブイイー)

ソフトの弱い所につける番号。

OSS Scanner(オーエスエス・スキャナー)

参加したプロジェクトへAIの報告を届ける仕組み。

💡 ようするに

  • Anthropic(Claudeを作るAI会社)は、AIでソフトの弱い所を探した。
  • 見つかった候補は多いが、人が本物か確かめて直す必要がある。
  • Hacker Newsで話題になったが、人気は正しさの証明ではない。

Anthropicは、オープンソースソフトを調べるProject Glasswingを進めている。オープンソースは、みんなが使ったり直したりできるソフトのことだ。VulnCheck(ソフトの弱い所を調べる会社)の記事によると、Anthropicに結びつくCVEは442件あった。CVEは、ソフトの弱い所につける番号だ。

Anthropicの11月2日の台帳には、調査結果が3万7966件あった。公開されたのは7349件で、直した印が付いたのは217件だった。約1600件は重複で、419件は取り下げられた。調査結果は、全部が本物の弱点という意味ではない。

Anthropicは、OSS Scannerという仕組みも始めた。これは、人が先に確認しない報告を、参加したプロジェクトへ届ける仕組みだ。速く知らせられる反面、受け取った側の確認が増える。

実例として、curlというオープンソースの道具には45件の報告が届いた。公開された34件では、19件が脆弱性ではなく、6件が低い深刻度で、9件は調査中だった。この結果だけで全体を決めることはできない。AIが役に立つ報告もあるからだ。

VulnCheckの追跡では、442件のうち、攻撃で使われたと確認されたのは2件だった。AIが弱点を見つける力と、直す仕事の量は別の問題だ。これからは、何件見つけたかだけでなく、何件を確かめて直せたかを見る必要がある。VulnCheckの記事 Anthropicの説明 Hacker Newsの投稿

💬 AIが見つけた弱点は、本当に危険なのか

コメントでは、AIがたくさんの弱点を見つけても、それらが本当に危険で、実際に悪用され、きちんと直せたとは限らないと議論されています。

  • 記事の数字として紹介された内容では、37,966件の報告のうち7,349件だけが公開され、修正済みは217件です。未公開の約80%が何なのかは分かりません。
  • 利用者の自己申告では、見つかった問題の20〜30%以上が不良判定だったという例があります。別の自己申告では、約半分が誤検知で、使える修正パッチも少数でした。
  • そのため、AIは弱点を探すより、正しい修正を作るほうが難しく、保守者の確認作業を増やすという心配があります。
  • PHP2Shellについては、危険な脆弱性だという人と、大規模な攻撃は起きていないという人がいます。テストサイトの被害時間も、投稿者の自己申告で2時間から19.5時間へ訂正されました。
  • つまり、脆弱性があること、実際に攻撃できること、広い被害が出たことは別です。発見数だけでAIの効果や危険性を決めるべきではありません。

コメント216件時点の初期(改訂2)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

🔥 HNで話題

見つけた後は、なにをする?

📰 しっかり版: AnthropicのAI調査で見えた、発見の先の仕事

AIはたくさん見つけられる。でも、人が見ないと直せない。

約1分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
Anthropic(アンソロピック)

Claudeを作っている会社。

VulnCheck(バルンチェック)

ソフトの弱い所を調べた会社。

Hacker News(ハッカー・ニュース)

技術の話をする場所。

おはなし

Anthropic(Claudeを作るAI会社)は、コンピューターの弱いところを探しました。 弱いところは、悪い人に使われるかもしれない穴です。

AIはたくさんの見つけたものを出しました。 でも、それが本当かは人が調べます。 本当なら、人が直し方を考えます。

Anthropicの表には、3万7966個の記録がありました。 そのうち217個には、直した印がありました。 約1600個は、同じものが重なっていました。 419個は、表から取り下げられました。 だから、全部が本当の穴ではありません。

VulnCheck(弱い所を調べた会社)の調べでは、442個のうち2個が攻撃で使われました。 これは、この調べで分かった数です。

curl(ネットで情報を運ぶ道具)には、45個の報告が来ました。 34個を見たら、19個は穴ではありませんでした。 6個は小さな問題でした。 9個は、まだ調べている途中でした。

Hacker News(技術の話をする場所)では、359点と164個の書き込みがありました。 でも、たくさん話されたから本当、とは限りません。

AIは、探すのが得意です。 人は、確かめて直すのが大切です。 次は、直った数が増えるか見ます。VulnCheckの記事 Hacker Newsの投稿

💬 AIは弱点をたくさん見つけた。でも、それだけでは分からない

AIが見つけた弱点の数だけでは、本当に大きな危険かどうかは分かりません。

  • 記事の数字では、37,966件の報告のうち公開されたのは約20%、直ったのは217件です。残りが何なのかは、まだよく分かりません。
  • 利用者の自己申告では、見つかったものの中に間違いが多く、修正案も人が確認しないと使えないものがありました。
  • PHP2Shellでは、危険な弱点だという人と、大きな攻撃は起きていないという人がいます。テストサイトの被害時間も、2時間ではなく19.5時間だと訂正されました。
  • だから、弱点を見つけたことと、本当に攻撃されたことは別です。AIの力は、見つけた数だけでなく、正しく直せたかでも考える必要があります。

コメント216件時点の初期(改訂2)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

出典・参考