AIの競争が気まずい? 中国発の「記憶を小さくする技術」を西側が取り入れた理由
KVキャッシュ(ケーブイキャッシュ)
AIが前に読んだ内容を一時保存するデータ。
トークン
AIが文章を処理するときの小さな単位。
モデル蒸留(モデルじょうりゅう)
別のAIの答えをまねるように学ばせる方法。
何が起きたか
記事「The AI Race Just Got Awkward」は、AI開発競争の見え方が変わったと論じる。中心にあるのは、DeepSeek(中国のAIチーム)が公開したとされる、長い文脈を扱うときの「KVキャッシュ」を小さくする工夫だ。KVキャッシュは、AIが前に読んだ文章の手がかりを一時保存する場所である。長い会話やコードを続けるほど、GPUのメモリを多く使う。
元記事は、DeepSeek-V4.1-Flashが、CSA2、層をまたぐ再利用、因果エンコーダー・デコーダー方式、FP4キャッシュなどで、1トークンあたりのキャッシュを890バイトまで減らしたと説明する。DeepSeek-V1では100万トークン分が389.12GB、V4.1-Flashでは890MBだという。389.12GBを約0.89GBで割ると約437になるため、記事は約437分の1と表現する。これは元記事の主張で、独立検証された結果ではない。
競争の焦点は蒸留から効率へ
記事の筆者は、この話をモデル蒸留の論争と並べる。Anthropic(Claudeを作るAI会社)は、中国のAI企業が自社モデルを蒸留していると問題視してきた、と記事は書く。蒸留とは、別のAIの答えをまねるように学ばせる方法だ。筆者の見方では、最近の焦点は答えのまねではなく、AIを動かす計算の節約へ移った。DeepSeekが工夫を公開したため、記事はこれを共有された技術の採用と捉える。
ただし、AnthropicやOpenAI(ChatGPTを作るAI会社)が実際に同じ方式を取り入れたかは、記事だけでは確定しない。
なぜ料金の比較が出てくるのか
長い会話では、過去の文脈を何度も使う。置いておくメモが小さければ、同じGPUでより多くの利用を支えられる可能性がある。記事は、Claude Opus 5.5のキャッシュ読み出し料金が、Claude Opus 5の100万トークンあたり0.50ドルから0.20ドルへ下がったと比較する。60%の低下だ。GPT-6.1 Solも、GPT-5.6 Solの0.50ドルから0.10ドルへ下がったとし、80%の低下だとする。筆者は価格低下を、DeepSeekの工夫が西側のAIに取り入れられた証拠だと読む。しかし料金は、モデルの設計以外の経営判断でも変わる。
記事から確認できること
確認できるのは、元記事が具体的なメモ容量と価格を並べ、そこから業界の変化を解釈していることだ。記事はHacker Newsで178 points、104 commentsを集めた。Hacker Newsの投稿で話題になったことは、コミュニティの注目度を示す。技術的な主張の正しさを証明する数字ではない。話題性と検証済みであることは分けて読む必要がある。
まだ分からないこと
DeepSeek-V4.1-Flashの数値が、どの条件の測定なのかは、この材料だけでは分からない。実際のサービスで、速度、答えの質、安定性がどう変わるかも不明だ。Claude Opus 5.5やGPT-6.1 Solの値下げが、同じ技術の採用によるものかも確定していない。また、DeepSeekがなぜ工夫を公開したのか、記事の推測以上の説明はない。「西側の損失の大きい会社を救った」という結論も、筆者の評価である。
次に見る点
次は、DeepSeek側の技術資料や公式説明で、容量の計算条件を確かめたい。AnthropicとOpenAIが、どの仕組みを使ったかを公式のモデル資料で照合する必要もある。料金表だけでなく、長いコードや会話での実測を見るべきだ。AI競争を、どのモデルが賢いかだけでなく、同じ計算機でどれだけ長く安く動かせるかとして見る。その視点を示したことが、この記事の大きな価値である。
AIの作業メモを小さくする競争
📰 しっかり版: AIの競争が気まずい? 中国発の「記憶を小さくする技術」を西側が取り入れた理由
中国のDeepSeek(AIを作るチーム)が方法を示したとする[記事](https://insufferable.dev/posts/the-ai-race-just-got-awkward)が、Hacker News(技術ニュースのサイト)で話題になりました。
KVキャッシュ(ケーブイキャッシュ)
AIが前に読んだ内容を一時的に置く記憶。
DeepSeek-V4.1-Flash
元記事が紹介するAIモデルの名前。
Hacker News(ハッカー・ニュース)
技術ニュースを話し合うサイト。
💡 ようするに
- 長い会話には、AIの作業メモがいる。
- DeepSeekは、そのメモを小さくする方法を示した。
- 注目された数は、正しさの証明ではない。
AIは、前に読んだ文を一時保存します。この保存場所がKVキャッシュです。長い会話やコードほど、保存する量が増えます。置き場所にはGPUメモリを使います。GPUメモリは、AIを動かす機械の記憶です。
元記事は、DeepSeek-V4.1-FlashというAIモデルで、メモが約890MBになったと書きます。前のDeepSeek-V1では389.12GBでした。GBとMBは、機械の大きさを表す単位です。389.12GBは約0.89GBです。389.12を0.89で割ると約437です。だから記事は、約437分の1になったと説明します。
メモが小さいと、同じ機械で多くの仕事を動かせる可能性があります。長いコード作業も、安く提供しやすくなります。ただし、速さや答えの質が同じとは限りません。
Anthropic(Claudeを作るAI会社)のClaude Opus 5.5は、キャッシュを読む料金が前より60%下がったと記事は比べます。OpenAI(ChatGPTを作るAI会社)のGPT-6.1 Solは80%下がったといいます。筆者は、中国側の工夫を使った証拠だと考えます。でも料金は、別の理由でも変わります。
この記事はHacker Newsで178 pointsと104 commentsを集めました。これは注目の数です。記事の正しさを測る点数ではありません。次は、公式の技術資料と料金表を見比べる必要があります。
💬 AI競争の見方をやさしく整理
コメント欄の中心は、安いAI技術が広がることを共有と見るか、ただ乗りと見るか、そして誰が得をするかという議論だ。
- KVキャッシュは、長い入力を一度計算して再利用する仕組み。記事は、DeepSeekの工夫がOpenAIやAnthropicの値下げ・高速化につながったと推測するが、コメントでは自分たちの発明や独立発見かもしれず、証拠不足とされる。
- モデル蒸留は、強いAIの答え方をまねる小さなAIを作る方法。元の大規模訓練より安いので、不公平・利用規約違反だという人と、公開研究を使うのは競争だという人がいる。人間の公開データで学ぶことと、別のAIの出力をまねることは同じではない。
- 中国の会社が技術を開く理由として、安く広める、後発でも利用者を増やす、GPU不足や輸出規制に対抗する、競争・威信・ソフトパワーを得る、などが挙がる。対応ソフトを増やして利用者を集める狙いも考えられる。ただし中国の会社は同じ方針ではない。
- 安くなるとOpenAIやAnthropicの売上が苦しくなるかもしれないが、使う人が増えて利益率が上がる可能性もある。コメントの利益率見積もりは95%超と約80%で一致していない。
- 利用者の自己申告では、Qwen 3.8 27Bを5090で毎秒170トークン超で動かせた人がいる一方、複雑な単体テストで迷走した人もいる。個人の体験だけでは、どのAIが勝つかは決められない。
コメント104件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。
AIの作業メモが小さくなった?
📰 しっかり版: AIの競争が気まずい? 中国発の「記憶を小さくする技術」を西側が取り入れた理由
中国のDeepSeek(AIを作るチーム)が、AIの記憶を小さくする方法を紹介した[お話](https://insufferable.dev/posts/the-ai-race-just-got-awkward)です。
DeepSeek(ディープシーク)
AIを作る中国のチーム。
KVキャッシュ(ケーブイキャッシュ)
AIが前の言葉を覚えておく小さな記憶。
Hacker News(ハッカー・ニュース)
技術ニュースに注目を集める場所。
AIは、長いお話を続けます。 前の言葉を少し覚えます。 その覚えたものを、KVキャッシュと呼びます。 これはAIの作業メモです。
記事では、前のDeepSeekのAIが389.12GB使ったと書きます。 新しいAIでは、約890MBです。 GBとMBは、コンピューターの大きさの言葉です。 389.12GBは、約0.89GBです。 389.12を0.89で割ると、約437です。 だから記事は、メモが約437分の1だと説明します。
メモが小さいと、AIを動かす機械の記憶が少なくてすみます。 長いお仕事をしやすくなるかもしれません。 でも、これは記事の説明です。 本当に同じ仕組みかは、まだ分かりません。
Anthropic(Claudeを作る会社)は、料金が60%下がったと記事は書きます。 OpenAI(ChatGPTを作る会社)は、料金が80%下がったそうです。 書き手は、同じ工夫を使ったからだと考えます。 でも、料金が下がる理由は、ほかにもあります。
この記事はHacker News(技術ニュースを話す場所)で、178 pointsと104 commentsを集めました。 この数は、注目された数です。 正しいと決める数ではありません。
💬 AIの競争を5歳向けに
みんなが、AIを安く作る方法をどう考えるかで話し合っています。
- 大きなAIの答えを見て、似た小さなAIを作ることを蒸留といいます。安くできます。ずるいという人も、公開された研究を使うのは普通だという人もいます。
- 中国の会社が方法を公開する理由は一つではありません。安く広めたい、競争に勝ちたい、仲間を増やしたい、国の技術を強く見せたい、などです。会社ごとに違い、公開するとほかのAIもその方法を使いやすくなります。
- 記事は、DeepSeekのKVキャッシュの工夫が、米国のAIの値下げや速さにつながったと考えます。でも、米国が自分で見つけた可能性もあり、まだ証拠は足りません。もうけの数字も、95%以上という人と約80%という人で食い違っています。
- ある人はQwen 3.8 27Bを5090で毎秒170個以上の小さな文字のかたまりを出せたと言いました。別の人は難しいテストで困ったと言いました。どちらも一人の感想で、勝ち負けはまだ決まりません。
コメント104件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。
💬 AI競争は蒸留・公開研究・低コスト化のせめぎ合い
コメント欄では、中国系ラボの公開技術やモデル蒸留を西側ラボが利用したという記事の見立てをめぐり、証拠不足を指摘する声と、コスト差が競争を変えるという声が対立している。
コメント104件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。