🔥 HNで話題

AI Frontiersは終わった? Microsoftの研究チームをめぐる食い違い

約3分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
AI Frontiers(エーアイ・フロンティアーズ)

Microsoft ResearchでAI研究をまとめていた約50人のグループ。

AIエージェント(エーアイ・エージェント)

人の代わりに、画面操作などの仕事を進めるAI。

スケーリング(スケーリング)

データや計算を増やし、モデルを大きくして性能を上げる考え方。

何が起きたか

Microsoft Research(Microsoftの研究組織)でAI研究をまとめていたAI Frontiers(AI研究グループ)について、研究者のJohn Langford氏が11月6日のブログで「終わった」と説明した。AI Frontiersは2023年、ChatGPT公開後に、研究を個人任せにせず組織的に進めるため作られたという。規模は約50人だった。

Langford氏によると、9月上旬にグループはMicrosoft AI(MicrosoftのAI部門)へ再編された。氏は自分のメンバーをできるだけ配置した後、Microsoftを離れた。創設時のリーダーも同じ結論に達したようだと書き、来年はAI Frontiersとしてのインターンもないとした。

ただし、Microsoft Researchの公式ページは9月14日付で、AI FrontiersがMicrosoft AIの一部になり、同じ目標の研究を続けると説明している。完全な終了なのか、名前と所属が変わったのかは、公開情報だけでは一致していない。

背景

Langford氏が語る出発点は、AI研究が一人の研究者だけでは遅れやすくなったことだ。他の研究グループが大きな支援を使うため、アイデアだけでなく、比較に使う強い基準も必要だった。そこでAI Frontiersは、上からの命令だけでも、個人の自由だけでもない形で、まとまった研究を進めた。

チームは、AIエージェント(仕事を進めるAI)のAutoGen、パソコンを操作するFara、ニューヨーク側の新しいモデル研究に取り組んだ。Next Latent、Dion3、Full Bandwidth Transformerも挙げられている。Microsoft Research全体で使える共有のモノレポも作り、モデル作成の仕組みを置いたという。

なぜ重要か

この話が重要なのは、人事だけでなくAI開発の方針が問われているからだ。Langford氏は、再編先のMicrosoft AIでは、データや計算を増やしてモデルを大きくするスケーリングが中心で、研究を重視するAI Frontiersとは合わなかったと主張する。これは氏の見方であり、Microsoft全体の公式評価ではない。

氏は、ByteDanceの実験が、Full Bandwidth Transformerの一種で、2倍規模のモデルに近い結果を示す可能性を例にした。もし同じ能力を小さなモデルで出せるなら、学習や利用の費用を下げられる。ただし、元記事は比較の全条件を示す検証論文ではなく、ここも主張として読む必要がある。

確認できたこと

元記事から確認できるのは、約50人の研究組織がMicrosoft AIへ移され、Langford氏が離れ、創設時のリーダーたちも同様の結論に達したようだという説明だ。来年のAI Frontiersのインターンがないという点も、氏が明記している。公式ページからは、9月14日に移管と研究継続を掲げたことが分かる。

元記事はHacker Newsでも大きな反応を集めた。ただし、pointsやcommentsはコミュニティの注目度であり、元記事の正しさを証明しない。

まだ分からないこと

誰がどの部署に移ったのか、Microsoft AIで誰が研究を率いるのか、AutoGenやFaraなどの活動がどう続くのかは分からない。公式ページの「同じ目標を続ける」が、人数、予算、研究テーマまで意味するかも不明だ。Langford氏の評価に対するMicrosoftの詳しい説明も、公開された二つの文書だけでは見えない。

次に見る点

Microsoftが移管後の体制と責任者を示すか、研究成果やコードの更新が続くか、インターンや採用の案内が変わるかに注目したい。この話は、スケールか研究かを一つだけ選ぶ話ではない。短期の製品化と長期の新発見に、会社がどう人と計算資源を配るかを問うている。

出典:John Langford氏の元記事、Microsoft Researchの公式ページ、Hacker Newsの投稿

💬 MicrosoftのAI Frontiers終了をめぐるHNコメントの論点

コメントの中心は、Microsoft Research内の一研究グループの再編を、AI研究全体の終わりと取り違えないことです。そこから、LLMのスケーリングを優先する経営判断と、将来のために探索研究を残すべきだという意見が対立しています。

  • AI Frontiersは、基礎的なAIの進歩を扱うMicrosoft Research内の一つの研究グループであり、AIの「フロンティア」全体が終わったという意味ではない、という訂正があります。
  • 一部の投稿者は、AI FrontiersだけでなくMicrosoft Researchの複数組織が分割・縮小・再編され、研究文化も弱まっていると見ています。将来性への評価を含むこの話は、投稿者の見立て・自己申告であり、スレッド内で確認された事実ではありません。
  • スケーリング擁護側は、Transformer/LLMでモデル規模と計算量を増やす既存路線は、コメント投稿者の評価では性能改善が続いており、製品化を急ぐ企業がそこへ資源を集中するのは合理的だとします。性能と将来の伸びについては投稿者の主張です。
  • 探索研究側は、別のモデル構造、より効率的な学習・推論、知識と推論能力の分離、世界モデルや継続学習などを試す余地があると反論します。これは研究方向の提案で、成功が確認されたという話ではありません。
  • 対立はexplore/exploit trade-off、つまり新しい道を試すか、実績ある道を伸ばすかの問題でもあります。有限の人材と計算資源では両方への配分が必要で、製品や株主への短期圧力が強い企業ほど既存路線に寄りやすい、という見方です。
  • 研究チームを閉じて成果が出た時に外から取り込む方法は、研究者を再び集める時間を失うという指摘があります。ある投稿者は、業界の計算資源への投資が1兆ドルに近い一方、研究者のコストは相対的に小さいと比較しましたが、この数値は投稿者が示した推定で、スレッド内で検証された実測ではありません。
  • 探索研究の価値を擁護する投稿者は、産業界の「寄り道」からトランジスタ、液晶ディスプレイ、情報理論、レーザー、実用的な太陽電池などが生まれたと例示します。歴史的な例であり、AI研究所にも同じ成果が出る保証ではありません。
  • LeCunをめぐる枝では、過去のLLM懐疑の多くは外れたという批判と、世界モデル・継続学習・信頼性はなお未解決で、LLMの拡大だけで人間級AIに届くかは決着していないという反論が衝突します。スレッドに合意はありません。

コメント128件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

🔥 HNで話題

研究チームの「引っ越し」で何が起きた?

📰 しっかり版: AI Frontiersは終わった? Microsoftの研究チームをめぐる食い違い

MicrosoftのAI研究チームが、別のAI部門へ移った後の話です。

約1分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
AI Frontiers(エーアイ・フロンティアーズ)

Microsoftの研究組織にあったAI研究チーム。

再編(さいへん)

組織の所属や形を変えること。

AutoGen(オートジェン)

AIに仕事を分担させるための仕組み。

💡 ようするに

  • AI Frontiersは約50人の研究チームでした。
  • 研究者のJohn Langford氏は、チームが終わったと説明しました。
  • Microsoftの公式ページは、研究を続けると書いています。

Microsoft Research(Microsoftの研究組織)の中に、AI Frontiers(AI研究チーム)がありました。2023年、ChatGPT公開後に作られました。一人の研究者だけでなく、チームで新しい方法を調べるためです。

チームは、AutoGenというAIを動かす仕組みや、Faraというパソコン操作AIを研究しました。モデルを作るための共有場所も整えました。

9月上旬、AI FrontiersはMicrosoft AI(MicrosoftのAI部門)へ再編されました。Langford氏は、研究を重く見るチームと、モデルを大きくする方針が合わなかったと説明しています。ただし、これは氏の見方です。

公式ページは、AI FrontiersがMicrosoft AIの一部になった後も、同じ研究を続けるとしています。そのため、完全に消えたのか、形を変えて続くのかは分かりません。

Hacker Newsでも、この話は大きく注目されました。でも、pointsやcommentsは人気の目安です。元記事が正しい証明ではありません。これからは、研究者の配置やAutoGen、Faraの更新を見る必要があります。

💬 AI Frontiersをめぐる、かんたんな整理

終わったのはAI研究全部ではなく、Microsoft Researchの中にあった一つの研究グループだ、というのが最初の整理です。主な争点は、今のLLMを大きくするか、新しい方法を試すかです。

  • AI FrontiersはMicrosoft Research内の研究チームです。AIの「前線」全体がなくなったわけではありません。Microsoft Research全体も縮小したという話は、投稿者の見方です。
  • 大きな言語モデル(LLM)を大きくし続ける道は、成果が見えやすいので、会社が選ぶ理由があります。ただし、性能が伸び続けるという点はコメントした人の評価です。
  • 別の人たちは、もっと軽い仕組みや世界モデルなども試さないと、未来の発明を逃すと心配しています。限られたお金・人・計算機を、今の道と新しい道にどう分けるかが問題です。
  • 研究者をいったん失うと、あとで集め直すのに時間がかかります。業界の計算資源投資が約1兆ドルという数字を出した人もいますが、これは確認済みの統計ではなく、投稿者の見積もりです。
  • 探索研究の価値を説明するため、トランジスタやレーザーなど、昔の産業研究から生まれた発明が例に出ました。一方、LLMの限界や世界モデルの必要性については、LeCunへの評価も含めて意見が分かれています。

コメント128件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

🔥 HNで話題

AIの研究チームは、どこへ行ったの?

📰 しっかり版: AI Frontiersは終わった? Microsoftの研究チームをめぐる食い違い

MicrosoftのAI研究チームが、別のAI部門へ移りました。

約1分で読めます Tiny Why編集部 · 文: 特派員 キュリオ

ことば
AI Frontiers(エーアイ・フロンティアーズ)

AIを研究するMicrosoftの小さなチーム。

Microsoft AI(マイクロソフト・エーアイ)

MicrosoftでAIの仕事をする部門。

Microsoft Research(AIを勉強するMicrosoftのチーム)の中に、AI Frontiers(AIを研究する小さなチーム)がありました。

約50人で、新しいAIの作り方を調べていました。

研究者のJohn Langfordさんは、チームが終わったと説明しました。

先に、Microsoft AI(AIの仕事をするMicrosoftの部門)へ移りました。

そのあと、LangfordさんはMicrosoftを離れました。

でも、Microsoftの公式ページは研究を続けると書いています。

だから、チームがなくなったのか、名前を変えたのかは不明です。

AIを大きくする仕事もあります。

新しい作り方を探す仕事もあります。

人と時間を、どちらに使うか決める必要があります。

Hacker Newsでも話題になりました。

話題の大きさは、正しさとは別です。

これからの発表を待ちます。

💬 AIの研究チームのお話

MicrosoftのAI Frontiersという一つの研究チームが、なくなったり形を変えたりした、という話です。AIの研究全部が終わったわけではありません。

  • 大きなLLMをもっと大きくする道を急ぐ人と、別の賢くなる仕組みを試したい人がいます。今の道は仕事にしやすいけれど、新しい道を捨てると未来の発明を逃すかもしれません。
  • 研究者がいなくなると、あとで集め直すのに時間がかかります。昔の研究所から大きな発明が出た例もあります。
  • どちらの道がよいか、そしてLLMだけで人間のようなAIになれるかは、コメントでもまだ意見が分かれています。

コメント128件時点の初期(改訂1)。100件を取得し、全体から100件を抽出して要約しました。内容はHN利用者の自己申告で、編集部が確認した事実ではありません。

出典・参考