前田敦司⏸️

昔からスローテイクオフ派閥の元Mechanizeチームで現GoogleのEge Erdil,Tamay Besiroglu, Matthew Barnettは今回のmetrレポートによる1-2年以内の知能爆発にやはり懐疑的な見解。 （AGIタイムラインも彼らは長いがAGIがきたら爆発的な経済成長が起こるとは言っているためAGIピル内の分裂になる） ーーー ◯Ege Erdil ・小規模な実験だけで、今ある計算資源を1,000〜1万倍も有効に使えるようになるのか。 EgeがEpoch AIでチェス、SATソルバー、自然言語処理、画像認識を調べたところ、計算規模が速く拡大した分野ほど、アルゴリズムの改善も速く、両者の改善倍率はおおむね同じ桁だったといいます。だから彼は「非常に賢いAI研究者なら、小規模な実験を巧みに選ぶだけで、既存のGPUから桁違いの性能を引き出せる」というシナリオに懐疑的です。この歴史的相関が将来の効率改善に上限を設ける、とまで主張しているわけではありません。 ・METRの報告を読んでも、知能爆発の予測時期はほとんど変えなかった。 Egeも「Anthropicで進歩が速まった証拠はある」と認めています。ただ、社内の能力指標が以前の2倍の速さで上昇したとき、それが超人的なAI研究者への到達をどれほど早めるのかは読み取りにくい。しかも重要な証拠の多くが非公開です。著名な研究者が予測を前倒ししたことで、周囲も自分だけ見方を変えずにいるのが難しくなったのでは、と彼は見ています。本人の予測は2025年末からほとんど変わっていません。 ・AIが世界を変えても、今の評価額でOpenAIやAnthropicに投資したいとは思わない。 彼のたとえは航空業界です。飛行機は世界を変え、人々は航空券に莫大なお金を払っています。それでも航空会社や機体メーカーは巨額の設備投資を要し、利益率は低くなりうる。AIについても、利用者が得る価値は巨大になりうる一方、モデル開発企業がその価値を持続的な高利益率として取り込める道筋はまだ見えない、という判断です。 ・大手AIラボが今後3年で破綻する可能性を本人は「10%超、50%未満」と見る。 理由は計算資源の長期購入契約です。たとえば「2年後のH100を1時間3ドルで買う」と約束した後、需要が予想を下回って市場価格が1ドルになっても、契約上は3ドルを払う必要がある。計算設備は残り、別の所有者のもとで使い続けられても、元の株主の持ち分はゼロになりえます。なお、この発言ではOpenAIとAnthropicそれぞれの破綻確率までは示していません。 ◯Tamay Besiroglu ・数年後には知能爆発が起きなかったと明らかになり、予測者の信用も落ちるだろう ◯Matthew Barnett 2027年に知能爆発が起きない側に最大10万ドルを賭けてもよいと表明。ただし、現実世界での難しい達成事項を事前に決めることが条件で、ベンチマークの点数では判定しないという立場。一方、彼は以前から2043年までに世界の年間実質GDPが過去最高を一挙に30%以上上回る側に実際に賭けている。短期と長期でかなり見方が違う。 ーーー 結論、スローテイクオフ派閥は今回のMETRの結果を見てあまり立場を変えてないようだ。 根本資本と知能の補完関係が強いと見れば観るほどスローテイクオフになり実験や計算資源や産業の発展が知能の発展に伴うと考えるだろうし、代替可能性が強いと見ればファストテイクオフによっていく。大事なのはmechanizeはAGIピル飲んでるので宇宙文明とかマインドアップロードとかの世界を数十年以内には見てるということで、大事は相違はスローテイクオフ→xriskと再帰的自己改善の可能性を低く見積もるというところを理解すると議論の全体像がわかる。 teapaw.org/MTSlive/status/2120707… teapaw.org/MTSlive/status/2120713… teapaw.org/MTSlive/status/2120710… teapaw.org/MatthewJBar/status/211… teapaw.org/tamaybes/status/212034…