It's already happening. In space. On the ground. Everywhere.
すでに「超知能脱出速度」に達している——仮に明日、すべてのデータセンター建設が停止されたとしても、AI自身による研究開発がすでに十分な勢いを持っているため、超知能に到達することを止めることはできないという。METRの最新報告を受け、ウィスナー＝グロス氏の確信は一段と強まったようだ。
アレクサンダー・ウィスナー＝グロス「そのグラフの「Model 4」を見てください。METRのグラフに登場するコードネームですが、指数関数的なトレンドラインを上回っています。私たちは今、再帰的自己改善の非常に深い段階に入り込んでいます。METRが当てはめたトレンドラインでさえ、自己改善がどれほど進んでいるのかを十分に捉えられているのか、私には分かりません。
だからこそ、明日すべてのデータセンター建設を停止しても構わない、と私は言っているのです。もちろん、大きな痛みを伴うでしょう。投資助言ではありませんが、新規建設がすべて停止されれば、株式市場はおそらく暴落するでしょう。
しかし現時点では、AIの研究開発の非常に大きな部分が、Aそのものによって推進されています。もはや建設停止がどれほど重要なのか、私には疑問です。一時的な影響で済むでしょう。中国に対するリードを数カ月失うかもしれません。追い抜かれるか、さらに引き離される可能性もあります。しかし基本的に、研究はますますAIによって推進されるようになっています。ですから、私たちはすでに後戻りできない地点を越えたと思います」
デイブ・ブランディン「つまり、車がかなりのスピードで走っていて、燃料が尽きかけていても、目的地まで到達できるだけの勢いがすでについている、という比喩ですね」
ウィスナー＝グロス「そう思います。比喩はいろいろ考えられますが、「脱出速度」ですね。私たちは今「超知能脱出速度」に達しています。
すべてのデータセンター建設を停止すれば、もちろん大きな痛みを伴います。しかし、すでに得られているアルゴリズム上の知見と、既存の計算資源を組み合わせれば、必要に迫られた場合でも、目指しているところまで到達できると思います。
それを危機と考えない人もいるでしょうが、仮に「反シンギュラリティ危機」と呼ぶとしても、私たちは最終的な到達点、つまり私が考える究極のモデルにたどり着けると思います」View quoted post on X
