今井翔太 / Shota Imai

株がAIバブル崩壊みたいな騒ぎになっていますが、ちょうど今週収録の動画で、研究者視点での現在のAI・半導体周りの懸念点を話しました
"Amazon凋落へ？／NVIDIA失速の兆候／AIバブル崩壊リスク／AI企業は稼げない？／Anthropicの大型IPO／日本のAI・半導体株への影響は？"
youtu.be/a2C1bvUvF1c?si…

日経フォーラム「世界経営者会議」で登壇し、「AIと、私たちの経済のこれから」というテーマで話してきました。
IPOを控えた某Anthropic社の人に色々あり、それを助けるという不思議な役回りになりました。

最近、現在のAIとセキュリティ（サイバー攻撃）の状況は「ポケモンバトル」という例えをよくするのですが、割と真面目に似ている部分があると思ってこの例えを使っているので、ちょっと説明します。

ポケモンの世界では原則、ポケモンを所有する人間自身が相手のポケモンと戦うことはなく、自分もポケモンを繰り出して戦います。ポケモンと人間の戦闘力の差は圧倒的で、人間は指示を出すだけで、自分のポケモンと相手のポケモンの強さで勝負が決まります。自分のポケモンがいないか全て倒されれば、人間だけでは相手のポケモンには何もできず、為す術なしです。ポケモンバトルのでは、自分がどれだけ強いポケモン（リザードンなど）を持っていようと、相手がそれ以上に強いポケモン（カイオーガなど）を持っていれば負けてしまうので、常に強さは相対的で、競争的な世界です。

おそらく今後のセキュリティの話も上記と同じで、人間とAIの能力差が圧倒的であることから、攻撃側と防御側で深い脆弱性を発見できるAIを使った側が勝つことになる。どれだけ強いモデルを持っていても、相手がそれ以上に強いモデルを持っていれば、より深い脆弱性を発見されてしまうので、常に競争環境で、最先端のモデルを維持する必要がある...ということです。

明日はゼルダの伝説 時のオカリナ発売日で、世界的にAIの開発が一時的に止まる日です。
（OpenAI CEOのアルトマンがゼル伝を発売日買いして5日と6日は不在を明言してるのと、たぶんMetaのAI開発トップも最近ゼル伝のTシャツを着ていたので仕事止めてやりそう）

現実的に今回の民主党勝利で、AI開発が一気に後退するかというと、可能性は低いとは思っています。
現状は昨今のサイバー攻撃で、デジタル空間が「強いAIを持っている者が勝つ」の北斗の拳的な弱肉強食世界になってしまったので、シンプルに「強いAIを持ってなければ国が滅ぶ」のがわかりやすくなったため。

セキュリティに関しては、「これだけ強いAIがあれば十分」という天井がなく、どれだけ強いAIモデルで深い脆弱性を見つけられるかが命のポケモンバトル状態。中国AIが上回った瞬間にアメリカのシステムが全て危機に晒されることを踏まえると、民主党政権でも、経済や民意を超えて安全保障の問題としてフロンティアモデルの継続を（民主党的には）嫌でもやるしかない状況。
現状の日本はアメリカのAIモデルにセキュリティを依存する、核の傘ならぬ「AIの傘」なことを踏まえると、アメリカのAIモデル開発が止まったら、日本もデジタル危機が全て危機に晒されることになる。