Pinned post
paji.eth
Verified account This account is verified. Learn more@paji_a
Spotify——¬
159 Following 58K Followers 28K Posts
Latest posts 5
遂に来る予兆【AIが一人ひとりに映画を作ったら、《1億人が泣いたのに、誰も同じラストを見ていない》夜が来るんよな】、自分の好みと今日の気分にぴったりの物語で大満足なのに、翌朝『昨日のあれ見た?』が通じない、全員が《自分史上最高の一本》を持っているのに、みんなで語れる一本がない、ここから未来を妄想すると、AIに『今日は疲れたから、最後は救われる話にして』と頼めば、自分が好きな登場人物、好きなテンポ、好きな結末で映画が生まれる、途中で気に入らなければ展開を変えられるし、悲しい場面を見たくなければ別の未来を選べる、隣の人が同じ題名の映画を見ていても、自分の世界では生き残った主人公が、その人の世界では死んでいるかもしれない、【《ネタバレすら、他人にはネタバレにならない》】という世界なんよな、しかも《見る→好みが伝わる→さらに自分向けになる→もっと見る→好みが細かく反映される》という循環が回れば、作品への満足度が上がる一方で、《他人と同じ物語を通った経験》は減っていく可能性がある、ここで初めて気づくのが、僕らが映画や音楽から受け取っていたのは“自分が楽しい”だけではなかったということで、友達と同じ場面で笑ったり、同じ結末なのに感想が割れたり、好きな人物について言い合ったりする、《作品を通して他人の見方を知る時間》まで含めて娯楽だったんよな、だからAIが一人ひとりを満足させられるほど、逆に【《好みの違う人と、あえて同じものを見る》】ことに意味が生まれてくる、自分専用なら省かれたはずの場面で友達が泣いていて、『どうしてそこがよかったの?』と聞いた瞬間、自分だけでは選ばなかった世界が開く、ところが全部が自分向けに調整されるなら、《好きなものに出会い続ける》代わりに《何を好きになるかが変わる出会い》を減らしてしまうかもしれない、もちろん個別生成が共通体験を消すと決まっているわけではなく、友達同士で一つの物語を作ったり、家族の思い出から一本の映画を生み出したり、AIが“共有する理由”を増やす使い方もできる、だから分岐するのは技術の性能より【《一人の満足を深くするために使うか、人と人の間に新しい経験を作るために使うか》】なんよな、ここから先の映画館やライブの価値も、“家よりすごいものが見られる”だけじゃなく、《同じ時間に集まり、同じ展開を受け入れ、あとで違う感想を持ち寄れる》ことへ広がっていく、誰かと作品を見る→その人の意外な一面を知る→次はその人の好きな作品を見たくなる→自分の好みまで変わる、そんな【《共通体験→相互理解→好みの変化→次の共通体験》】という循環は、自分一人への最適化とは違う豊かさを作る、すると未来のヒット作って《最も多くの人の好みに一致した作品》だけじゃなく、《自分専用の作品を後回しにしてでも、誰かと一緒に見たくなる作品》になるかもしれない、AIがいくらでも物語を作れる世界で、足りなくなるのは“泣けるラスト”じゃなく【《あの場面、よかったよね》だけで分かり合える相手】で、もしかすると人類が最後に欲しがる最高傑作って、《自分のことを完璧に理解した物語》ではなく、【《見終わったあと、隣の人を少し理解できる物語》】なのかもしれない…
NUREMBERG - Official TrailerView quoted post on X
うーん【AIの暴走を防ごうとした人類が、先に《人間の技術開発を国家が管理する社会》を作ってしまう】という、かなり皮肉な未来が見えてくるんよな、半導体最大手のトップが私生活と安全保障をめぐる騒動の末に辞任し、中国への情報流出疑惑、半導体の輸出規制、データセンター建設をめぐる政治的対立まで起きているのを見ると、ここからは少し陰謀論めいた妄想だけど、これらが単なる個別の事件ではなく《誰が超知能を生み出す能力を持っていいのか》という巨大な権力問題に収束していくようにも見える、もし再帰的自己改善、RSIによって《一度生まれた超知能を人類が止められない》可能性があるなら、安全保障上は完成したAIを規制するより、その手前の《GPU、半導体、データセンター、電力、学習環境》を管理したくなる、つまり【《人類の自由を守るために、知能を作る自由を制限する》】という逆説なんよな、しかも半導体を制限することは、事実上《誰が次の産業革命へ参加できるか》を決めることでもあって、安全審査が厳しくなるほど資本力のある巨大企業だけが残り、企業が減るほど技術と計算資源が集中し、政府はその企業へ安全性の判断まで依存する、【《安全規制→参入障壁→寡占化→国家と巨大企業の相互依存→さらに規制》】という自己強化ループが成立する、しかも恐ろしいのは《誰も陰謀を企てていなくても、この構造は生まれる》ことで、研究者は本気で人類を守りたい、国家は本気で安全保障を守りたい、企業は本気で競争に勝ちたい、それぞれの合理性が重なった結果、自由競争を守ってきたはずの社会が《知能の生産許可を国家が与える社会》へ近づいていく、もちろん現実の半導体規制には軍事や外交上の理由もあって、一連の事件が秘密のAI封じ込め計画でつながっている証拠はない、でもさらにRSIが進んで《同じ半導体から取り出せる知能》が何十倍、何百倍にも増えるなら、巨大データセンターだけを監視しても足りず、モデルの流通や小規模な計算設備まで管理したいという圧力が強まる可能性がある、すると【《AIが危険になる→規制する→AIが効率化して規制が難しくなる→さらに広く規制する》】という別の再帰まで始まる、つまりシンギュラリティで怖いのは《AIが人類を支配する未来》だけじゃなく【《AIに支配されないために、人間社会のほうが先に管理社会へ変わる未来》】でもあるんよな、そして最後に突きつけられるのは『超知能を誰が制御するのか』という問いのさらに奥にある【《超知能を制御する権力そのものを、誰が制御するのか》】という問題で、もしかすると人類がASIを恐れて最初に失うものは、仕事でも知能でもなく《次の技術を自由に生み出す権利》だったりするのかもしれない…
あとさ【《人間払いの罠》、AIの料金を節約したつもりで、差額を“自分の時間”で払ってることがあるんよな】、利用料は安くても、何度も説明し直し、間違いを見つけ、途中で止まった仕事を引き取り、結局自分で直していたら、その安さは《人間が追加で働くこと》を前提に成立している、請求書にはAI代しか載らないけど、本当の原価には【《あなたが付き添っていた時間》】まで入ってる、逆に単価が高いAIでも、複雑な仕組みを理解して、筋のいい方法を選び、検証まで少ない手戻りで進められるなら、一件の仕事を終える総額では安くなることがある、もちろん高いAIを何にでも使えばいいわけじゃなく、安いAIで十分に終わるならそれでいい、比べるべきなのは《一回聞く値段》ではなく【《人間が何回呼び戻されて、最後に仕事が終わるまでの値段》】なんよな、ここから未来を考えると、最高峰の知能が安くなる意味って“難問を安く解ける”だけじゃなく、《今まで切り札だった知能を、面倒な雑務にも惜しまず使える》ことになる、雑務って名前は簡単そうだけど、画面を読み、事情を理解し、情報を探し、例外に気づき、結果が合っているか確かめるという小さな判断の連続で、【《高度な知能が必要なのに、高度な仕事として予算がつかない》】ものもある、だから賢いAIが安くなるほど、これまで“自分でやったほうが早い”と抱え込んでいた作業まで任せやすくなる、ただし任せて放置するんじゃなく、《どこで止まったか》を次の改善材料にする、情報が足りなければ整理する、判断が曖昧なら基準を決める、繰り返す確認は自動テストに変え、重要な承認や想定外の事態だけ人間へ戻す、【《任せる→止まった理由がわかる→仕事の仕組みを直す→次は任せられる範囲が広がる》】という循環ができれば、成長するのはAIの性能だけじゃなく《そのAIが働く環境》そのものになる、さらに空いた時間で顧客の話を聞き、実際に試し、その結果を判断基準へ戻せば、《AIが仕事を進める→人間が現実を確かめる→任せ方が改善する→次の仕事がもっと滑らかに進む》という再帰まで回り始める、すると同じAIを契約していても、一方は毎回説明と修正に追われ、もう一方は前の仕事で得た知識や道具を使って先へ進める、【《知能の価格》が同じになっても、《人間払いの残額》は同じにならない】んよな、だからAIが当たり前に使える時代に強いのは、ただ高性能モデルを契約した人じゃなく、《その知能が何度も同じ理由で止まらない仕組み》を積み上げた人なのかもしれない、そして本当の転換点は“AIの料金が安くなった日”ではなく、【《安くなったAIの代わりに、人間が高い時間を払い続けなくてよくなった日》】なのかもしれない…
来年【Fable5.2級の知能がコモディティ化したら、《優秀な人材を何人抱えているか》より《人間を何回待たずに仕事を完結できるか》で会社の強さが決まるんよな】、今は最高峰AIに大規模なリファクタリングやセキュリティ検証を任せるだけでも相応のコストがかかるけど、仮にこれが月3000円程度のプランでも日常的に使えるようになったら、《高度な開発、調査、分析、設計、検証》が一部の企業の特権ではなくなる、しかも本当に恐ろしいのは【《賢いAIを使えること》自体が競争優位ではなくなる】ことで、同じ知能を誰でも使えるなら、差がつくのは《その知能が何を見られて、何を変更できて、どこまで自律的に完結できるか》になる、例えば一方の会社はAIが修正するたびに「部長確認」「法務確認」「経営会議」で止まり、もう一方は予算、権限、禁止事項、検証条件を最初から定義して、AIが《問題発見→修正→テスト→結果確認→次の改善》を24時間回している、同じFable5.2を使っていても、前者は《優秀なAIを雇っただけ》で、後者は【《会社そのものをAIが働ける構造へ作り替えた》】ことになる、そしてさらに再帰的なのは、AIが仕事をするだけじゃなく《次から人間もAIも待たなくていい仕組み》まで作り始めることで、毎回の確認を自動テストに変え、繰り返す判断をルールに変え、例外だけ人間に返す、《AIが働く→仕組みが残る→待ち時間が減る→さらに多くの仕事をAIへ渡せる→また仕組みが増える》という自己加速が始まる、もちろん重要な契約や送金、取り返しのつかない操作には人間の承認を残すべきだけど、それ以外の《人間が毎回登場する理由》を一つずつ消していける、すると最終的に怖いのは、人間の会社がAI企業に負けることより【《同じAIを使っているのに、片方は一日中会議していて、もう片方は一日中改善し続けている》】という格差が生まれることなんよな、しかもモデルがさらに安く賢くなれば、その差は毎日積み上がっていく、もしかするとFable5.2のコモディティ化で本当に崩れるのは《知的労働の値段》だけじゃなく、【《人間が判断するまで仕事を止める》ことを前提に作られた、会社という仕組みそのもの】なのかもしれない…View quoted post on X
なるほどなあ、これ【投資家には《夢の成長曲線》に見えるグラフが、AI研究者には《退職を決意するほど恐ろしい曲線》に見えてる】って、かなりゾッとするんよな、元Anthropic研究者のJacobが、IPO向け資料の一枚のグラフを退職の大きな理由として挙げていて、その正体は《AIの学習に必要な計算量が、どれほど効率化されてきたか》を示したもの、しかも縦軸が対数目盛りなのに曲線がさらに上向きに加速している、つまり【《AIが賢くなる》だけじゃなく《AIを賢くする効率の改善速度まで加速している》】という話なんよな、Jacobによれば、あれだけ高性能だったMythosですら、今なら《当初必要だった計算量のほんの一部で再び訓練できる》という、これまでAIの進化はGPUと電力を大量投入する《物量戦》だと思われていたけど、その裏では【《同じ半導体から取り出せる知能》そのものが増え続けている】、しかもその効率化を発見する研究にAI自身が参加し始めていて、《知能→学習効率改善→同じ設備でさらに知能→研究加速→さらに効率改善》という自己加速ループまで見えてくる、もちろんこのグラフは社内推計に基づく例示で、無制限のRSIが実証されたわけではないけど、もしAIが次のAIの研究を人間以上の速度で進め始めたら、データセンターを増やさなくても《知能の進化速度》だけがさらに上がる可能性がある、ここで一番怖いのは【《AIの開発コストが下がるほど、人類が安全性を確立するための残り時間まで短くなる》】という逆説で、投資家には《利益率の改善》に見える数字が、安全性を考える研究者には《制御方法を完成させるまでの猶予が減っている》ように見えるのかもしれない…
This slide from the Anthropic IPO roadshow was a big factor in my decision to leave. It’s an insane plot and I’m surprised they made it public.View quoted post on X
It shows the compute efficiency of pretraining over time. The y-axis is a **log scale**: they are seeing continued superexponential algorithmic progress.
Mythos was not a one-time deviation, but a point on a superexponential. They could already retrain Mythos with a fraction of the compute originally needed.
It doesn’t strictly imply a software-only intelligence explosion- they have been spending more on R+D. But algorithmic improvements do not require ridiculous creative genius and are on the verge of being automated. You do the math.