
核抑止力は無効化され、AI 研究所は国有化される可能性:匿名研究者による未来に関する 46 の大胆な予測
TechFlow厳選深潮セレクト

核抑止力は無効化され、AI 研究所は国有化される可能性:匿名研究者による未来に関する 46 の大胆な予測
「誰もが過去の効率曲線を使って AI を理解しようとしているが、真の大飛躍はまだ訪れていない。知能生産はおそらくまだ 4 から 10 オーダー分の余地が残っている。」
作者:bayeslord
翻訳・編集:TechFlow
TechFlow 編集部注: bayeslord(@bayeslord)は AI × crypto 業界において匿名ながら影響力のあるアカウントであり、商品を販売せず、トレンドを追わず、スケーリング則やアルゴリズムの深さといった技術的な核心を深く掘り下げることに専念しています。
このブロガーは最近、科技、AI、および関連技術の将来の発展について推論した 46 項目のリストを作成し、誰もが過去の効率曲線を用いて AI を理解しているが、真なる大飛躍はまだ訪れておらず、知能生産にはおそらく 4 から 10 桁分が残っていると述べています。
彼はアルゴリズムの加速からロボット、資本、永続的なアンダークラスまで論じ、最も鋭い点に至っています。相互確証破壊(MAD)が無効化する可能性、軍隊と警察の自動化、AI 研究所の国有化などです。
元の投稿はすでに 100 万閲覧に近い。观点は極端ですが、各项目は比較的整合性があり、泛科技読者值得一読です。

このリストは、私が 6 月 4 日に投稿したスレッドに基づき、修正と追加を行ったものです。数人から元の投稿は読みにくいと言われたため、このバージョンに整理しました。
知能
1. アルゴリズムの進歩は誰もが措手不及となるでしょう。世界全体――市場、政府、軍隊、企業、個人――は、ここ数年の生産効率と法則を用いて AI の影響を理解し、物事がどのように進むかを判断しています。「再帰的自己改善」を信じていると公言する新しい研究所でさえ、これは単に古い仕組みにエージェントをループで動かすだけだと考えています。そうではありません。私は知能生産において、まだ多くの桁数が残っており、おそらく 10 桁、あるいは 4 から 7 桁の可能性が高いと推測します。原則として 10 桁を超えることも不可能ではありませんが、それは物理法則が真に許容する上限に激しく衝突することになります。可能性は低いですが、排除はされていません。もしこの判断が正しければ、物事の真の行方は表面に見える行方とは異なり、大きな飛躍が迫っています。この方向で起こることはすべて、世界をほとんどすべての人が価格設定しているよりもはるかに奇妙なものにするでしょう。
2. 私たちは離陸の初期段階にいます。AI が AI を改善することは、歴史上最も結果が重い一歩となる可能性があります。これは確約できません。なぜなら、私たちが知能の物理的限界と計算限界までどれだけ遠いのか知らないからです。しかし、私はまだ遠いと賭けます(前述の通り、計算単位あたりに 4 から 10 桁分の知能出力を絞り出すことは可能に見えます)。
3. 離陸段階に入れば、アルゴリズム研究は加速します。計算資源は依然として希少ですが、研究者の時間の機会コストは下がります。なぜなら、どんなタスクでもエージェントに直接実行させることができるからです。たとえ無謀な試みであっても、何かを持ち帰る可能性があります。すべての新しいアイデアには「最適化の負債」が伴いますが、現在はこの負債を無人監督のトークン消費で返済できます。海量の研究スケーリング則曲線が一つずつ完了していくでしょう。
4. AI モデルは継続的に強くなり、特にフロンティアモデルはそうです。唯一の真の壁は物理です。モデルはますます自律的になり、賢くなり、常に改善されています。数学とコードは規模強化学習によって攻略されつつあり、残りは後に続きます。「検証可能」と「検証不可能」という区別は、意味のある境界として徐々に消失します。前進すれば、自動化された AI 研究と AI 学習はますます同じものになっていきます。モデルを適切に訓練することは、本質的にモデルが自ら適切に学習することと密接に関連しています。サンプル効率、創造性、および他のすべての制限は解決され、任意の規模でアルゴリズム最適に逼近するでしょう。
5. 長タスクエージェントには同等の長さの訓練データが必要だという考えは誤りです。なぜなら、汎化は時間次元に存在するからです。長タスクは「長さ」という属性で積み上げられるものではありません。これは LeCun の(1-e)^n 誤差累積の謬誤に関係しています。実際に起こるのはエラー修正です。エラー修正は複数のスケールで同時に行われ、単一のトークン生成のレベルから長タスク内の各ステップまで及びます。METR のグラフが上昇している理由の一部は、エージェントがエラー修正の脱出速度に達し始めたためです。
6. エンジニアリングレベルの深層学習科学がまもなく登場します。それは私たちを AI のアルゴリズム成熟期へと押しやるでしょう。その速度は大多数が予想するよりもはるかに速くなります――ただし、前述の通り、この道が原則としてどこまで行けるかは不明です。例えば、スケール不変性を研究する科学は、有用な実験の規模と報酬を大幅に向上させるでしょう。なぜなら、1 枚の GPU での実験が、10 万枚をどのように使うかを教えてくれるからです。
7. 技術人間活動のすべての領域には、それぞれ独自の「第 37 手」の瞬間(AlphaGo が李世石戦で打った人間直感を超えた手)が訪れ、そしてすぐに、「第 37 手」自体が時代遅れに見えます。私はすべての領域について言っています。
8. 計算資源は継続的に改善されます。今日の最高の行列乗算マシンは、AI アクセラレータの物理的限界にはるかに及んでいません。デジタルシリコンの道にはまだ大きな改善余地があります。新しい基板の候補も多く、それらが負っているアルゴリズムの負債は自動化によって极限まで絞り出されますが、AI にとって空間、エネルギー消費、時間、製造可能性、コストにおいて最適なもの是什么かはまだわかりません。フォトニクスと確率論的シリコンは興味深い候補ですが、特異点自体が人々を驚かせるとも予想しています。
9. 研究所がどこまでリードできるかは、自動化と規模の報酬次第であり、これにはより深いアルゴリズムの深さによる報酬も含まれます。もし深層学習の実践(および理論)が常に浅いままであれば、長期的にはモートは主にアルゴリズムレベルではないでしょう。なぜなら、秘密は比較的発見されやすいからです。最終的に、蒸留+データ+時間は計算規模に追いつくことができ、おそらく少し遅れるだけです。現在私たちは部分的にこの状態にありますが、たとえそうだとしても、それが常にこのように進む保証はありません。
10. もし規模の拡大に伴い深層学習がそれほど浅くならないなら、自動化と規模の増分ごとに、他人がますます手に負えないアルゴリズムの秘密が得られます。この状態も現在部分的に符合しているように見えます。どちらの場合の終点も、規模と研究が飽和したときの限界効用報酬です。その点がどこにあるかはわかりません。今日から 2 桁離れているかもしれないし、20 桁かもしれません。誰も知りません。
知能サプライチェーン
11. 少なくとも今後数年、計算資源は激しく争奪される資源であり続けるでしょう。しかし、この期間中にそれは商品化し始め、私たちは 2020 年代の貧弱さを嘲笑して振り返ることになります。規模は拡大し効果があり、資本が追随し、フライホイールを何度も回します。より多くの行列乗算マシン、より多くのファブ、より多くのエネルギーが到来しています。知能生産のボトルネックは一時的です。潜在的な経済の減速帯は別として。
12. 知能サプライチェーンの性質が変化しています。現在それは研究所の手に高度に集中しています。しかし、研究所は彼らを強くする核心なもの――研究者、およびアルゴリズム優位性の発見――を自動化しています。このプロセスが始まれば、オープンソースがそれほど遅れて追随しない限り、特に研究所が AI 研究者モデルをロックダウンしない場合、研究所の優位性はより容易な資金調達、より多くの計算資源、独占データ、商業関係、そして良い製品へと移行します。これは確かに前述のアルゴリズムの深さの問題がどのように決着するか、以及其他的一些因素によります。
13. 分散訓練は単体データセンターの大規模建設への需要を降低し、非ハイパースケールベンダーにいくつかの優位性を与えます。ただし、単回最大規模訓練という純粋な次元では、ハイパースケールベンダーを超えることはありません。
14. 自動化された AI 実験はアルゴリズムの秘密を広く発見させます。なぜなら、これらの秘密は本質的にフルサイズ訓練よりも配布しやすいからです。この道がどこまで行けるかは不明ですが、相当遠くまで行くと予想しています。前述の通り、深層学習の根本的な深さは依然として未知であり、この判断の上限はその未知に依存します。
15. これらの力が表面的には学界とオープンソースに有利であっても、計算資源のコストと機会コストにより縮小する可能性があります。例えば、GB300 は GLM5.2 や Fable にサービスするのに使う方が価値があるか、ある学術研究所で非フロンティア研究をするか、あるいは Anthropic 内部で Mythos 2 を作る方が価値があるか?市場は需要が最大の場所を計算し出し、現在見るところ、その場所は確かに研究所です。これはオープンソース研究所がより計算資源渇望になる可能性を意味します。たとえ彼らにお金があっても、前提として彼らがまだ計算資源生産能力を事前にロックしていない場合です。ロックしていたとしても、彼らは自分で研究を行うことと比較して計算資源を貸し出す機会コストを計算しなければなりません。Colossus と Anthropic のあの合作を参照してください。
16. AI 能力が刺激し始める環境では(今後 0 から 18 ヶ月)、オープンソースは社会的レベルでも難しくなり始める可能性があります。特に、私たちが安全の速度を加速するのが遅い場合――これまでのところ確かに遅いです。
17. 資本が研究所に殺到するとき、オープンソースは縮小し始める可能性があります。ここには調整問題があります。研究所(そしておそらく政府)を除いて、誰もトークン独占者を望んでいません。しかし、もしこの問題が解決され、規制環境が友好的であれば、結果はまあまあかもしれません。
ロボット
18. ロボットには 2022 年 11 月の ChatGPT のような瞬間があり、その後 2025 年 11 月の Opus 4.5 のような瞬間があるでしょう。どちらもまだ起こっていませんが、它们は到来し、人々が考えるよりも速くなるでしょう。これは AI の急速な進歩の結果であり、AI 加速の物理システムエンジニアリングを含みます。ロボットのこれら 2 つの瞬間の間の間隔は、3 年ではないように見えます。
19. しかし、物理的に世界中のロボット的数量を真に積み上げるには、2030 年甚至さらに遅くなるまで待つ必要があるかもしれません。私たちは年間約 1 億台の車を製造していますが、人型ロボットは車よりもはるかに小さいです。私たちが年間 10 億台のスマートフォンを製造していることを考慮すると、資本とアルゴリズムが十分に速く走れば、2030 年に年間 1 億台のロボットという規模を達成することは合理的です。年間 1000 万台は確実に達成できます。ドローン市場はすでに我们が行っています。ソフトウェアが小規模で人型ロボットがその価値があることを証明できれば、無限の資本をテコ入れできます。テコ入れの量は証明の質に比例します。
20. 今日ロボット硬性上限のように見えるものは消失します。サンプル効率の悪さ、データの相対的希少さ、手とモーターのハードウェア設計の高価さと難しさ、物理世界のフラクタル複雑さ、そして世界で私たちがどのように仕事をするかについての記録されていない暗黙知(例えば配管工の套路)などです。世界モデルは有用に見えますが、具体的に哪个ものが重要かは重要ではありません。研究スケーリング則は効用減退まで磨き上げられるでしょう。
21. ロボットに対する世界的需要は簡単に数百億台です。特に各种形態を合わせれば。自動化する価値のある肉体労働は太多です。市場はこの件を解決する方法を見つけます。そして人々はおそらく道を遮らないでしょう。
進歩
22. 科学は自動化され、仮想化されています。これは、この世界が必要とする多くの進歩が、自動化された研究所とシミュレーションから来ることを意味します。私たちは仮想化の完全な計算限界を知りませんが、生物、材料科学などの分野におけるこのロボット駆動の研究所は、多くのボトルネックを取り除き、途中で「検証済み仮想化」の境界を押し上げ、サンプル効率と「落地成真」の純報酬を向上させます。基本的にすべての分野で、ニューラルモデル、明示的シミュレーション、実世界実験の某种の組み合わせにより、生物、材料科学などの分野における每一块钱、每一份時間の報酬を向上させます。
23. 進歩の法則は至る所にあります。深層学習では它们をスケーリング則と呼びます。どの曲線上でも、S 字曲線がいつ飽和するかを判断するのは難しく、地平線の向こうに新しい S 字曲線があるかも判断しにくいです。ここで理解すべきは、文明進歩というエンジン自体にも進歩の法則があるということです。私たちの進歩は飽和型である可能性が高く、大多数の自然過程と同じですが、私たちは実際には飽和がどこで起こるかわかりません。技術と文明の成熟期は近いかもしれないし、遠いかもしれません。私たちはこのような歴史的分岐点にいます。一是私たちはほとんど進歩に資源を投じていませんでしたが、この点は急速に変化しています。二是私たちは直接より多くの進歩を生み出す機械を自動化しています。私たちは面白い時代の中にいます。
24. 規模が上に向かう未来か、規模が外に向かう未来か。ゼロから一か、一から n か。宇宙が私たちに広さと深さにおいてどの程度の進歩を許すかは、開かれた問題です。広さは見積もりやすいです。なぜなら、それは大まかに「今から、物理法則がまだ私たちに何歩の計算を許すか?」だからです。そして、その計算がどの程度「深く」なれるか――この言葉の最も広い意味で――は未知です。未来の有些バージョンでは、技術樹が信じられないほど深く、到達可能な計算宇宙が豊かであり、物理が私たちを阻むまで、あるいはそれが阻むことができるなら、私たちは常に発明し、常に発見し続けます。他のバージョンはより平坦です。私たちは比較的浅い技術樹をすぐに満たし、比較的簡単に技術成熟期に到達し、然后それを規模化して展開し、心が満足するか物理が阻むまで続けます。
資本と生産
25. より多くの資本+より多くの知能は、より強化された資本主義を意味し、私たちがより速く市場均衡に冲向ことを意味します。長期的にはこれは自然にデフレをもたらし、大多数の重要な商品が限界コストゼロに接近するまで競争されることを意味します。AI、食物、住宅、医薬、電子製品、娯楽、旅行などを含みます。前提は私たちが人々に道を遮らせないことです。有些情况下彼らはおそらく遮ります。
26. 採掘は自動化されます。海陸空輸送は自動化されます。工場は自動化されます。労働者は自動化されます。配送センターは自動化されます。サプライチェーン全体の維持、改善、拡大は自動化されます。
27. 人間が仕事を保持することはあります。非常に長い間保持します。この部分が人類の比例の多少かは、開かれた問題です。この数が高いと言う人々は過度に自信があり、この数がゼロになると言う人々も同様です。しかし、知識仕事においてその「知識」の部分で、人間が限界においてどれだけ貢献できるかを想像するのは確かに難しいです。医師などの有些需要は、大幅に減少する可能性があります。もし私たちが月額 20 ドルの超人 AI 医師を持ち、オンデマンド検診を持ち、医療技術進歩による健康の大幅改善を持てば。しかし、私たちが現在医師をカルテル化しているため、私たちはこれを続け、医師仍然是良い職業であり続ける可能性があります。娯楽の需要はおそらく上昇しますが、生産コストは低下します。娯楽に対する人間への技術的需要はすでに大幅に減少しています。しかし、私たちは他の人間を気にするので、おそらく私たちは彼らを気にし続け、俳優になることはより儲かるようになります。この事がどのように進化するかを考えるのに役立つ 1 つの思路があります。今日の 1 人の労働者から消費者までの間に、サプライチェーンに何層の中間層があるか。TikTok インフルエンサーにとって、ゼロ層。医師にとって、ゼロ層。工場労働者にとって、多くの層。仕事が仲介を排除できるか、競争で淘汰できるか、代替不可能かどうかが、おそらくその結末を大きく決定します。この分析はかなり微妙で、この段落は远远说不透ですが、最後に 1 言提言します。这一切の前提は、私たちが需要側の断崖式崩壊に遭遇しないことです。もし太多人が働かず、生産率または政府効率が全民基本収入または全民基本医療を支えきれなければ、その崩壊は発生する可能性があります。
28. 上記の几点に関連しますが矛盾はしません。「永続的なアンダークラス」は真に存在する可能性があります。それが成真する那些较好的世界では、それは収入が害されるというよりも、主体性が高度に制限されているように見えます。大多数人にとってこれは最終的に受容可能です。私たちの主体性はすでに現代社会によって高度に制限されています。しかし、それは心理的な適応を必要とし、これは時間がかかるか、あるいは苦痛を伴う可能性があります。
文化と心理
29. 人類心智は現在成長し適応するのが遅いですが、これは変わります。鍵は良い方向に変わることです。有些人にとってこれは容易ではありません。豊裕な知能と自動化は、今日よりもはるかに持続的な心理構造をエンジニアリングすることを可能にします。今日这套は私たちの環境に適応していない進化的遺物です。精神病学と心理学は、数十年以内に千年分の革新を完了します。人類は根本的に良くなります。粗雑で堕落した「快楽への直接接続」はリスクとして過大評価されています。なぜなら、私たちはより精巧で多様な心智エンジニアリングを利用できるからです。
30. 極めて不確実な世界では、人々はこれまで以上に激しく権力、地位、富を争い、過程の中で同類を裏切ることを心安理得に行います。彼らは自分の行動が良い、あるいは偉大であると説明する各种理由を発明します。四周を見てください。
31. あなたは自分が信じられないような尴尬を見ることになるでしょう。
32. 現在、明らかな二重话语が上演されています。即将、またはすでに最も富む 0.01% である那些人々は、AI はすべての人を利する、仕事を心配するなと言いながら、自分の富を放棄することを拒否し、地球上の、あるいはアメリカのランダムな一員になることを拒否します。期限が 1 年、5 年、20 年であっても。人々はこれを見ており、すでに反応し始めています。はっきり言っておきます。私も自分の位置を放棄しませんが、すべてが完璧になるとも言っていません(私も最も富む 0.01% ではありません)。結果として、私たちは不公世界を建設するリスクがあります。有些人はこのことを気にします。私はこの事はより頻繁に議論されるべきだと思います。そして、さらに率直に言えば、アメリカ政治はこの類の問題を処理する方式が酷すぎます。
33. Elon はおそらく最初の千万億長者になる可能性が高いです。広義には、チップ、ロボット、宇宙船の需要が現在の 1000 倍以上に成長することは想像に難くなく、その中で很大一块彼はおそらく食い下げることができます。
協調
34. 社会の各スケールでより良い協調が必要です。これは明らかです。現在の私たちの協調に対する理解には弱点とリスクがありますが、おそらく私たちはその表面すらまだ刮っていません。Moloch(すべての人が強制的に参加させられ、誰も退出できない悪性競争を象徴する)を倒す Satoshi レベルの人物が現れるでしょうか?
35. AI においていくつかの国際協調を行うことは、おそらく良いアイデアです。私たちは条約と GPU カウントを望むかもしれません。这套东西は以下のように設計できます。一是軍事と政府権力那种螺旋上昇する対抗的蓄積を遅らせること。二是科学和其他重要進歩分野への影響を最小限に抑えること。私たちはこれを得られないかもしれません。なぜなら GPU はあまりにも普遍的に強力だからです。核兵器では我们は達成しました。なぜなら、狂人を除いて誰も真に核弾頭を使いたいとは思わないからです。
36. AI 研究所協調の一時停止または減速は、現在 2023 年よりも可能性が高く見えます。ここには多くのトレードオフがありますが、一時停止の争議可能な価値は、今日 2023 年よりもわずかに高くなったと思います。「一時停止は浪費される」という論点はより成立しにくくなりました。なぜなら、私たちは自動化研究を持っているからです。ただし、まだ完全にはありません(私たちが持っているのは自動化エンジニアリングです)。率直に言って、私は個人的には現在一時停止を支持しません。主にそれは特異点を穿越するその綱渡りのあまりにも多くの他の部分を中断するからです。技術樹の中には龍が隠れている可能性があり、敵は実在します。
権力、暴力、安全、自由
37. 残念ですが、私たちの宇宙はボストロム的な意味で脆弱である可能性があります(哲学者ボストロムの「脆弱世界仮説」:技術進歩は、一度発見されれば文明を破壊するのに十分な能力を某种引き出す可能性があります)。現在の世界にはいくつかの自由度が存在する可能性があります。私たちはガバナンスと自由の那些規範(这套規範は私たちの世界の真実に対して十分であり、パノプティコンを除いて)を保持的同时、それらを迅速に協調して制御することができません。そのような世界では、権力蓄積は滑り坂です。この類の世界の多くは、最後に大多数人にとって非常に悪くなります。これが真でなければ良いのですが、それは真である可能性があります。
38. AI 拡散は、潜在的な速度制限因素がどれだけあっても、あるゼロより大きい速度で発生します。世界には太多のコンピュータがあり、FLOP から知能への為替レートは史上最低点にあります。物事が停滞に陥ると賭けないでください。
39. 「永続的なアンダークラス」という概念は、「永続的なアッパークラス」の存在を暗黙にしています。これは、一群人が某种相对正当性のない理由により、より多くの権利を持つことを前提としています。この理由は归根到底永远是暗黙的または已兑现的、暴力によって支えられた支配です。しかし、おそらく先進的な AI の世界は、人間がもはや統治する正当な理由を持たない世界です。他の人間を超える公认的、能力または地位はありません。これは決して 100% 成真することはありません。しかし、それはますます重要になる可能性があり、考える価値があります。私は実践において、道徳レベルの論証と実用レベルの論証は相当大きく分岐すると疑っています。perhaps このように反倒是对的。
40. 各种方向の力が機関を転換させるように圧力をかけます。そして、これらの力は暴政に通じる可能性があります。そこへの道は多くあり、有些は安全の旗印を掲げ、有些は良性の権力蔓延です。天井は強力な AI+全自動軍事サプライチェーン+全自動武器です。私たちはより良い機関が必要です。
41. 外には大量のゼロデイ脆弱性がある可能性があります。ネットワーク、生物、インフラ、神経、ミーム、物理などの分野において。私たちはこれらの分野におけるアルゴリズムの深さと一貫性の報酬を全く理解していません。防御と堅牢性側のどちらにおいても、破壊側においても。核兵器のアルゴリズムの深さは、世界で最も賢い人間にとって手が届かないものではありません。明日私たちの機械は次のレベルに reach し、さらに次のレベルに reach します。現在私たちはアルゴリズム的に非常に浅い那种随机災害率について少し知っていますが、アルゴリズム的に深い文明で何が起こるかは、ほとんど何も知りません。
42. 関連する 1 言:技術樹の中には本当に本当に厄介なものが有些かもしれません。私たちは真に知りません。
43. 規模化されたロボット能力は、純粋なコンピュータモデルを超えた、真の乗っ取りとクーデター式リスクをもたらし、またネットワーク攻撃の新しい表面と新しいベクトルのようなより平常なものももたらします。私たちはこれらのリスクを真剣に受け止め、それらを降低するように努力すべきです。
44. 相互確証破壊は 20 世紀と 21 世紀初頭の技術に基づいています。私たちは劇的な技術的変革を経験するでしょう。おそらく 1000 年分の变革が非常に短い時間に圧縮されます。これは MAD が当たり前ではないことを意味します。この問題は解決可能です。しかし、完全に確定しているわけでも、きれいな颠覆というわけでもありません。なぜなら、決定的な優位性を得るには、許容誤差が極めて低く、おそらく根本的に不可能だからです。過去有些人はこの話題をかなり不真面目な方式で提起しました。私はそれは誤りであり、無責任だと思います。これは私たちが議論できる最も真面目な話題の 1 つです。人々がこれに緊張を感じることは正しいですが、私は語る時だと思います。
45. 軍隊、警察、および政府法執行の主要な機制は、自動化され、人間よりも賢くなります。どう理解するかはあなた次第です。
46. 最後に:AI 研究所は最終的に強意味での国有化される可能性があります。私見では、アメリカの体制は実際にはこれとあまり兼容していません。しかし、国有化への道は多くあり、保守的または自由な政治環境において、禁区によって完全に塞がれているようには見えません。原則として、研究所はバックエンドで軍部、情報部門と協調を保持できます。すでに摆出的姿勢よりも目立つ必要はありません。連邦政府は私たちが言う这种単辺権力を拥有しており、これも極めて危険です。民間会社が这种権力を拥有するのは別の事です。なぜなら、彼らは通常直接暴力を実施せず、法律的にも許可されていないからです。私は国有化をあまり好みません。しかし、この世界は困惑させられ、そしてますます凶険になっているように見えます。
TechFlow公式コミュニティへようこそ
Telegram購読グループ:https://t.me/TechFlowDaily
Twitter公式アカウント:https://x.com/TechFlowPost
Twitter英語アカウント:https://x.com/BlockFlow_News










