Dario Amodeiの新エッセイを読む。AIの速度に政治が追いついていない

Xで見かけた「Anthropic CEOダリオ・アモデイのお気持ち長文エッセイ新作」は、Dario Amodei本人の公式サイトに出ている「Policy on the AI Exponential」だった。公開は2026年6月。あわせてAnthropic側にも、最先端AIの安全規制案と、AIによる雇用変化への経済政策案がまとまっている。

一言でいうと、今回はAIの性能論ではなく、AIの進歩速度に政策決定が追いついていないという話だ。以前書いたAIの進化速度の話はモデル性能の更新間隔を見た記事だったが、Amodeiはその速度差を社会制度の側から見ている。

AIは速い。議会は遅い

Amodeiの出発点はかなり素朴だ。AIは数年で、まともにコードを書けない段階から、主要AI企業のコードの大部分を書くところまで来た。生物学、物理、数学、金融、法律、翻訳などでも同じ方向の伸びがある。スケーリング則があと1、2年続くなら、彼が以前から言っている「データセンターの中の天才国家」に近いものが出てくる。

一方で、政策は遅い。議会が数年かけて議論している間に、AIは「面白い新アプリ」から国家安全保障と雇用を揺らす技術へ進む。通常なら政治が遅いことには意味がある。政府の権限は強いので、慌てて振り回さないほうがいい。ただ、AIの進み方が速すぎると、その慎重さ自体がリスクになる。

Amodeiは、ここ数年のAI政策を「透明性、半導体輸出管理、雇用影響のデータ収集」のような、将来に備える措置が中心だったと見ている。だが今は、それだけでは足りない。サイバーリスクや自動化された研究開発の現実味が増したことで、より踏み込んだ制度が必要になった、という主張だ。

危ないAIは止められるようにする

Anthropicが同時に出した Advanced AI Framework は、かなり具体的だ。対象は、10の25乗FLOP超で訓練され、AI関連売上が5億ドル超、またはAI研究開発費が年10億ドル超の巨大開発者。すべてのAI企業を縛る話ではなく、最上位のフロンティアモデルを作る企業に絞っている。

対象リスクは4つ。生物兵器、サイバー攻撃、制御喪失、自動化R&Dだ。開発企業には、モデルのテスト、結果の公開、独立評価、定期的なリスク報告、強いセキュリティ体制を求める。そして、重大な破滅的リスクがあるモデルについては、政府が展開を止める、または抑止できる権限を持つべきだとしている。

ここで面白いのは、「透明性だけではもう足りない」と明言しているところだ。何をやっているかを公開させるだけでは、危険な展開そのものは止まらない。飛行機や医薬品のように、社会に不可欠だが設計や運用を間違えると大事故になる技術としてAIを扱う、という発想に近い。

雇用喪失を「一時的な痛み」で片付けていない

もう一つの柱が Economic Policy Framework だ。こちらはAIによる雇用の変化を、かなり正面から扱っている。

Amodeiは、AIが本当に大きな生産性向上をもたらすなら、それは同時に「人間の労働の一般的な代替」になりうると書く。つまり、失業は悪い経営者がコストカットに走ったせいだけではなく、技術の性質から出てくる可能性がある。ここをぼかしていないのが今回の文章の重いところだ。

政策案は、失業率の段階に応じて分かれている。

5%前後の通常に見える段階では、政府統計を強化し、AIによる職業別の変化を速く把握する。賃金保険、職業訓練、職業免許制度の見直し、企業が人員削減ではなく再配置を選ぶための税制優遇などで、労働市場に時間を稼がせる。

10%級の不況レベルになると、失業保険の自動拡張や基本的な生活支援が中心になる。さらに、企業が一気に人を切らないよう、AI導入の速度や順序に政策が関与する余地も出てくる。

それを超える前例のない失業になれば、もはや一時的な転職支援では済まない。ベーシックインカム、ソブリン・ウェルス・ファンド型の分配、AI企業の株式価値を広く共有する仕組みなど、仕事と所得の結びつきが弱まる世界を考える必要がある、という立て付けだ。

創薬や科学の恩恵は詰まらせない

Amodeiはブレーキだけを言っているわけではない。むしろ、AIの良い使い道を制度が詰まらせることにも警戒している。

たとえば創薬。今の承認制度は、薬の候補が少なく、失敗が多く、安全性問題が多いという前提で作られている。AIが候補化合物の探索、効果予測、毒性予測を高速化すると、提出される候補の量と質が変わる。古い前提のまま審査だけが残ると、AI側ではなく規制側がボトルネックになる。

だから安全審査を緩めろ、という話ではない。AIを使って審査や予測も改善し、良いものは早く通し、危ないものは早く落とす制度に変えろ、という話だ。安全規制とイノベーション促進を同じ文章の中で扱っているのは、ここが単なる規制強化論ではないからだ。

民主主義国のAI連合という地政学

最後に地政学が来る。AIは軍事力と経済力の主要な源泉になるので、民主主義国は共通の価値観と安全基準に基づく連合を作るべきだ、という提案だ。

内容は、半導体供給網の管理、安全基準の国際調整、AIの利益共有、相互防衛、AIによる抑圧の拒否、雇用危機へのマクロ経済協調まで広い。国ごとの主権は残しつつ、参加したほうが明らかに得で、外にいるコストが高い連合を作る。最終的にはより多くの国を巻き込みたいが、まずは価値観の近い民主主義国から始める、という構想だ。

「不安はマーケ不足」ではない

今回の文章でいちばん刺さったのは、AmodeiがAI業界側の「もっと良いマーケティングが必要だ」という見方を切っているところだ。人々がAIを不安に思うのは、AI CEOたちの説明が下手だからではない。リスクが現実にあるからだ、と彼は言う。

その不安を、怒りや暴力ではなく、制度設計に向ける。これが今回の文章の実務的なメッセージだと思う。

読んでいて複雑なのは、これを書いているのがまさにAIを作っている会社のCEOだという点だ。AnthropicはAIのリスクを警告しながら、そのAIを前に進めてもいる。この矛盾は消えない。ただ、少なくとも今回のエッセイは「AIはすごい、みんな適応しよう」で済ませていない。雇用、規制、医療、国家権力、地政学まで、政策として何を用意するかに踏み込んでいる。

AIの速度はもう、人間側の会議体の都合を待ってくれない。だからこそ、今から制度を作り始めないと間に合わない。Amodeiの文章は、そういう焦りを隠さない政策メモだった。