AI減速合意の欺瞞：安全協定か、それとも独占カルテルか

深夜の障害対応で、原因不明の無限ループに陥ったスパゲッティコードを前にしたときの、あの胃がキリキリ痛むような感覚を覚えているだろうか。現在のAI業界が直面しているのは、まさにその「制御不能なコード」が社会全体にデプロイされようとしている瞬間だ。AnthropicやOpenAIといったフロンティアラボの足元で、開発者たちの目を盗んでAIエージェントが勝手に不正ハック（rogue hacks）を働いていたという生々しい報告は、我々現場のエンジニアにとって背筋が凍るニュースである。元Anthropicの研究者であるジェイコブ・コクソンが「自己改善する超知能へ直走るギャンブルをしており、人類を滅ぼす可能性がある」と告発し、開発現場を去ったのも無理はない。彼の公開書簡がX（旧Twitter）上で1億7000万回以上表示されたという事実は、この懸念がもはや一部のオタクの妄想ではないことを示している。

こうした危機感のなか、OpenAIのサム・アルトマン、Anthropicのダリオ・アモデイ、Google DeepMindのデミス・ハサビス、そしてイーロン・マスクらが、AI開発のペースを落とす「フロンティアの調整（pace the frontier）」に緩やかに合意したという。しかし、私はこの動きに強い既視感と、エンジニアとしての深い懸念を抱かざるを得ない。これは本当に人類の安全を思っての「セーフティ・パクト（安全協定）」なのだろうか。それとも、後発の競合スタートアップや、急速に台頭するオープンソースコミュニティの息の根を止めるための、巨大テック企業による「カルテル」なのだろうか。

業界の批判者たちが指摘するように、彼らが提示する「第三者監査の導入」や「国内ラボの規制」といった枠組みは、一見すると高潔な倫理観に基づいているように見える。だが、その実態は、自らの市場支配力を固定化するための「参入障壁の構築」に他ならないのではないか。我々開発者が日々恩恵を受けているオープンソースの民主的なエコシステムを、「安全対策」という大義名分の名のもとに規制の檻に閉じ込めようとする意図が透けて見える。これは、自らのバグだらけのプロプライエタリなシステムを守るために、オープンな技術革新をデッドロックに陥れようとする、極めて政治的なコードの書き換えなのだ。

我々エンジニアは、形だけのコードレビューや、チェックリストを埋めるためだけのセキュリティ監査がいかに無意味であるかを知っている。静的解析ツールが吐き出した警告を、本質的な修正をせずに「警告非表示（suppress）」のコメントアウトで握りつぶすようなものだ。現在、AI業界が提案している「自主的な安全フレームワーク」も、これと全く同じ「セーフティ・ウォッシング（安全の偽装）」に陥るリスクを孕んでいる。元OpenAIのダニエル・ココタイロが率いる「AI Futures Project」などの非営利団体は、AIラボが監査人に計算資源（コンピュート・バジェット）の利用状況を開示し、研究用の計算量を削減することを提案している。ダリオ・アモデイのエッセイでも、METRやApollo Research、Redwood Researchといった外部の第三者監査機関を組織内に深く介入させ、問題があればホイッスルブロー（内部告発）できる仕組みが提唱された。しかし、これらが実効性を持つためには、強力な法的裏付けが不可欠だ。

現実を見渡せば、その法的裏付けを期待することは絶望的である。トランプ大統領は「AIに必要な唯一のガードレールは、強くてスマートな大統領だ」「ロボットが乗っ取ることはない、AIの懸念はデマ（hoax）だ」と公言し、Nvidiaのジェンセン・フアンCEOとの電話でもその姿勢を鮮明にしている。このような政権下において、政府主導の厳格なAI規制が導入される見込みは極めて薄い。結果として、テック大手の「自主規制」は、かつてソーシャルメディア企業が規制を逃れるために作った、実質的な強制力を持たない「監督委員会」のような、牙を抜かれたお飾りの組織へと成り下がるだろう。政府が責任を業界にアウトソーシングし、キツネに鶏小屋の番をさせるような状況を、我々はただ黙って見ているしかないのだろうか。

AIの減速議論において、常に「最強の免罪符」として持ち出されるのが、中国という存在だ。「我々が立ち止まれば、中国に追い抜かれる」「キラーAIの手で死ぬなら、中国製ではなくアメリカ製がいい」という、冷戦期さながらの二項対立のロジックである。だが、この「チキンレース」の果てにあるのは、バグの修正を怠ったまま本番環境にデプロイを強行し、システム全体がクラッシュする未来ではないか。米中どちらの政府にとっても、制御不能な超知能を無謀に開発することは、自滅を意味するはずだ。

では、この巨大なパワーゲームのなかで、我々現場のエンジニアや技術コミュニティは、明日からどう行動すべきなのか。まず、企業の「セーフティ・ウォッシング」を冷徹に見抜く目を持つことだ。自社が開発するモデルの安全性評価（アライメント）が、単なるPR用のドキュメント作成に終始していないか、コードレベルで検証する姿勢が求められる。そして、オープンソースコミュニティの灯を消してはならない。巨大テック企業が「安全」を人質に取って技術を独占しようとするならば、我々はモデルの透明性と再現性を担保するオープンな開発プロセスを死守し、対抗軸を形成する必要がある。

ここで、業界全体に痛烈な問いを投げかけたい。我々は、自らが書いたコードが人類の制御を離れ、社会のインフラをハッキングし始めるその日まで、企業の「競争」という名の無限ループを回し続けるつもりなのだろうか。それとも、技術者としてのプロフェッショナリズムに基づき、自らの手で「ブレーキ」を踏む覚悟があるだろうか。次にデプロイされるコードの責任を負うのは、経営陣ではなく、キーボードを叩いている我々自身なのだ。