OpenAI安全性責任者ウェン氏退職、揺らぐ体制と各社比較

OpenAIで安全システム（Safety Systems）部門の責任者を務めていたリリアン・ウェン（Lilian Weng）氏が、2024年11月に同社を退職することを表明した。ウェン氏は2018年に入社し、約7年間にわたりロボティクス研究や応用AI研究、そして安全対策のシステム構築を主導してきた人物である。同氏の離脱は、OpenAIにおける安全性担保の体制が大きく変容していることを示している。

OpenAIでは2024年に入り、安全性研究の要職にあった人材の離脱が相次いでいる。共同創業者のイリヤ・サツケヴァー氏や、超知能のアライメント（調整）を担当していたヤン・ライケ氏などが相次いで退職し、ライケ氏は競合のAnthropicに移籍した。ウェン氏は退職にあたり、自身が率いた安全部門の強固さを強調しているが、相次ぐ幹部流出により、同社の商業化優先の姿勢と安全性軽視への懸念が外部から指摘されている。

AIの急速な商業化が進む中、主要なLLM開発企業はそれぞれ異なる安全性へのアプローチを採用している。OpenAIが実用性と迅速な市場投入を優先する一方で、Anthropicは「憲法AI（Constitutional AI）」を掲げ、開発プロセスの初期段階から安全性を組み込む手法を重視している。また、Googleは既存のエンタープライズ向けセキュリティ基準をベースにした堅牢なガバナンスを特徴とする。

主要開発企業の内部体制の変化は、APIを利用してアプリケーションを構築する開発者や企業にとっても無視できない影響を与える。モデルの安全性や倫理的なアライメントが揺らぐことは、生成AIを組み込んだシステムの信頼性や、予期せぬ出力によるブランド毀損リスクに直結するためである。

今後のモデル選定において、開発者は単一のプロバイダーに依存するリスクを避け、マルチモデル戦略を導入することが現実的な解となる。特定の企業の内部ガバナンスに依存するのではなく、自社側で入力・出力のフィルタリングを行う独立したガードレール層（Llama Guardなどのオープンソースツールや、独自の検閲プロキシ）を構築し、どのモデルを採用しても一定の安全基準を担保できるアーキテクチャ設計が求められている。