Nvidia一強に挑むEtched、103億ドル評価額の衝撃と専用シリコンの未来

我々エンジニアが日々直面している最も深刻なボトルネック、それは「GPUの枯渇と高騰」である。新しいLLMをデプロイしようとするたびに、クラウドベンダーのインスタンス空き状況を監視し、法外な見積もりに頭を抱える――この不毛な「インフラ争奪戦」は、もはや開発現場のデッドロックそのものだ。現在のAI業界は、Nvidiaの汎用GPU（H100やB200など）に過剰に依存している。グラフィックス処理から物理シミュレーション、そしてディープラーニングまで「何でもこなせる」汎用性は確かに魅力的だが、それは裏を返せば、特定のAIモデルを実行する上での「無駄」を大量に抱え込んでいることを意味する。この汎用GPU神話に真っ向から冷や水を浴びせたのが、ハーバード大学を中退した3人の若者が率いるスタートアップ「Etched」だ。

Etchedは、シリーズCで3億ドルを調達し、評価額は10.3Bドル（約1.5兆円）に達した。Sequoiaが主導し、a16zやSK Hynix、さらにはアンジェイ・カルパシー（Andrej Karpathy）氏らAI界の巨頭たちがこぞって出資するこの企業の思想は極めて過激だ。彼らは、現代のAIの基盤である「Transformer」などのアーキテクチャに特化した専用ASIC（特定用途向け集積回路）を開発している。かつて「特定のモデル構造をシリコンに焼き付ける（Etching）」というアプローチは、モデルの進化スピードにハードウェアが追いつかなくなるという理由で「無謀な賭け」と冷笑された。しかし、GoogleがGemini向けに「Frozen v2」チップを開発しているという事実が示す通り、今やこのアプローチは業界のメインストリームになりつつある。Etchedのシステムは、単に特定のLLMを動かすだけでなく、DeepSeekやQwenに代表されるMixture of Experts（MoE）や、Mambaのような状態空間モデル（SSM）といった次世代アーキテクチャにも柔軟に対応できる設計となっており、汎用性と特化型の絶妙なバランスを実現しているのだ。

LLMの推論（Inference）プロセスをプロファイリングしたことがある開発者なら、それが「Prefill（プリフィル）」と「Decode（デコード）」という、全く性質の異なる2つのフェーズで構成されていることを知っているはずだ。Prefillフェーズは、ユーザーが入力したプロンプトとコンテキストを理解するプロセスであり、高度な数学的計算が集中する「計算集約型」の処理だ。一方、Decodeフェーズは、1トークンずつ逐次的に回答を生成していくプロセスであり、計算量自体は少ないものの、膨大なメモリ帯域幅を要求する「メモリ帯域集約型」の処理である。従来の汎用GPUは、この相反する2つの要求に対して、単一のアーキテクチャで妥協的な処理を行わざるを得なかった。Etchedはこの課題に対し、ハードウェアレベルで完全に分離された2つのコンポーネントをゼロから設計するという、極めてエレガントな解を提示した。

まず、Prefillフェーズに対しては、従来のAIチップよりも大幅に低い電圧で動作する「低電圧推論（low-voltage inference）」チップを開発した。電圧を下げることで発熱を劇的に抑え、同一面積のシリコンにより多くのトランジスタを詰め込むことに成功している。そして、最大のボトルネックであるDecodeフェーズに対しては、「クラスタースケールメモリ（cluster-scale memory）」と呼ばれる新しいメモリおよびインターコネクト技術を導入した。これは、複数のチップを極めて高速かつ低レイテンシで相互接続し、巨大な共有メモリプールとして機能させるものだ。これにより、メモリの壁（Memory Wall）を完全に破壊し、トークン生成速度を極限まで高めている。以下に、Etchedのアプローチと従来の汎用GPUのアプローチの構造的違いをまとめる。

TSMCでの製造に成功し、すでに10億ドル（約1500億円）ものプレオーダーを獲得しているEtchedの躍進は、単なる一スタートアップの成功譚ではない。これは、我々ソフトウェアエンジニアやシステムアーキテクトに対して、「ハードウェアの抽象化レイヤーに甘え続ける時代は終わった」という強烈な警告である。これまで我々は、Pythonでコードを書き、PyTorchなどのフレームワークを使い、下層のハードウェアが何であるかを意識せずに開発を行ってきた。しかし、Etchedがもたらす「モデル構造のハードウェア化」が進めば、ソフトウェアの設計思想そのものをハードウェアの特性に合わせて最適化しなければ、10倍、100倍のコストパフォーマンスの差となって跳ね返ってくることになる。

サンノゼのガレージで、サーバーがハングアップするたびに同僚の妻に物理リブートボタンを押してもらっていた3人の若者は、今やミルピタスに10MWの巨大データセンターを構え、世界のAIインフラの勢力図を塗り替えようとしている。我々が明日から取るべき実践的な処方箋は、単に新しいAPIの使い方を覚えることではない。自社が運用するAIモデルの「PrefillとDecodeのボトルネック」を正確に計測し、将来的にASICや専用シリコンへの移行が可能なように、モデルのモジュール化と軽量化を進めることだ。ハードウェアの進化から目を背け、クラウドのインスタンス代を垂れ流し続ける開発者は、近い将来、専用シリコンを武装した競合に圧倒的なコスト効率の差で駆逐されるだろう。我々は、この「シリコンの地殻変動」にどう適応していくのか。それとも、Nvidiaのプラットフォームという巨大な揺りかごの中で、ただ高い手数料を払い続けるだけの存在で甘んじるのだろうか。