MLOps

単一APIでOpenAIやClaude、OSSモデルを束ねるDoorDashの「LLM Gateway」。社内5,000人以上が利用し40%が非エンジニアという巨大基盤の裏にある、マルチクラウドフォールバックとコスト帰属の生々しい設計思想を解き明かす。