Mozilla 推出的开源 LLM 网关

这是 Mozilla AI 团队开源的一个大语言模型（LLM）网关项目。它的核心功能是提供一个统一的、兼容 OpenAI 格式的 API 端点，用来连接和管理超过 40 家不同的模型供应商。除了基础的路由功能，它还内置了虚拟密钥分配、预算控制和使用量追踪。 随着企业内部使用的模型越来越多，如何统一管理 API 密钥和控制成本成了一个痛点。Otari 的定位很明确，它是一个可以完全私有化部署的 LiteLLM 替代方案。对于需要构建内部 AI 基础设施、又不想被单一模型厂商绑定的团队来说，这种提供细粒度权限和成本管理的网关工具是非常务实的选择。