本
hwdsl2/
本地私有化 AI 栈一键部署
这个项目的方向挺直接，就是用 Docker Compose 把目前主流的本地 AI 工具链打包在一起。它整合了 Ollama、LiteLLM、AnythingLLM，以及 Whisper、Kokoro 等语音模型，甚至还带上了 Docling 和 MCP Gateway。简单说，它想帮你省去逐个配置这些组件的麻烦。 这里有个小看点，它默认是本地优先和隐私导向的，支持 NVIDIA CUDA 加速，并且兼容 amd64 和 arm64 架构。对于想要在自己的服务器或 NAS 上快速搭建一套完整 AI 基础设施，又不想折腾各种环境依赖的开发者来说，这是一个很实用的开箱即用方案。
Shell高潜项目潜龙编辑甄选
★ Stars
108
GitHub stars
⑂ Forks
21
Forked repos
⊙ Rank
No. 11
Editor rank
Activity
活跃
发布于 2026-06-27T21:11:31.000Z
编辑评介README快速上手Releases
潜龙评分
4.6/ 5.0
代码质量4.7
文档完善4.5
社区活跃4.4
上手难度4.2
本地私有化 AI 栈一键部署 最值得关注的地方，是它围绕真实开发场景提供了清晰的工程入口。这个项目的方向挺直接，就是用 Docker Compose 把目前主流的本地 AI 工具链打包在一起。它整合了 Ollama、LiteLLM、AnythingLLM，以及 Whisper、Kokoro 等语音模型，甚至还带上了 Docling 和 MCP Gateway。简单说，它想帮你省去逐个配置这些组件的麻烦。 这里有个小看点，它默认是本地优先和隐私导向...
优点
+主题明确，便于快速判断适用场景
+社区关注度高，持续维护概率更大
+可作为同类技术选型的参考样本
不足
-具体成熟度仍需结合 README 与 issue 验证
-生产接入前需要自行评估许可与维护节奏
适用场景
如果你正在评估 高潜项目 方向，这个项目适合放入候选清单。它的 Star、Fork 与主题信息能够帮助你快速判断社区热度，再结合官方仓库文档进行技术验证。