GitHub 高星项目· 60 projects
由潜龙编辑团队甄选，每周更新最值得看的开源项目。我们看重的不是 Star 多少，而是它解决问题的方式。
Strands Agents SDK：极简的模型驱动 AI 代理框架
这个 Python SDK 试图用最少的代码行数来构建 AI 代理。它采用了一种“模型驱动”的理念，底层集成了 LiteLLM，从而能够无缝切换 Anthropic、Llama、Bedrock 等各种模型后端。 简单说，它想把构建自主代理（Autonomous Agents）的门槛降到最低。开发者不...
Kubernetes 上的标准化 AI 推理平台
KServe 是一个在 Kubernetes 上运行的标准化 AI 推理平台，支持生成式和预测式模型的分布式部署。对于那些需要在生产环境中大规模运行机器学习模型的团队来说，这是一个非常硬核的基础设施项目。 它解决的核心痛点是模型部署的复杂性。无论是传统的机器学习框架，还是现在流行的大语言模型（LLM...
无 Python 的 Rust 推理服务器
Shimmy 是一个完全用 Rust 编写的本地大模型推理服务器，主打“无 Python”环境。它兼容 OpenAI 的 API 格式，支持 GGUF 和 SafeTensors 格式的模型权重。作为一个单一的二进制文件，它的部署体验非常干净利落。 真正难的地方不是写一个 API 包装器，而是处理底...
高并发企业级 AI 网关
这是一个用 Go 语言编写的企业级 AI 网关，主打极高的性能和低延迟。项目声称在 5k RPS 的并发下开销小于 100 微秒，并内置了自适应负载均衡、集群模式、安全护栏，支持超过 1000 种模型的接入。 这个方向最近挺热，原因也不难理解：当企业内部的 AI 应用规模扩大时，如何统一管理 API...
开源 AI 幻灯片生成器
这是一个开源的 AI 幻灯片生成器和 API，定位很明确，就是要做 Gamma 或 Beautiful AI 等商业产品的开源替代方案。它允许用户通过提示词快速生成演示文稿。 虽然目前市面上通过 AI 生成 PPT 的工具已经不少，但这个项目提供了一套完整的开源代码和 API 接口。对于想要在自己的...
移动端自动化的 MCP 服务器
这个项目的切入点非常精准：它为移动端自动化和数据抓取提供了一个基于 MCP（Model Context Protocol）的服务器实现。随着大模型在桌面端的自动化能力逐渐成熟，如何让 AI 稳定地操作手机成了一个新的技术热点。 简单说，它想把 iOS 和 Android 设备（包括模拟器和真机）的操...
编程智能体的便携记忆层
ByteRover CLI（前身为 Cipher）定位是自主编程智能体的“便携式记忆层”。当 AI 助手在处理复杂代码库时，最大的痛点往往是上下文丢失或对项目全局缺乏长期记忆。 这个工具的思路挺有意思，它把记忆管理独立出来，作为一个专门的 CLI 层来服务各种 Coding Agent。通过解耦记忆...
事件驱动的多智能体编排
简单说，这是一个基于事件驱动架构的多智能体编排框架。在构建复杂的 AI 系统时，真正难的地方往往不是让几个大模型互相聊天，而是如何让它们与现实世界的数据源和企业现有系统进行可靠的交互。 Solace Agent Mesh 试图通过事件驱动的机制来解决这个集成瓶颈，让 AI 智能体能够顺畅地处理复杂的...