GitHub 高星项目· 5 projects
由潜龙编辑团队甄选,每周更新最值得看的开源项目。我们看重的不是 Star 多少,而是它解决问题的方式。
Strands Agents SDK:极简的模型驱动 AI 代理框架
这个 Python SDK 试图用最少的代码行数来构建 AI 代理。它采用了一种“模型驱动”的理念,底层集成了 LiteLLM,从而能够无缝切换 Anthropic、Llama、Bedrock 等各种模型后端。 简单说,它想把构建自主代理(Autonomous Agents)的门槛降到最低。开发者不...
Kubernetes 上的标准化 AI 推理平台
KServe 是一个在 Kubernetes 上运行的标准化 AI 推理平台,支持生成式和预测式模型的分布式部署。对于那些需要在生产环境中大规模运行机器学习模型的团队来说,这是一个非常硬核的基础设施项目。 它解决的核心痛点是模型部署的复杂性。无论是传统的机器学习框架,还是现在流行的大语言模型(LLM...
Lemonade
简单说,它想把本地 AI 应用的发现和运行过程变得更顺畅。这个项目主要关注如何利用用户设备上的 GPU 和 NPU 来提供优化的 LLM 推理服务,从而支撑各种本地 AI 应用的运行。 这里有个小看点:它不仅是一个推理后端,还涉及到了 MCP(模型上下文协议)服务器的集成。随着越来越多的人希望在本地...
云原生智能体基础设施
AgentField 的思路很清晰,就是把 AI 智能体当成传统的 API 和微服务来构建、运行和扩展。随着智能体数量的增加,如何管理它们的身份、权限和可观测性成了一个头疼的工程问题。 这个项目从第一天起就内置了身份感知、审计和监控功能,采用云原生的方式来解决智能体的落地难题。它更像是在为未来的多智...
DevoxxGenie:支持本地模型的 IDEA 辅助插件
这是一个为 IntelliJ IDEA 编写的 AI 辅助插件。它的看点在于对本地大模型运行时的良好支持,比如 Ollama、LMStudio 和 Llama.cpp,同时也兼容常规的云端模型。这让开发者可以在不将代码传到云端的情况下,进行代码审查和解释。 除了常规的聊天和代码生成功能,它最近还加入...