mlx-serve: 苹果芯片的无 Python 推理服务

这是一个专门为 Apple Silicon（M系列芯片）打造的本地大模型推理服务器。最引人注目的是它的技术栈：完全使用 Zig 语言编写，彻底抛弃了 Python 依赖。 它基于苹果的 MLX 框架，对外提供兼容 OpenAI 和 Anthropic 格式的 API。除了底层的推理服务，它还附带了一个 macOS 原生应用，支持聊天、Agent 模式和工具调用。对于 Mac 用户来说，摆脱复杂的 Python 环境配置，直接运行一个高性能、低内存占用的本地模型服务，是一个非常实在的需求。