重点

Ollama v0.30.0架构更新,直接支持llama.cpp和GGUF

Ollama的v0.30.0版本改变了架构,直接支持llama.cpp并兼容GGUF文件格式,同时使用MLX加速Apple设备上的模型推理。

潜龙编辑部
发布于 · 2026/05/29 09:00
3 分钟·来源: github.com
Ollama v0.30.0架构更新,直接支持llama.cpp和GGUF
illustration · QianLong editorial

核心摘要

Ollama的v0.30.0版本改变了架构,直接支持llama.cpp并兼容GGUF文件格式,同时使用MLX加速Apple设备上的模型推理。

机会与影响

依赖Ollama的开发者将受益于更优化的模型推理性能和更广泛的模型兼容性,尤其是在Apple硬件上。

来源信息

该条资讯来自 github.com。标签:重点。相关平台:github。

原文