12
10月
重点·来源 · github.com·2026/10/12
llama.cpp 更新：推理时计算图重分配回调
llama.cpp 发布新版本，为用户提供了可选的 ggml_backend_sched_realloc_callback 回调函数，以便在推理时缓冲区重新分配时接收通知。
12
10月
重点·来源 · github.com·2026/10/12
Ollama v0.40.3 发布：移除 Claude 和 Codex 警告
Ollama 发布了 v0.40.3 版本，修复了启动 Claude 和 Codex 时不再显示警告的问题，并暂停了后台模型升级。
12
10月
搞钱·来源 · www.producthunt.com·2026/10/12
Google 发布 EmbeddingGemma 2：开放轻量多模态嵌入模型
Google 在 Product Hunt 上推出了 EmbeddingGemma 2，这是一款开放、轻量级的多模态嵌入模型。
12
10月
重点·来源 · github.com·2026/10/12
Anthropic API 更新：Claude Haiku 5.5 上线并成为默认模型
Anthropic API 更新至 v2.1.293，新增了 Claude Haiku 5.5，并将其设为默认 Haiku 模型，支持 1M 上下文，并调整了价格。
12
10月
重点·来源 · github.com·2026/10/12
vLLM proto-v0.5.0 版本发布
vLLM 项目发布了 proto-v0.5.0 版本。
12
10月
趋势·来源 · www.reddit.com·2026/10/12
Decision 3.0 发布：开放多模态决策模型家族登顶排行榜
vLLM Semantic Router 团队发布了 Decision 3.0 系列开放多模态决策模型，涵盖 0.6B 至 27B 参数，支持文本、图像和视频，并位居 Jev Decision Index 排行榜榜首。
12
10月
重点·来源 · x.com·2026/10/12
OpenAI 推出 GPT-6.1 Sol API 等的 Ultrafast 模式
OpenAI 正为 GPT-6.1 Sol API、Codex 和 ChatGPT Work 推出 Ultrafast 模式，提供接近 Astra 智能且速度最高可达 Sol Standard 8 倍的性能。
12
10月
重点·来源 · x.com·2026/10/12
llama.cpp 支持通过 ggml RPC 后端在异构设备上分布式推理
llama.cpp 现已支持通过 ggml RPC 后端在异构设备上进行分布式推理，尽管目前是高级设置但未来有望更易用。
