llama.cpp 更新：推理时计算图重分配回调

核心摘要

llama.cpp 发布新版本，为用户提供了可选的 ggml_backend_sched_realloc_callback 回调函数，以便在推理时缓冲区重新分配时接收通知。

机会与影响

开发者现在可以更精细地监控和管理 llama.cpp 在推理过程中的内存分配情况，优化性能。

来源信息

该条资讯来自 github.com。标签：重点。相关平台：github。