高通开源的跨平台端侧 AI 运行时

这是由高通开源的一个跨平台 AI 运行时项目，旨在让最新的大语言模型（LLM）和视觉语言模型（VLM）能够在各种硬件上高效跑起来。它不仅支持 GPU 和 CPU，还特别强调了对 NPU 的支持。 它的野心挺大，覆盖了从 PC（Python/C++）、移动端（Android/iOS）到 Linux/IoT 设备的全面运行环境。更值得注意的是它对新模型的“零日（day-0）”支持承诺，目前已经兼容了 Qwen-3-VL、Gemma-3n 等一系列前沿模型。 对于需要在端侧设备上部署 AI 能力的开发者来说，这是一个重量级的 SDK。它由芯片大厂背书，试图在底层硬件和上层模型之间提供一个统一、高效的推理接口。