LLM API 请求压缩代理

这里有个小看点：如何在不改变大模型回答质量的前提下，硬核地削减 API 账单。llmtrim 是一个用 Rust 编写的本地代理工具，它会在你的请求发送给大模型之前，自动修剪提示词、历史记录和代码中的冗余 token。它不仅可以作为独立代理运行，还提供了 MCP 服务器和多种语言的嵌入式库。 这个方向最近挺热，因为随着 Agent 自动执行任务，上下文窗口经常被塞满无用信息。它通过纯粹的文本处理逻辑来压缩输入，不需要额外的模型调用。对于那些重度依赖 API 进行自动化编程或数据处理的开发者来说，这是一个非常实用的降本工具。