Millwright：基于 Rust 的自托管 LLM 路由，轻松管理多模型调用

产品发布来源: hackernews作者: AndrewLiu96热度: 4发布于 2026年7月23日

Millwright 是一个用 Rust 编写的 LLM 路由工具，支持自托管，可灵活分发请求到不同模型后端，降低延迟。