MoonShot与AMD合作:Kimi K2.6在AMD MI355X上实现3.2倍TTFT降低和7.7%吞吐提升
资讯来源: x作者: KimiDevs热度: 1172发布于 2026年7月22日
MoonShot与AMD合作,为Kimi K2.6在AMD Instinct MI355X上重新构建了推理栈,采用了调度感知的多层KV缓存优化,实现了p99 TTFT降低3.2倍,总token吞吐提升7.7%,且精度无损。
- Kimi K2.6
- KV cache
- AMD
- inference optimization
- MI355X
- agent workloads
评论
登录后即可评论
还没有评论,来发第一条吧。