单卡 RTX 5090 跑 Qwen3.6-35B-A3B：271 tok/s，投机采样翻倍

资讯来源: hackernews作者: opwizardx热度: 2发布于 2026年7月23日

NInfer 团队展示了在单张 RTX 5090 上使用投机解码运行 Qwen3.6-35B-A3B 模型，达到 271 tok/s（投机解码 543 tok/s）的惊人性能。