RTX 5090単体でQwen3.6-35B-A3Bが271tok/s、投機的デコードで543tok/s

Newsソース: hackernews投稿者: opwizardx人気度: 2公開日 2026年7月23日

NInferチームがRTX 5090単体でQwen3.6-35B-A3Bを実行し、投機的デコードありで543 tok/s、なしで271 tok/sという驚異的な性能を実証。