Ask HN: HotPin – 24GB RAMで120B MoEモデルを無損失推論（CPU、50行コード）
Launchソース: hackernews投稿者: LozzKappa人気度: 2公開日 2026年7月26日
HotPinプロジェクトは、わずか24GBのRAMとCPUで120BパラメータのMoEモデルを無損失で推論する方法を示し、エッジ展開に新たな道を開く。
- 开源
- 推理优化
- MoE
- HotPin
- CPU
コメント
コメントするにはログイン
まだコメントはありません。最初の 1 件を投稿しましょう。