池袋实验室发布Laguna S 2.1:118B MoE,百万上下文,可在桌面级DGX上运行
产品发布来源: x作者: sudoingX热度: 101发布于 2026年7月22日
Laguna S 2.1 是一个从头训练的118B MoE模型,每个token仅激活8.5B参数,支持100万上下文窗口。通过仅12层全注意力、FP8 KV缓存等技术,模型和缓存总共仅需约100GB,适合在128GB显存的DGX Spark上运行。权重开源。
- 开源
- Poolside
- DGX Spark
- 百万上下文
- Laguna S 2.1
- 118B MoE
评论
登录后即可评论
还没有评论,来发第一条吧。