8 美元的 AI 机器：ESP32-S3 成功运行 2890 万参数模型

资讯来源: x作者: BrianRoemmele热度: 624发布于 2026年7月24日

开发者 slvDev 成功将 28.9M 参数的语言模型部署到仅售 8 美元的 ESP32-S3 微控制器上，离线运行，速度约 9.5 tokens/s，功耗极低。通过 Per-Layer Embeddings 技术将大部分参数映射到 Flash 中，仅少量活跃参数留在 SRAM，实现了超过此前同芯片记录百倍的模型尺寸。该设备可生成连贯短故事，完全本地化，无需云端。