8ドルのAIマシン:ESP32-S3で2890万パラメータのモデルが動作
Newsソース: x投稿者: BrianRoemmele人気度: 624公開日 2026年7月24日
開発者slvDevは、わずか8ドルのESP32-S3マイクロコントローラ上で2890万パラメータの言語モデルを動作させることに成功。完全オフラインで毎秒約9.5トークンの速度、低消費電力を実現。GoogleのPer-Layer Embeddings技術を利用して大部分のパラメータをフラッシュにマッピングし、チップの制約内に収めた。一貫性のある短編小説を生成でき、究極の低コストローカルAIの画期的成果。
- 本地AI
- 低成本AI
- 模型压缩
- ESP32-S3
- TinyStories
- 嵌入式
- Flash映射
コメント
コメントするにはログイン
まだコメントはありません。最初の 1 件を投稿しましょう。