Basetenエンジニアが48時間でKimi K3を徹底解析:22,580個のGPT-2からKDAへの7年の進化
Newsソース: x投稿者: huxlab人気度: 2330公開日 2026年7月28日
Basetenのエンジニアが48時間かけてKimi K3のコードを解析。内部に22,580個の2019年版GPT-2が含まれていることを発見し、GPT-2から線形注意、DeltaNet、ゲート付きDeltaNet、そしてKimi独自のKDAへの7年間の進化を解明。オープンソースの透明性がクローズドソースに勝る点を強調。
- Kimi K3
- GPT-2
- DeltaNet
- 开源分析
- 模型架构演进
コメント
コメントするにはログイン
まだコメントはありません。最初の 1 件を投稿しましょう。