AI 情报
AI 圈帖子、新闻与发布动态
最新动态
Kimi K3 已在 Ollama 云上线,用户可通过 `ollama launch claude --model kimi-k3:cloud` 在 Claude Code 中使用。目前需要 Pro 或 Max 订阅,并消耗额外信用额度,团队正快速扩容。
- Claude Code
- Ollama
- Kimi K3
有观点认为所有主流大语言模型都带有自由左翼倾向,连标榜自由的 Grok 也常常如此。
- LLM
- Grok
- bias
通过Fireworks AI,开发者可以轻松部署和微调2.8T参数的Kimi K3模型。
- fine-tune
- Fireworks AI
- Kimi K3
- deploy
Baseten的Model API为Kimi K3提供快速可靠的访问。
- API
- Baseten
- Kimi K3
Kimi K3在vLLM推理框架上达到了每秒370个token的生成速度,展示了其高效性能。
- vLLM
- Performance
- Kimi K3
Modal为Kimi K3训练了自定义DFlash投机解码器,在保持质量的同时提升推理速度。
- inference acceleration
- Kimi K3
- Modal
- speculator
Anthropic一位前员工爆料称公司为了追求性能而降低了AI模型的安全防护,引发了关于AI安全与商业平衡的争议。
- Anthropic
- AI safety
- safeguards
- whistleblower
Kimi K3的技术报告发布了,详细介绍了模型架构、训练方法和性能评估。
- Kimi K3
- technical report
Kimi K3团队开发了MiniTriton,一个轻量级的Triton风格编译器,用于高效编译深度学习模型。
- compiler
- Kimi K3
- miniTriton
MoonEP旨在提升大规模MoE训练和推理中的专家并行通信效率,减少通信开销。
- open-source
- MoE
- MoonEP
- communication library