月之暗面开源Kimi K3 2.8万亿参数模型

IT时代网7月28日消息，月之暗面于7月27日正式开源Kimi K3模型。官方同步发布了模型权重、技术报告，以及支撑Kimi K3训练的三项关键Infra技术：MoonEP、FlashKDA和AgentEnv。

Kimi K3是一个2.8万亿参数的大语言模型，基于KDA混合线性注意力机制和注意力残差技术构建，原生支持视觉理解，拥有100万token的上下文窗口。月之暗面表示，Kimi K3是首个达到2.8万亿参数规模的开源模型，过去12个月中有9个月，Kimi都保持着开源模型的规模上限。

从能力上看，Kimi K3具备很强的长程编码能力。在极少人工监督的情况下，它可以持续完成长时间工程任务，理解和处理大型代码库，并协调调用终端工具。同时，Kimi K3也擅长结合软件工程与视觉推理的任务，能够利用截图和视觉反馈来优化游戏开发、前端和CAD等场景。

月之暗面方面坦言，Kimi K3的整体表现仍落后于Claude Fable 5和GPT-5.6 Sol等最强的闭源模型，但在整套评测中已展现出前沿水平，稳定超过其他所有开源模型。

注：本文中包含AI辅助创作的内容。