DeepSeek开源内部推理框架DeepInfer

IT时代网10月20日消息，DeepSeek宣布将内部推理框架DeepInfer全面开源，开源仓库已在GitHub上线，未来新模型的推理代码及后续优化也将持续在其中更新。

官方介绍，训练使模型学有所成，推理则让模型为人所用。面对海量用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定AI服务的算力成本与电力消耗。

DeepInfer推理框架集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。基于该框架，DeepSeek已实现V4.1 Flash高吞吐、低延迟的大规模推理服务。

同步开源的还有生产级Token编解码组件deepseek-recipe，与DeepSeek官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。

DeepSeek表示，希望借此帮助开发者与企业组织优化大规模推理的吞吐与延迟，高效构建私有化及公有云部署，降低算力成本、减少能源消耗，并将继续支持社区进行大规模部署优化。

编辑：林一舟