美国一边禁,DeepSeek一边开源(美国禁止什么) szthrk.cn

(文/赖家琪 编辑/吕栋)

10月20日,DeepSeek宣布,在陆续开源一系列大模型、TileLang编译工具以及推理算子库的基础上,将内部推理框架DeepInfer全面开源,并同步开放生产级Token编解码组件deepseek-recipe。

与直接面向用户的大模型相比,推理框架是AI产业链中相对不为公众所熟知的中间层。简单来说,模型决定AI“能做什么”,而推理框架则决定这些能力如何以更高效率、更低成本被大规模调用。

随着大模型用户和调用量不断增长,企业需要调度规模庞大的计算资源。推理框架承担着算力调度、模型运行和性能优化等工作,其效率会直接影响AI服务的响应速度、吞吐能力以及单位调用成本,同时也关系到数据中心的能源消耗。

DeepSeek此次开源的DeepInfer,正是针对这一环节展开优化。该框架集成了高性能算子和深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay(有界重放)以及结构化输出等功能,并同时兼容英伟达和华为昇腾平台。

目前,DeepSeek已经利用DeepInfer实现DeepSeek V4.1 Flash的大规模推理服务。按其规划,后续新模型的推理代码及相关优化也将持续在这一框架中更新。

此外,DeepSeek还开源了deepseek-recipe这一生产级Token编解码组件,使开发者能够获得与DeepSeek官方API更加一致的调用体验。

对于企业而言,这意味着开发者不必从零开始搭建一套面向大模型的推理框架,而是可以直接利用DeepSeek已经积累的大规模部署经验,对私有化部署或公有云服务进行进一步优化,在保证吞吐量和响应速度的同时压低算力投入。

DeepSeek此次将推理框架进一步开放,也意味着其开源路线正在从“模型开源”向更底层的AI基础设施延伸。模型、编译工具、算子库和推理框架逐步形成一套更完整的开源技术栈。

“为善与众行之,为巧与众能之。”DeepSeek表示,希望通过分享内部的部署经验,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠,“我们也将继续支持社区进行大规模部署优化,欢迎加入我们的开源行列”。

DeepSeek写道:“我们期待着在不远的未来,能够看到全球AI服务的范围与质量获得前所未有的扩展与提升,变得更加公平、透明、可信赖,进而实现在全社会范围内加快技术迭代、减少能源浪费。”

值得一提的是,就在DeepSeek宣布开源DeepInfer、实现真正的技术普惠的当天,美国政府进一步收紧了对DeepSeek的使用限制。

美国国土安全部20日在《联邦公报》网站发布通知,要求美国联邦民事政府机构停止使用DeepSeek相关产品,将其从信息技术系统中全面移除。

按照美国政府的通知要求,各联邦民事政府机构不仅需要删除DeepSeek的全部产品和相关技术成果,还须清理基于DeepSeek模型开发的第三方产品及服务,今后也不得采购DeepSeek的相关产品和服务。

对此,中国外交部发言人毛宁20日在例行记者会上表示,中方一贯反对泛化国家安全概念、将科技经贸问题政治化。我们将坚决维护中国企业的合法权益。