维科网智能制造3月12日消息，国内AI芯片龙头云天励飞传来重磅消息：成功中标湛江市AI渗透支撑新质生产力基础设施建设项目。

据悉该项目中标金额达4.2亿元，将打造国内首个基于国产技术栈的AI推理千卡集群，为国产算力落地智能制造场景提供关键实践样本。

“国模国芯”协同新实践

与传统“训推一体”的智算中心不同，该集群精准聚焦推理任务，主打高效适配产业应用场景，为传统制造业AI化转型提供直接算力支撑。

项目将分三期推进，全程采用云天励飞自研国产AI推理加速卡，构建全栈自主可控的算力体系。

在技术架构上，集群确立了“优先优化Prefill、兼顾Decode”的核心路线，针对性解决大模型推理中高并发、高吞吐与低延迟的核心需求。

网络层面采用400G光网络构建统一高速互联架构，实现节点间高带宽、低延迟通信，相比传统异构网络，减少了协议转换开销，也简化了部署流程。

同时，针对大模型推理中KV Cache访问压力，系统在计算与存储互联层面进行协同优化，提升数据读取效率，确保长上下文推理场景下的性能稳定。

注：Prefill（预填）、Decode（解码）是大模型推理的两个核心阶段，Prefill负责理解长上下文并完成计算，Decode负责持续生成结果；KV Cache（键值缓存）用于存储推理过程中的中间状态，提升推理效率。

此外，该集群具备灵活扩展能力，可实现单节点数十卡到千卡级规模的平滑升级，适配不同规模的智能制造等行业应用需求。

据悉集群建成后，将搭载DeepSeek等国产大模型，深度适配政务、产业等多场景需求，探索“国模国芯”协同的生态样板，助力湛江打造“AI渗透之城”，为当地海洋经济、临港工业等优势产业的智能化升级提供低成本、便捷的AI算力支撑。

云天励飞的AI底蕴

拿下这一标杆项目，源自云天励飞在AI推理领域的长期深耕。

作为聚焦AI推理芯片研发与商业化的企业，云天励飞定位边缘AI领域，拥有大模型和AI芯片两大技术平台，构建了“算法分析—指令集定义—芯片架构设计—工具链开发”的完整研发流程。

业务布局上，公司已形成消费级、企业级、行业级三大场景覆盖，消费级业务进入华为、荣耀等终端品牌供应链，行业级业务覆盖公共安全、智慧交通等领域，服务国内外100多个城市，其“1+1+N自进化城市智能体”框架还被纳入中国信通院示范案例。

技术实力方面，公司已完成第四代NPU研发，正推进下一代高性能NPU迭代，自研AI芯片采用独特的“算力积木”架构，可灵活应对不同场景算力需求，支撑7B-671B参数大模型高效推理。

此次项目一期将部署X6000推理加速卡，二、三期则会搭载公司最新一代芯片产品，其中首款Prefill芯片 DeepVerse 100预计年内完成流片，并率先在湛江集群部署。

结语

从去年的DeepSeek，到今年的”养龙虾“爆火可以看出，AI技术已从技术探索向规模化应用快速转变，推理算力已成为决定产业落地速度的关键。

未来，云天励飞在湛江打造的国产AI推理千卡集群，可通过芯片、网络、系统的多层优化，在效率与成本控制上形成明显优势，为产业提供了一个更经济的算力方案，也将进一步推动AI技术在智能制造、政务服务等领域的渗透，助力湛江打造粤西人工智能创新高地。

而对于云天励飞自身而言，该项目也是其作为国产AI推理龙头算力规模化商用的新标杆，也将进一步强化其在推理芯片领域的市场地位，加速推动其愿景——“1001计划”的落地。

注：“1001 计划”由云天励飞董事长兼CEO 陈宁提出，目的是降低推理成本，目标：在2030年，实现百亿Token一分钱人民币。