事件概述
在第十届科大讯飞全球1024开发者节上,董事长刘庆峰发布基于全国产算力训练的讯飞星火X2.6。该模型采用293B-A30B参数的MoE架构,上下文长度拓展至1M(100万token),首次基于全国产算力底座实现代码与智能体能力突破。
更受关注的是其「端云一体」工程范式:云端为293B总参数、30B激活的MoE模型,全程在国产算力上训练与推理;端侧为开源的4B小模型,运行于手机、电脑乃至学习机;中间路由层按任务复杂度决定在端侧还是云端执行。讯飞披露,可在设备端独立完成的任务占比提升至41.9%。
背景与解读
一、技术背景与演进脉络
大模型发展正从「云端集中推理」走向「端云协同」。早期语音输入需联网上传服务器识别,如今日常听写已在手机本地完成;大模型重走此路,只是业务体量更大。一个完整的Agent任务动辄几十轮调用、消耗数十万token,若完全依赖云端,算力成本与数据合规压力陡增。
国产算力长期受显存与带宽瓶颈制约,训推千亿参数模型难度更高。讯飞给出的工程答案是两条自研路径:训练侧「长程任务动态并行」使超长上下文训练效率提升约4倍;推理侧「自适应存算协同+四层KV Cache+分布式推理」使推理效率提升4.5倍。
二、核心驱动与底层机制
端云一体的本质是「算力经济学」重构:高频、低价值的调用下沉到端侧免费处理,云端只承接复杂任务,从而重写token消耗结构。路由层凭什么精准判断任务去向?依赖对任务长度、隐私敏感度与算力需求的实时评估。
对国产芯片而言,这意味着「可用」走向「实用」——不必与全球顶级单体芯片比峰值,而通过系统级协同(存算协同、KV Cache压缩、分布式推理)在受限硬件上跑通千亿级全栈训练与推理。
三、市场格局与产业链影响
星火X2.6的发布与同期深圳河套学院昇腾训练实践相互印证,共同说明国产AI芯片已能支撑千亿参数级模型的全栈训推。这将降低对海外算力与生态的依赖,也为一体机、AI手机、AIPC等端侧形态提供本土模型底座。
开发者生态层面,讯飞AI开发者大赛吸引全球15国351城5.2万支团队,43%来自非技术背景,显示大模型落地正从「极客专属」走向「全民构建」。
影响与趋势
短期看,端云一体将重塑企业大模型选型逻辑:谁能安全、稳定、可控地接管真实业务流程,谁就握有增长入场券。中期看,随DeepSeek等厂商持续压缩KV Cache与HBM需求,单位token成本将出现代际差异,「便宜到敢用」成为国产模型的核心竞争力。
关键观察变量:国产算力集群的规模化交付能力、端侧小模型与云端大模型的协同标准,以及行业大模型在ERP、法律、教育等垂直场景的渗透速度。
对产业参与者的启示
- 企业IT应评估「端云分流」架构,把高频低敏任务留在本地以控成本与合规风险。
- 芯片与硬件厂商可围绕存算协同、KV Cache压缩做差异化创新,而非单纯追逐峰值算力。
- 开发者应关注低代码/无代码的Agent构建工具,把业务Know-how快速封装为可调用能力。
本栏目内容为行业信息整理与技术观点分享,不构成任何投资建议。