今年以来多个大模型自发布之后,国产算力迅速适配。这份快速响应背后存在哪些问题?在大模型与算力平台的“双向奔赴”中又面临哪些机遇和挑战?
不久前,一款匿名模型在全球多模型聚合平台OpenRouter上进行大规模测试,迅速成为当周最受欢迎的模型。而近日谜底揭晓,它正是智谱最新的大模型。值得关注的是测试期间的请求流量全部由国产芯片提供算力支持。在此之前,月之暗面发布Kimi K3大模型并宣布开源,该模型总参数量达2.8万亿,对算力基础设施提出了极高要求。而不到一天之内的时间,多家国产算力平台就宣布已完成适配。
一家国产算力企业相关负责人向记者表示,面临大模型快速迭代升级,除了时间节奏挑战,更核心的难题来自参数量和模型的不断演变。
![]()
如何解决挑战?负责人告诉记者,需要不断扩大芯片的显存容量、提高Token的吞吐速度。但产业迭代中最大的困难,是年与月之间的巨大的时间差。芯片的产业周期往往是以年为单位来计算的。而大模型几乎每月都会推出新版本,新的模型结构、算子与精度要求,不断对算力芯片提出新考验。
“十五五”规划明确提出加强算力设施支撑,加快培育自主可控、协同运行的软硬件生态。随着智能体快速兴起、词元经济成形、各行各业加速智能化转型,国产算力迎来跨越发展周期的结构性机遇。
![]()
国家数研院数字科技和基础设施研究部副主任 陈东:我认为最重要的是带来了数据主权与部署灵活性的优势。整条国产算力链的价值不仅是“更便宜”,还有就是“更可控”,成本、数据、供应链三重可控,这才是国产算力链真正的护城河。
国产大模型与算力平台双向奔赴带来新机遇
在下游应用端,国产大模型与国产算力厂商积极合作,需求量不断增加,这样的“双向奔赴”带来哪些新机遇?
一家大模型企业负责人向记者表示,自去年下半年至今,大模型在智能体调用、内容创作等场景的应用越来越多。随着模型能力不断提升,市场对国产算力的需求也同步走高。
稀宇科技开放平台首席架构师 冯雯:我们的模型在正式上线之前,就已经在积极地和国内9家国产算力的厂商去做对应的适配。当下已经正在做我们自己的国产算力集群的搭建,预计会在这个季度完成我们国产算力集群的建设。
![]()
专家认为,国产大模型和国产算力平台的“双向奔赴”,能让模型企业、芯片企业和制造厂商更充分地对接需求,推动软硬件一起迭代成熟。
清华大学计算机科学与技术系教授 陈文光:模型和算力之间其实是一个复杂的互动关系。模型的一些设计甚至影响芯片的设计,或者反过来说芯片有什么样的特点,其实模型可能可以去采用。这样的结合以后,就让模型更加高效。因为算力是提供效率的,模型是提供能力的,那么它其实就可以去触发各行各业。
评论 0
还没有添加任何评论,快去APP中抢沙发吧!