DeepSeek极限吞吐超8000 tokens/s 倒逼AI技术更高效和普惠

封面区块链 该文章已上链 >

封面新闻 2025-03-26 23:23 174652

封面新闻记者 孟梅 欧阳宏宇

DeepSeek在全球爆火出圈几个月后,最近不少用户发现“服务器繁忙,请稍后再试”的提示越来越少了。这背后是何种技术发展提升了算力供给,进一步推高了AI热潮?

3月26日,在甘肃庆阳举行的异构智算产业生态联盟大会上,多位来自AI产业的专家、业内人士就算力供给分享了观点。专家表示,异构智算平台为智算中心输出融合、稳定和高效的算力,加速各行业实现数字化、智能化转型升级。其中,3000并发下,DeepSeek总吞吐量超8000 tokens/s,提升了用户体验。

DeepSeek掀起的AI应用革命与算力瓶颈突破,也让AI算力供给受到了前所未有的关注。

全国政协委员,中科院计算所研究员张云泉表示,“DeepSeek的诞生标志着在AI领域出现了新的技术突破,尤其是在低算力训练和高效率模型优化方面,这将推动AI技术向更高效和普惠的方向发展。”他认为这一突破,促使全球市场重新评估大模型发展的成本曲线,推动国内芯片、云计算等基础设施加速升级。

谈及数据中心建设,燧弘华创执行总裁唐锋表示,企业应围绕东数西算战略,聚焦人工智能与算力产业,打造绿色低碳算力基础设施,构建高效能、可持续的绿色算力大底座。

AI大模型的热潮催生了广泛的AI算力需求,而算力的建设需政府引领与龙头企业协同推进。

在新技术应用方面,据联想中国基础设施业务群战略总监黄山介绍,AI基础设施提供商已能凭借异构智算平台应对智算挑战,以液冷等技术持续解决能效和能耗难题,为千行万业输送真正 “好用” 的算力,从而有力推动智能化转型和产业升级。除此之外,还涵盖了服务器、存储、数据网络、软件及超融合、支持运维服务等在内的全方位基础设施解决方案。

英特尔高性能计算行业总监张东升则表示:“超智融合技术作为近年来全球计算领域热点话题,其核心思想是将超算与智算的能力相结合,以满足在人工智能高速发展背景下的各行业多元算力需求。”

评论 16

  • 江肖肖 2025-03-27 发表于四川

    AI算力大爆发,我们离科幻电影里的智能世界还有多远?

  • 毕业生 2025-03-27 发表于四川

    稳定高效,这是用户最想要的吧

  • 胯下承欢 2025-03-27 发表于四川

    倒逼技术进步,竞争才是发展的动力

查看更多

去APP中参与热议吧