本文聚焦华为昇腾在AI领域的发展情况。介绍了昇腾在过去一年的发展方向和今年的生态投入计划,详细阐述了其在双轮驱动上的新进展,还分析了当前AI行业呈现的新范式,以及昇腾举措对顺应这些范式的重要意义。
在当今AI迅猛发展的时代,Tokens已然成为新的衡量标准。华为昇腾计算业务总裁张迪煊在昇腾人工智能伙伴峰会上透露:“2024年年初,中国日均Token消耗量为1千亿,而如今每日消耗量已飙升至十万亿级,在短短1年时间里实现了100倍的惊人增长。”
回顾过去一年,昇腾始终坚定地围绕硬件、算子、加速库、模型及应用这五大创新方向,携手众多伙伴共同奋进、发展。而在今年,昇腾更是将持续加大在生态方面的投入,从技术、政策、生态以及激励等多个维度,为合作伙伴提供全方位的有力支撑。
在此次昇腾人工智能伙伴峰会上,张迪煊公布了昇腾在双轮驱动上取得的诸多令人瞩目的新进展。
在硬件使能层面,CANN深度开放。它从上层图引擎一直延伸到底层运行时,从融合算子拓展到通信算法,全面释放硬件的极致性能,有力地支持伙伴及客户开展自主创新。
推理引擎MindIE也在持续升级。vLLM开源社区与昇腾成功对接,这使得开发者能够基于昇腾使用vLLM的全量功能。而MindIE Turbo推理加速插件,更为vLLM提供了高阶优化,可使吞吐提升20%以上,实现了性能的极致发挥。
鹏城实验室基于昇思发布的GRPO强化学习训练框架,率先突破了大模型强化学习全栈技术壁垒。昇思能持续演进,离不开万千开发者的积极贡献。
刚刚发布的昇腾自动驾驶SDK,聚合了昇腾在自动驾驶数据闭环、模型“天”级迭代上的技术创新,使模型性能提升30%以上。该套件的模型和算子全量开源在Gitee上,并提供丰富的参考设计,充分体现了“技术创新 + 生态开放”双轮驱动为伙伴和客户在智驾训练上带来的巨大价值。
显然,这种双轮驱动模式,是AI发展和应用的最优解决方案。昇腾能够聚焦于自身擅长的产品和技术领域,而不同行业、处于不同发展阶段的伙伴则可以将自身对行业的洞察和积累与昇腾的技术创新相结合,形成差异化优势,共同在AI时代的浪潮中奋勇前行。
这正是“与时代共昇腾”的真实内涵。
这段时间,笔者在行业内进行了大量采访,深刻感受到进入2025年,AI正在呈现出全新的发展范式。
新范式之一,是从“训练为主”转变为“训推结合”,推理时代已然来临。这对推理算力以及性能和收益提出了新的要求。张迪煊指出,每次长思考的逻辑推理,都会带来额外20倍的token生成,进而产生百倍的推理算力需求。
新范式之二,是技术平权,AI的行业落地门槛大幅降低。正如张迪煊所说,AI自主创新的大幕已经拉开,高质量模型 + 后训练范式极大地提升了行业模型效果,降低了行业落地的门槛,推动2025年进入大模型应用元年。
新范式之三,是中国自主AI生态迎来了难得的发展机遇。中国在大模型领域与全球处于并驾齐驱的水平,而开源特性更是大幅降低了AI落地行业的门槛,吸引了越来越多的企业、高校、科研机构和开发者加入,人工智能产业在中国焕发出日益旺盛的创新活力。
站在人工智能产业范式革命的角度来看,昇腾在全栈技术创新与生态开放协同上的一系列举措,精准地把握了AI范式革命的脉搏。通过技术创新,昇腾实现了AI算力释放在性能和收益上的最佳平衡;通过生态开放,推动了技术平权,让AI能够加速融入千行万业。
“与时代 共昇腾!”,这不仅是华为提出的响亮口号,更是昇腾生态伙伴以及千行万业加速拥抱AI的时代最强音。
本文介绍了华为昇腾在AI领域的发展成果,包括Token消耗量的增长、过去一年的发展方向、今年的生态投入计划以及双轮驱动的新进展。同时分析了AI行业的新范式,指出昇腾的举措抓准了AI范式革命的脉搏,推动AI在性能、收益和落地等方面发展,“与时代共昇腾”体现了昇腾及相关各方拥抱AI的决心。
原创文章,作者:Isaiah,如若转载,请注明出处:https://www.qihaozhang.com/archives/8240.html