PG电子官方网站PG电子官方网站

PG电子首页 > 关于PG电子 > 新闻中心 > 达摩院首席科学家孟建熠:模型创新为算力架构带来新机会

达摩院首席科学家孟建熠:模型创新为算力架构带来新机会

AI时代架构创新不断涌现,而DeepSeek的出现为整个AI市场带来了全新活力。近日,达摩院首席科学家、知合计算CEO孟建熠在2025玄铁RISC-V生态大会上表示,DeepSeek在一定程度上改变了行业对AI硬件架构的诉求,模型持续创新是所有算力架构的机会。对RISC-V发展而言,打造标杆产品是关键。

DeepSeek大模型从云走向端

孟建熠表示,DeepSeek问世之后,业界中产生了三方面不同观点的争论:一是开源架构与闭源架构谁更好(hǎo)。DeepSeek证(zhèng)明(míng)了(le)开源架构也有很好的表现。二是该用Dense模型还是MoE模型。前者是通用全能的模型,后者是更好的专家模型,二者各有所长。三是算力敏感与内存容量敏感之争。之前模型对算力的需求非常大,现在是容量很大,算力下降了,所以内存容量成为一项关键指标。

“DeepSeek在一定程度上改变了大家对AI硬件架构的诉求。”孟建熠认为。

模型深度优化为算力架构带来了全新可能。具体而言,一是MoE模型,以更低激活比达成更低的计算成本,并使模型的单机部署成为可能。二是稀疏计算与模型压缩技术,识别并跳过模型中不重要的(de)计(jì)算(suàn)节(jié)点(diǎn)(如(rú)权(quán)重接近零的部分节点),同时结合模型压信技术减少参数量。三是混合精度计算与量化技术,浮点计算转化为低精度计算(如INT8、FP8、FP16),同时保持模型精度。四是动态计算图优代技术,实时调整计算结构减少冗余计算。五是内存优化与数据流重构技术,减少内存访问延迟以及數掘传输开销。六是分布式计算与负载均衡技术,将大规模模(mó)型(xíng)推(tuī)理(lǐ)任(rèn)务(wu)拆(chāi)分(fēn)到(dào)多(duō)个(gè)计(jì)算(suàn)节(jié)点(diǎn),并(bìng)通(tōng)过(guò)负(fù)载(zài)均(jūn)衡(héng)技(jì)术(shù)优(yōu)化(huà)任(rèn)务(wu)分(fēn)配(pèi)。

DeepSeek的(de)出(chū)现(xiàn),推(tuī)动(dòng)行(xíng)业(yè)更(gèng)加(jiā)关注(zhù)底(dǐ)层(céng)硬(yìng)件(jiàn)能(néng)力(lì)的(de)适(shì)配(pèi)。“在(zài)很(hěn)长(zhǎng)一(yī)段(duàn)时(shí)间(jiān)里(lǐ),大(dà)家(jiā)都(dōu)喜欢喜欢‘大炮打蚊子’,当然这样是效率很高。但是今天我们有了一个新思路——可以用软硬件融合的视角来看待整个AI的发展。”孟建熠强调,算力、内存、互联之间原有的平衡发生了剧变,对于新的算力架构机会而言,大家再次进入同一起跑线。同时,开源大模型单机部署成为可能,进一步推动实际应用落地。

另一个趋势是大模型走向趋同,帮助算子收敛。值得关注的是,大模型的参数量和计算量巨大,但如今算子的个数在逐步收敛,主要以矩阵计算为中心,而且通过开源相互学习正在走向趋同。

从云端协同的层面,DeepSeek帮助大模型从云走向端,由此也带来了几个变化:一是从算力瓶颈变为存储的(de)带(dài)宽(kuān)和(hé)容(róng)量瓶颈,容量瓶颈成为全量大模型最关键的因素,比如671B大模型。二是降低计算资源需求,让几T、几十T和几百T的算力成为可能。三是实现单机部署的可能,能够让开源模型被更多私有数据优化,形成私有解决方案。四是支持边缘设备,使得高性能AI应用能够在边缘设备上顺利运行。“大模型在(zài)云端的话,实施成本比较高,只有有限的企业可能在部分领域去应用,而一旦到了端侧,就有大量的应用都会发展起来。”孟建熠表示。

模型创新是算力架构的机会

当(dāng)前(qián)算(suàn)力(lì)基(jī)础(chǔ)是(shì)以(yǐ)GPGPU(CUDA)为(wèi)代(dài)表(biǎo)的(de)传(chuán)统(tǒng)闭(bì)源(yuán)硬(yìng)件(jiàn)与(yǔ)生(shēng)态(tài),而(ér)DeepSeek、Llama、Grok等(děng)开(kāi)源(yuán)大(dà)模(mó)型(xíng)不(bù)断(duàn)涌(yǒng)现(xiàn),给(gěi)算(suàn)力(lì)架(jià)构(gòu)带(dài)来(lái)了(le)新(xīn)机(jī)会(huì)。当(dāng)然(rán),这(zhè)个(gè)机(jī)会(huì)对(duì)所(suǒ)有(yǒu)架(jià)构(gòu)都(dōu)有(yǒu)效(xiào),并(bìng)非(fēi)只(zhǐ)对(duì)RISC-V而(ér)言(yán)。如(rú)今(jīn),这(zhè)些(xiē)开(kāi)源(yuán)模(mó)型(xíng)正(zhèng)在(zài)吸(xī)引(yǐn)更(gèng)多(duō)算(suàn)力(lì)架(jià)构(gòu),包(bāo)括(kuò)X86、Arm这(zhè)样(yàng)的(de)传(chuán)统(tǒng)CPU架(jià)构(gòu),DSA、ASIC这(zhè)样(yàng)的(de)自(zì)研(yán)架(jià)构(gòu),以(yǐ)及(jí)以(yǐ)RISC-V为(wèi)代(dài)表(biǎo)的(de)开(kāi)源(yuán)架(jià)构(gòu)。“我(wǒ)们(men)都(dōu)在(zài)一(yī)个(gè)新(xīn)的(de)起(qǐ)点(diǎn)上(shàng),现(xiàn)在(zài)就(jiù)看(kàn)谁(shuí)能(néng)够(gòu)跑(pǎo)得(de)快(kuài)。”孟(mèng)建(jiàn)熠(yì)说(shuō)道(dào)。

作(zuò)为(wèi)三(sān)大(dà)主流(liú)指(zhǐ)令(lìng)集架(jià)构(gòu)中(zhōng)最(zuì)灵(líng)活(huó)、最(zuì)开(kāi)放(fàng)的(de)一(yī)个(gè),RISC-V适(shì)应(yīng)了(le)AI时(shí)代(dài)的(de)技(jì)术(shù)创(chuàng)新(xīn)节(jié)奏(zòu)。它(tā)在(zài)原(yuán)生(shēng)AI支(zhī)持(chí)上(shàng),拥(yōng)有(yǒu)开(kāi)源(yuán)与(yǔ)开(kāi)放(fàng)架(jià)构(gòu)、更(gèng)易(yì)实(shí)现(xiàn)的(de)软(ruǎn)硬(yìng)件(jiàn)协(xié)同(tóng)设(shè)计(jì)、更(gèng)优(yōu)的(de)能(néng)效(xiào)比(bǐ),以(yǐ)及(jí)覆(fù)盖(gài)全球(qiú)、不(bù)断(duàn)成(chéng)熟(shú)的(de)生(shēng)态(tài)。在(zài)孟(mèng)建(jiàn)熠(yì)看(kàn)来(lái),“RISC-V架(jià)构(gòu)+AI”是(shì)以(yǐ)AI原(yuán)生(shēng)成(chéng)为(wèi)架(jià)构(gòu)创(chuàng)新(xīn)的(de)最(zuì)终(zhōng)答(dá)案(àn)。随(suí)着(zhe)开(kāi)源(yuán)RISG-V架构的快速发展,重新自研架构已意义不大,以RISC-V为基础构建处理芯片是未来的主流。

RISC-V在AI领域具备很高的包容性,可以支持做CPU/DSA,也支持做GPU、多核产品或者近内存计算。“大家可以在硬件上不断创新,而生态上统一在RISC-V。尽管目前有不同的实践方案,但最终一定会走向生态统一。”孟建熠表示。

RISC-V如何真正走出来,是备受业界关注的一个问题。发展至今,RISC-V生(shēng)态(tài)已(yǐ)经(jīng)慢(màn)慢(màn)建(jiàn)立(lì)起(qǐ)来(lái),从(cóng)IoT等(děng)功(gōng)耗(hào)敏(mǐn)感(gǎn)型(xíng)场(chǎng)景(jǐng)向(xiàng)服(fú)务(wu)器(qì)等(děng)高(gāo)算(suàn)力(lì)场(chǎng)景(jǐng)成长,从纯通用计算向AI计算与通用计算融合成长,其中已经有了一些标杆性产品。

打造标杆产品是RISC-V成长路径的关键环节。孟建熠指出,RISC-V发展中的一个新趋势是从“小标杆产品”向“大标杆产品”成长,引领软件生态加速配适,吸引产业资源加大倾斜。

实(shí)际(jì)上(shàng),国(guó)内(nèi)外(wài)企(qǐ)业(yè)都(dōu)在(zài)尝(cháng)试(shì)打(dǎ)造(zào)RISC-V的(de)标(biāo)杆(gān)产(chǎn)品(pǐn)。比(bǐ)如,国内的达摩院2022年发布了基于玄铁C910 RISC-V核的4核产品,推动了包括安卓在内的软件厂商加入RISC-V生态。国际上,Tenstorrent、Vantana和SiFive等企业也推出一些标杆产品。其中,Tenstorrent最新的RISC-V核“Ascalon”采用了CPU中少见的8-Wide指令集解码器设计。孟建熠认为,下一代RISC-V标杆产品在服务器场景、AI PC场景、AI场景有着一些关键指标(biāo)。要(yào)真(zhēn)正(zhèng)从(cóng)产业中走出来,性价比很重要。

“标准建设是RISC-V下阶段发展的重中之重。”孟(mèng)建(jiàn)熠(yì)表(biǎo)示(shì),国(guó)内(nèi)产(chǎn)业(yè)需(xū)要(yào)在(zài)标(biāo)准(zhǔn)建(jiàn)设(shè)中(zhōng)尽(jǐn)快(kuài)形(xíng)成(chéng)合(hé)力(lì)。目(mù)前(qián),国(guó)际(jì)上(shàng)在(zài)指(zhǐ)令(lìng)架(jià)构(gòu)上(shàng)的(de)贡(gòng)献(xiàn)明(míng)显(xiǎn)高(gāo)于(yú)国(guó)内(nèi),国(guó)内(nèi)力(lì)量(liàng)的(de)参(cān)与(yǔ)度(dù)还(hái)不(bù)够(gòu)。国(guó)内(nèi)已(yǐ)经(jīng)建(jiàn)立(lì)多(duō)个(gè)组(zǔ)织(zhī),都在进行相关的指令集的制定工作,需要联合起来统一到一个平台工作。另外,技术路线上要考虑相对集中,以AI为目标先做一轮国内制定标准(zhǔn)的(de)尝(cháng)试(shì)。此外,计算原语是相类似,所以CPU、GPGPU、TPU在扩展上要形成一定的梯度,不能把指令集做成很多套并行大而全的扩展,这样生态无法形成。

返回列表

普惠AI,造就美好生活