眾所周知，在如今的PC市場(chǎng)中，“AI PC”已經(jīng)成為了最受關(guān)注的話題之一。

那么什么是AI PC？通俗來(lái)說(shuō)，就是具備AI加速運(yùn)算能力，可以不依賴(lài)云端算力、在本地執(zhí)行AI計(jì)算的個(gè)人電腦。

體現(xiàn)在具體的實(shí)際功能上，這些AI PC通常都具備基于AI的影像和音頻優(yōu)化功能。比如可以自動(dòng)改善攝像頭和麥克風(fēng)的清晰度、在視頻會(huì)議中模糊背景、消除噪音。除此之外，一些算力更高的產(chǎn)品還可以基于AI來(lái)實(shí)現(xiàn)本地視頻超分、照片快速處理，以及圖文內(nèi)容的自動(dòng)生成等等。

當(dāng)然，這些都還只是AI PC在表面上的功能表現(xiàn)。那么如果深入硬件架構(gòu)的層面去觀察，AI PC與普通電腦相比又有著怎樣的差異呢？

• NPU的優(yōu)勢(shì)到底是什么？它幾乎可說(shuō)是AI PC的核心

縱觀目前已知的那些AI PC，不難發(fā)現(xiàn)它們?cè)谟布用娑加幸粋€(gè)共通點(diǎn)，那就是普遍具備“NPU”、這個(gè)此前在PC中很少見(jiàn)的計(jì)算單元。

何謂NPU，簡(jiǎn)單來(lái)說(shuō)，它是一種專(zhuān)為標(biāo)量、向量和張量運(yùn)算而設(shè)計(jì)，具備仿生神經(jīng)網(wǎng)絡(luò)架構(gòu)的特殊處理器。從架構(gòu)層面來(lái)說(shuō)，NPU就是專(zhuān)為AI計(jì)算而生的。

但這是否意味著，沒(méi)有NPU的電腦就不具備運(yùn)算AI代碼、執(zhí)行AI應(yīng)用的能力呢？并非如此。實(shí)際上，早在AI PC這個(gè)概念出現(xiàn)之前，很多主流的CPU和GPU架構(gòu)里就已經(jīng)加入了可以提高AI計(jì)算效率的指令集，甚至是直接集成了屬于它們自己的AI加速單元。不過(guò)，這些CPU和GPU的架構(gòu)畢竟不是專(zhuān)門(mén)為了獨(dú)立運(yùn)行AI應(yīng)用而設(shè)計(jì)。

而專(zhuān)門(mén)的NPU在AI應(yīng)用的運(yùn)行效率上會(huì)高很多。比如，一個(gè)N*N矩陣和另一個(gè)N*N矩陣相乘，需要讀取2N2個(gè)值、并進(jìn)行2N3次運(yùn)算。對(duì)于帶有張量加速器的NPU來(lái)說(shuō)，它在這個(gè)過(guò)程中的內(nèi)存讀寫(xiě)次數(shù)，只需要總運(yùn)算次數(shù)的1/N。換句話說(shuō)，相比于傳統(tǒng)的CPU和GPU，NPU在實(shí)際使用中所需的內(nèi)存帶寬要小得多，而且功耗也會(huì)低得多。

況且對(duì)于PC來(lái)說(shuō)，它們?cè)谌粘Ｊ褂脮r(shí)，CPU和GPU的算力必然會(huì)主要被用于處理常規(guī)應(yīng)用和游戲的需求。如果分出一部分來(lái)進(jìn)行AI運(yùn)算，不僅能效差、而且還會(huì)影響到“通用性能”。

• 大家都有在做NPU，但高通的規(guī)格卻格外“出挑”

明白了“傳統(tǒng)處理器”的劣勢(shì)，就可以來(lái)聊聊如今在PC行業(yè)中，關(guān)于NPU的一些具體情況了。

首先，盡管我們前面講到了NPU相比CPU、GPU，會(huì)有著顯著的效率優(yōu)勢(shì)。但不同品牌、不同型號(hào)的NPU到了具體使用場(chǎng)景下，還是會(huì)有著很大的不同。

一方面，這源自于不同品牌處理器里，NPU算力上客觀存在的巨大差距。比如我們大家都知道，現(xiàn)在市面上共有五款已量產(chǎn)的PC NPU方案，它們分別是算力7TOPs的Intel 3700VP（13代酷睿移動(dòng)版的可選外掛NPU）、算力10TOPs的AMD 7000系集成APU、同樣10TOPs的Intel Core Ultra處理器集成NPU、16TOPs的AMD 8000系集成APU，以及算力45TOPs的高通驍龍X Elite集成NPU方案。

很顯然，相比于前幾款10TOPs上下的NPU方案，驍龍X Elite的Hexagon NPU首先在基本的算力上就已經(jīng)高出了好幾倍。

另一方面，與其他NPU方案相比，驍龍X Elite集成的NPU還有一個(gè)很重要的優(yōu)勢(shì)，那就是它擁有深厚得多的技術(shù)積淀。

要知道，無(wú)論Intel還是AMD的NPU架構(gòu)，最遠(yuǎn)也只能追溯到三四年前的服務(wù)器計(jì)算卡或AI“加速棒”。但是高通不同，早在2007年，他們就推出了首款搭載Hexagon DSP的驍龍平臺(tái)。而這款帶有標(biāo)量計(jì)算架構(gòu)的DSP，就正是后來(lái)高通NPU的基礎(chǔ)。

此后在2013年，高通發(fā)布了業(yè)內(nèi)首款獨(dú)立NPU處理器，并在2015年的驍龍820上首度將AI引擎集成進(jìn)了移動(dòng)平臺(tái)。之后到了2018年，驍龍855首次加入張量加速器NPU設(shè)計(jì)。而到了2019年的驍龍865上，它的端側(cè)AI功能其實(shí)就已經(jīng)很全了，包括AI成像、AI視頻、AI語(yǔ)音和始終在線感知等功能，在那個(gè)時(shí)候其實(shí)就都已經(jīng)實(shí)現(xiàn)。

到最近這兩年，第二代驍龍8和第三代驍龍8里的Hexagon NPU更是引入了眾多技術(shù)提升。其中包括專(zhuān)用的電源傳輸軌道、專(zhuān)門(mén)針對(duì)神經(jīng)網(wǎng)絡(luò)處理的微切片架構(gòu)、將張量加速吞吐量提升了一倍的INT4運(yùn)算支持，以及大幅加速生成式AI運(yùn)算速度的Transformer網(wǎng)絡(luò)加速能力等等。

• 優(yōu)勢(shì)巨大的軟件適配，驍龍本有望重新定義AI PC

當(dāng)然，光有算力、架構(gòu)上的優(yōu)勢(shì)，并不一定就意味著實(shí)際使用里的體驗(yàn)差異。但高通作為移動(dòng)平臺(tái)NPU的先行者，本身在軟件適配、AI計(jì)算解決方案上的積淀，實(shí)際上更是目前其他競(jìng)爭(zhēng)對(duì)手所難以企及的。

比如，針對(duì)如今生成式AI大模型流行的趨勢(shì)，高通很早就做出了應(yīng)對(duì)。他們不僅在NPU本身的設(shè)計(jì)上進(jìn)行架構(gòu)適配，而且為旗下的旗艦移動(dòng)平臺(tái)設(shè)計(jì)了等效頻率高達(dá)8533MHz、甚至9600MHz的內(nèi)存控制器。以驍龍X Elite為例，它的8通道LPDDR5X內(nèi)存帶寬高達(dá)136.5GB/s，顯著超過(guò)目前其他的筆記本電腦平臺(tái)CPU產(chǎn)品，因此也更有利于對(duì)內(nèi)存帶寬依賴(lài)度很高的生成式AI創(chuàng)作。

又比如說(shuō)，雖然前面有提及強(qiáng)調(diào)高通NPU的領(lǐng)先。但實(shí)際上，高通在自研的CPU和GPU架構(gòu)中都加入了AI計(jì)算能力，而且可以通過(guò)旗下的高通AI軟件棧，很輕松地幫助開(kāi)發(fā)者實(shí)現(xiàn)跨處理器的異構(gòu)AI運(yùn)算部署。讓CPU、GPU、NPU同時(shí)處理一個(gè)AI任務(wù)中的不同代碼部分，以實(shí)現(xiàn)更高的效率和更短的響應(yīng)時(shí)間。或者是讓CPU、GPU、NPU在同一時(shí)間，分別處理不同類(lèi)型的AI應(yīng)用。

除此之外，就在近日，高通方面也正式發(fā)布了《通過(guò)NPU和異構(gòu)計(jì)算開(kāi)啟終端側(cè)生成式AI》技術(shù)白皮書(shū)。其中高通不僅詳述了自家NPU技術(shù)的歷史，而且專(zhuān)門(mén)針對(duì)AI異構(gòu)計(jì)算、跨設(shè)備AI應(yīng)用移植等做出了闡釋。

與此同時(shí)，他們也再次高調(diào)宣傳了自家的“AI Hub”開(kāi)發(fā)者網(wǎng)站。通過(guò)它，無(wú)論是手機(jī)、PC、汽車(chē)中控，還是XR設(shè)備的開(kāi)發(fā)者，都能更簡(jiǎn)單地實(shí)現(xiàn)AI應(yīng)用的開(kāi)發(fā)和性能優(yōu)化，以及跨平臺(tái)的適配，從而大幅加速端側(cè)AI應(yīng)用落地的速度。

值得關(guān)注的是，根據(jù)目前的已知信息顯示，驍龍X Elite不僅很可能是目前唯一滿足下一代Windows操作系統(tǒng)大版本更新中對(duì)于NPU性能需求的PC平臺(tái)，而且它還已經(jīng)得到了包括Adobe“全家桶”在內(nèi)的一系列專(zhuān)業(yè)生產(chǎn)力軟件支持。從這一點(diǎn)來(lái)說(shuō)，雖然搭載它的終端還沒(méi)有正式上市，但其很可能即將成為AI PC在人工智能交互和生成式AI專(zhuān)業(yè)生產(chǎn)力方面的全新標(biāo)桿。

在生成式AI時(shí)代，為什么不能僅僅只依賴(lài)NPU

微軟“砍刀部”被迫出手，Windows融合安卓應(yīng)用夢(mèng)碎