作為新一輪科技革命的重要代表以及所有科技領(lǐng)域中日益強(qiáng)大的一股力量，人工智能正被越來越多的人所談?wù)?，也正成為全球?jīng)濟(jì)發(fā)展新引擎。兩會期間，政府工作報告提出，加強(qiáng)新一代人工智能研發(fā)應(yīng)用，發(fā)展智能產(chǎn)業(yè)，拓展智能生活。這是繼2017年首次被寫入之后，“人工智能”作為一個科技詞匯第二次出現(xiàn)在政府工作報告里;此前普華永道曾預(yù)測，至2030年，人工智能將為世界經(jīng)濟(jì)貢獻(xiàn)15.7萬億美元，這個數(shù)字將超過中國與印度兩國目前的經(jīng)濟(jì)總量之和。
技術(shù)層面，目前人工智能正向終端側(cè)邁進(jìn)，在此基礎(chǔ)上，異構(gòu)解決方案與軟件的緊密結(jié)合也正成為技術(shù)發(fā)展的主流。Qualcomm作為低功耗、高性能應(yīng)用處理技術(shù)領(lǐng)域的領(lǐng)軍企業(yè)，提供了面向人工智能的最大商用終端側(cè)移動平臺之一。公司已擴(kuò)展產(chǎn)品方案，支持采用其平臺的合作伙伴生態(tài)系統(tǒng)，利用人工智能去提供令人驚嘆的用戶體驗。鑒于此，Qualcomm在MWC期間宣布推出人工智能引擎AI Engine。該人工智能引擎AI Engine由多個硬件與軟件組成，能夠加速終端側(cè)人工智能用戶體驗在部分Qualcomm驍龍移動平臺上的實現(xiàn)。
人工智能為什么向終端側(cè)邁進(jìn)?——傳統(tǒng)而言，很多對神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理都是在云端或者基于服務(wù)器完成。而過去幾年，隨著移動處理器性能的不斷提升，對數(shù)據(jù)隱私保護(hù)的更高要求，以及連接技術(shù)的不斷演進(jìn)所能帶來的完整可靠性，整個模式有了很大變化，很多人工智能的推理工作，比如模式匹配、建模檢測、分類、識別、檢測等逐漸從云端轉(zhuǎn)移到了終端側(cè)，這對于保護(hù)數(shù)據(jù)隱私、提升性能和整體可靠性有極大裨益。也就是說，未來，終端將成為人工智能的重要入口，包括智能手機(jī)、筆記本電腦、頭顯設(shè)備、物聯(lián)網(wǎng)終端和汽車系統(tǒng)等。
Qualcomm人工智能引擎AI Engine“軟硬兼施”
Qualcomm人工智能引擎AI Engine即為在驍龍移動平臺上加速終端側(cè)人工智能用戶體驗實現(xiàn)的硬件與軟件組件的集合。其中關(guān)鍵組件包括——硬件：Hexagon向量處理器、Adreno GPU和Kryo CPU的人工智能優(yōu)化組合;以及一套軟件工具和庫：驍龍神經(jīng)處理SDK、Android NN和Hexagon NN;上述所有共同支持開發(fā)者與OEM廠商，輕松實現(xiàn)和加速驍龍內(nèi)核上的人工智能處理。
為了將人工智能推理從云端遷移到移動終端上，Qualcomm充分利用了多核異構(gòu)計算核心Hexagon向量處理器、Adreno GPU視覺處理子系統(tǒng)和Kryo CPU的驍龍可編程架構(gòu)。事實上，高效運行的終端側(cè)人工智能是一個涉及多方面的問題，僅靠單顆人工智能內(nèi)核無法以最佳方式解決。與之相反的是，因為不同人工智能應(yīng)用場景的功耗和對運算資源的需求各不相同，所以需要可編程的異構(gòu)計算。Qualcomm的異構(gòu)計算方案為開發(fā)者提供了更廣泛的選擇，面向不同類型的功能、基于不同類型的數(shù)據(jù)、在不同的計算精度水平上，可支持大量卷積或循環(huán)神經(jīng)網(wǎng)絡(luò)。異構(gòu)計算核心(如驍龍的CPU、GPU和向量處理器)具備了開發(fā)者、OEM廠商以及獨立軟件開發(fā)商(ISV)所需的諸多優(yōu)勢，讓他們可通過精確控制或Qualcomm開發(fā)的預(yù)優(yōu)化人工智能庫加速其應(yīng)用實現(xiàn)。
硬件：多核異構(gòu)計算核心
● HEXAGON向量處理器
Qualcomm Hexagon向量處理器是向量處理器子系統(tǒng)中的加速引擎，支持處理8位定點運算。相較于GPU或CPU，涉及向量數(shù)學(xué)的應(yīng)用工作負(fù)載通常更適合在驍龍的向量處理器上運行。
● ADRENO GPU
具有龐大的并行數(shù)據(jù)集、需要大量的向量數(shù)學(xué)，尤其是對浮點精度有要求的應(yīng)用工作負(fù)載，都非常適宜在驍龍的Adreno GPU上運行。通過最新的Adreno GPU對16位浮點精度的人工智能工作負(fù)載進(jìn)行的優(yōu)化，可提供更佳的能效表現(xiàn)，使其成為如計算機(jī)視覺物體分類、視頻風(fēng)格轉(zhuǎn)換、場景檢測和游戲等人工智能應(yīng)用的理想選擇。
● KRYO CPU
神經(jīng)網(wǎng)絡(luò)模型通常以32位浮點(高精度)在云端完成訓(xùn)練。它也可以在終端側(cè)的CPU上實現(xiàn)類似運行，但其代價太大，需要終端在性能和功耗上作出一些犧牲。驍龍845中在Kryo CPU上優(yōu)化了對8位定點精度的支持，幫助支持包含較大內(nèi)核、相對較少向量處理、非規(guī)則性數(shù)據(jù)結(jié)構(gòu)和/或復(fù)雜流程控制的應(yīng)用。
總的來說，在驍龍平臺上加速人工智能最高效的解決方案是將人工智能工作負(fù)載分配到CPU、GPU和向量處理器上。這為開發(fā)者提供了實現(xiàn)人工智能用戶體驗的多種靈活選擇。
軟件
AI Engine的第二個組成部分是軟件和工具。在處理AI應(yīng)用時，軟件和工具無疑更加重要。硬件是一個加速的平臺，而在軟件層面開發(fā)者能夠?qū)崿F(xiàn)大量的創(chuàng)新，打造最新的AI應(yīng)用。Qualcomm人工智能引擎AI Engine的核心軟件構(gòu)架包括：驍龍神經(jīng)處理SDK、隨Google Android Oreo發(fā)布的Android NN API以及Hexagon Neutral Network(NN)庫。其中，驍龍神經(jīng)處理引擎可幫助開發(fā)者節(jié)省在驍龍終端上優(yōu)化已訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)運行的性能的時間和工作量，Hexagon NN庫讓開發(fā)者可以直接將人工智能算法在Hexagon向量處理器上運行。為基礎(chǔ)性的機(jī)器學(xué)習(xí)模塊提供了優(yōu)化的部署，并顯著加速諸如卷積、池化和激活等人工智能運行。
廣泛生態(tài)系統(tǒng)支持，推動AI應(yīng)用發(fā)展
面對當(dāng)今智能終端帶來的大量人工智能特性及應(yīng)用，終端側(cè)人工智能需要多個硬件架構(gòu)、軟件工具及框架來滿足開發(fā)者的需求以及性能門檻。目前全球多家領(lǐng)先的OEM廠商、開發(fā)者以及云供應(yīng)商等生態(tài)系統(tǒng)廠商已采用或宣布支持Qualcomm人工智能引擎AI Engine，以優(yōu)化和加速人工智能應(yīng)用。
在今年的MWC期間，Qualcomm與包括商湯科技SenseTime、曠視科技Face++以及騰訊在內(nèi)的多家中國企業(yè)分別展示了利用Qualcomm人工智能引擎AI Engine組件實現(xiàn)的AI應(yīng)用。
實時視頻風(fēng)格轉(zhuǎn)換
Qualcomm與商湯科技合作展示了實時視頻風(fēng)格轉(zhuǎn)換。該應(yīng)用能實時將攝像頭采集到的普通視頻，通過模型處理成特定風(fēng)格化后的效果視頻。商湯科技領(lǐng)先的人工智能算法和Qualcomm人工智能引擎AI Engine所支持的強(qiáng)勁處理性能，可保證風(fēng)格化之后的視頻色彩更加豐富，細(xì)節(jié)更加明顯，充滿層次感與立體感，同時保證轉(zhuǎn)換后視頻的實時性和流暢性。
由商湯科技人工智能技術(shù)與Qualcomm人工智能引擎AI Engine支持的實時視頻風(fēng)格轉(zhuǎn)換應(yīng)用
3D-Animoji
Qualcomm與曠視科技Face++聯(lián)合展示了面向智能手機(jī)的人工智能應(yīng)用——3D Animoji。得益于Qualcomm人工智能引擎AI Engine的支持，曠視的算法可以在驍龍移動平臺上實現(xiàn)更快的處理速度，并在極低功耗的情況下實現(xiàn)復(fù)雜的場景感知計算，完成實時3D人臉建模和面部表情肌追蹤等工作。
Qualcomm與曠視科技Face++聯(lián)合展示了面向智能手機(jī)的人工智能應(yīng)用——3D Animoji
騰訊手機(jī)QQ“高能舞室”
Qualcomm與騰訊展示了騰訊手機(jī)QQ應(yīng)用程序中名為“高能舞室”的交互特性。在Android端的手機(jī)QQ中，采用了人工智能引擎AI Engine組件以加速該特性的幀率。
Qualcomm與騰訊展示騰訊手機(jī)QQ“高能舞室”特性
目前，Qualcomm驍龍845、驍龍835、驍龍820、驍龍660，以及最新推出的驍龍700系列移動平臺都將支持該人工智能引擎AI Engine，其中，驍龍845將支持最頂尖的終端側(cè)人工智能處理。驍龍845是Qualcomm的第三代人工智能移動平臺。與前代SoC相比，驍龍845帶來了近三倍的人工智能整體性能提升——將移動終端改變?yōu)榻^佳的個人助手;簡化圖片與視頻的拍攝;提升VR游戲體驗，并讓語音交互更加自然。
現(xiàn)在，多家智能手機(jī)廠商已利用驍龍移動平臺上的人工智能引擎AI Engine，加速其終端上的人工智能應(yīng)用，包括小米、一加、vivo、OPPO、摩托羅拉、華碩、中興通訊、努比亞、錘子以及黑鯊，其中部分廠商正計劃采用人工智能引擎AI Engine，在其未來的旗艦驍龍智能手機(jī)上優(yōu)化人工智能應(yīng)用。
除了商湯科技和曠視，其他多家領(lǐng)先的人工智能軟件開發(fā)企業(yè)也為驍龍移動平臺帶來專屬的用例優(yōu)化。虹軟為驍龍客戶提供單攝和雙攝算法，并積極開發(fā)人工智能用戶體驗。創(chuàng)通聯(lián)達(dá)針對人工智能視覺用例和終端提供完整的解決方案。Uncanny Vision針對人、車輛、以及車牌檢測和識別提供優(yōu)化模型。這些企業(yè)以及其他更多公司都將利用Qualcomm人工智能引擎AI Engine組件，加速實現(xiàn)其人工智能模型的性能與用戶體驗。
此外，Qualcomm還和百度基于DuerOS共同發(fā)展終端側(cè)的關(guān)鍵詞檢測和自然語言處理技術(shù)，為云端服務(wù)提供補充。同時，Qualcomm與Google在AI領(lǐng)域保持著長期的密切合作，自驍龍820移動平臺開始，雙方就攜手實現(xiàn)了TensorFlow面向移動終端的優(yōu)化，驍龍移動平臺也由此成為首款支持TensorFlow的商用移動SoC。目前，Qualcomm正基于Facebook的Caffe2框架對多款Facebook應(yīng)用，尤其是AR領(lǐng)域的應(yīng)用進(jìn)行優(yōu)化。Qualcomm與微軟、亞馬遜也正利用ONNX交換格式進(jìn)行合作，共同探索終端側(cè)人工智能與云端人工智能的結(jié)合。
（轉(zhuǎn)載）
