產(chǎn)業(yè)的需求決定了要完成的人工智能任務(wù)越來越復(fù)雜，輕量化人工智能必須通過加速運算效率、提高計算密度才能實現(xiàn)極致的效率。——冷聰 中國科學(xué)院自動化研究所副研究員

人工智能算法的復(fù)雜度急劇攀升，神經(jīng)網(wǎng)絡(luò)計算的能耗代價越來越高，數(shù)據(jù)洪水式地涌積堰塞……這些年，人工智能的發(fā)展遇到了越來越多的瓶頸。如何將人工智能模型及其計算載體前端化、輕量化成為亟待解決的問題。最新興起的輕量化人工智能被寄予厚望，以“輕量化”為賽點的人工智能競賽下半場已經(jīng)來臨。為此，4月27日，科技日報記者采訪了中國科學(xué)院自動化研究所的相關(guān)專家。

輕量化成為人工智能下半場賽點

人工智能技術(shù)在行業(yè)應(yīng)用中，大多依賴海量的訓(xùn)練數(shù)據(jù)和大規(guī)模服務(wù)器的算力支持。

然而，近年來，隨著信息技術(shù)領(lǐng)域的摩爾定律逐步放緩，硬件的發(fā)展越來越難以滿足當(dāng)前人工智能模型動輒萬億級規(guī)模的存儲和算力需求，數(shù)據(jù)堰塞、存儲暴漲、隱私泄露、能耗高企等問題隨之而來。

“當(dāng)前，對于人工智能設(shè)備和應(yīng)用的快速響應(yīng)、隱私保護(hù)以及節(jié)能減排的需求越發(fā)凸顯，輕量化人工智能應(yīng)運而生，并被寄予厚望。2020年，《麻省理工科技評論》將輕量化人工智能列為‘全球十大突破性技術(shù)’。”中國科學(xué)院自動化研究所研究員程健說。

所謂輕量化人工智能，是指以一系列輕量化技術(shù)為驅(qū)動提高芯片、平臺和算法的效率，在更緊密的物理空間上實現(xiàn)低功耗的人工智能訓(xùn)練和應(yīng)用部署，不需要依賴與云端的交互就能實現(xiàn)智能化操作的人工智能。

輕量化人工智能被評入“全球十大突破性技術(shù)”，《麻省理工科技評論》給出的評選理由是，輕量化智能使現(xiàn)有的服務(wù)，比如語音助手、手機拍照等，變得更好更快，不必每次都需要連接云端才能運行深度學(xué)習(xí)模型;此外，輕量化人工智能也將使新的應(yīng)用成為可能，比如基于移動端的醫(yī)學(xué)檢測分析、對反應(yīng)時間要求更快的自動駕駛汽車;此外，本地化的人工智能更利于隱私保護(hù)，用戶的數(shù)據(jù)不再需要離開設(shè)備就能實現(xiàn)服務(wù)功能的進(jìn)化。

“更重要的是，輕量化人工智能將人工智能推向更主流，它大大降低了人工智能系統(tǒng)的部署難度和成本，把人工智能從一場高門檻的科技巨頭競賽變成更容易普惠民生的智能生態(tài)。”程健說，在人工智能領(lǐng)域的角逐中，以輕量化為賽點的下半場已經(jīng)來臨。

極致效率、極低能耗是最終追求

在表現(xiàn)上，輕量化人工智能是在做減法，降低能耗、降低對硬件平臺性能指標(biāo)的要求、降低與云端的通訊需求等。

然而，“實質(zhì)上，輕量化的內(nèi)核卻是在做加法。”中國科學(xué)院自動化研究所副研究員冷聰說，產(chǎn)業(yè)的需求決定了要完成的人工智能任務(wù)越來越復(fù)雜，輕量化人工智能必須通過提高運算速度、計算密度才能實現(xiàn)極致的效率。

在程健看來，在精度接近無損的前提下，將人工智能模型及其計算載體輕量化，是一個極具挑戰(zhàn)性的任務(wù)。

解決這一問題，需要對神經(jīng)網(wǎng)絡(luò)進(jìn)行輕量化設(shè)計、計算加速以及設(shè)計新的計算架構(gòu)以實現(xiàn)模型的硬件化，這需要從軟件和硬件兩方面來著手。

在軟件上，進(jìn)行模型和算法創(chuàng)新，通過輕量化模型設(shè)計、矩陣分解、稀疏表示、量化計算來實現(xiàn)模型的微型化和計算加速;而在硬件上，則要通過流水線設(shè)計、存儲模式設(shè)計等手段進(jìn)行硬件架構(gòu)的創(chuàng)新，通過軟硬協(xié)同設(shè)計和優(yōu)化實現(xiàn)人工智能的輕量化。

“雖然執(zhí)行神經(jīng)網(wǎng)絡(luò)計算的是硬件，但神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和人工智能平臺決定了計算量的大小和運算方式。”冷聰坦言，所以極致的輕量化必須是軟件和硬件的協(xié)同輕量化——基于復(fù)雜的人工智能應(yīng)用場景，將芯片、平臺和算法充分結(jié)合以聯(lián)合加速。

作為人工智能的硬件載體，人工智能芯片必須達(dá)到更高的性能、更高的效率、更低的功耗和更小的體積。這樣才能有足夠平價高效的計算平臺滿足產(chǎn)業(yè)需求，承載復(fù)雜的人工智能任務(wù)，并且使推理和運算從云端遷移到終端。

同時，輕量化的人工智能平臺要以更低的功耗來訓(xùn)練和運行人工智能算法，最大化的發(fā)掘硬件的能力。更重要的是，應(yīng)用輕量化技術(shù)的神經(jīng)網(wǎng)絡(luò)模型要小規(guī)模、少運算量并保持良好的精度。

未來輕量化人工智能將賦能萬物

程健介紹，中國科學(xué)院自動化研究所是輕量化人工智能的先行者，很早就開始了軟硬協(xié)同輕量化的技術(shù)研究，并走在國際前列。

早在2016年，卷積神經(jīng)網(wǎng)絡(luò)大規(guī)模邁向應(yīng)用之初，中國科學(xué)院自動化研究所就在國際人工智能頂級期刊發(fā)表了多篇神經(jīng)網(wǎng)絡(luò)模型輕量化領(lǐng)域的重要論文，成為國際上最早開始人工智能輕量化研究的機構(gòu)之一，相關(guān)成果引起了國內(nèi)外諸多專家的廣泛關(guān)注。

“我們設(shè)計開發(fā)的輕量化人工智能平臺QEngine及輕量化算法已經(jīng)在數(shù)十萬終端上部署。2019年，在國際神經(jīng)信息處理系統(tǒng)大會的微型網(wǎng)絡(luò)挑戰(zhàn)競賽中，我們與ARM、IBM、高通、Xilinx等國際一流芯片公司同場競技，獲得了輕量化神經(jīng)網(wǎng)絡(luò)架構(gòu)圖像類的雙冠軍。”程健表示。

2020年，中國科學(xué)院自動化研究所自主研發(fā)的全球首款極低比特量化神經(jīng)處理芯片(QNPU)成功流片，繞開了芯片計算領(lǐng)域備受關(guān)注的“內(nèi)存墻”難題，在芯片成本、功耗、計算結(jié)構(gòu)、邊緣計算等方面實現(xiàn)革命性的變革。

“該芯片的面世，也標(biāo)志著自動化研究所成為了全球為數(shù)不多的擁有‘人工智能芯片—平臺—算法’全棧輕量化人工智能技術(shù)的機構(gòu)之一。”冷聰說。

未來，以人工智能驅(qū)動的小型化設(shè)備會越來越多出現(xiàn)在我們身邊。由人工智能芯片、平臺和算法組成的輕量化人工智能終端將在越來越多的場景中應(yīng)用。

“比如，在電力行業(yè)，我國的輸電線路覆蓋廣，野外自然環(huán)境復(fù)雜，檢修維護(hù)作業(yè)危險系數(shù)高、難度大，我們設(shè)計的自主巡檢無人機、缺陷識別分析便攜終端、通道可視化智能感知攝像頭具備多種智能識別、檢測和分析功能，能夠保障輸配電線路的安全和電力系統(tǒng)穩(wěn)定。”程健舉例說。

同時，在消費電子行業(yè)，暗光增強、超分辨率等自動化所設(shè)計的輕量化算法及輕量化神經(jīng)網(wǎng)絡(luò)計算架構(gòu)，也為手機終端、安防終端提供了影像增強效果。

程健表示，輕量化人工智能未來將賦能萬物，讓每個設(shè)備都具有環(huán)境感知、人機交互、決策控制的能力。(記者 陸成寬)