產(chǎn)業(yè)的需求決定了要完成的人工智能任務越來越復雜，輕量化人工智能必須通過加速運算效率、提高計算密度才能實現(xiàn)極致的效率。

　　——冷聰 中國科學院自動化研究所副研究員

　　◎本報記者 陸成寬

　　人工智能算法的復雜度急劇攀升，神經(jīng)網(wǎng)絡計算的能耗代價越來越高，數(shù)據(jù)洪水式地涌積堰塞……這些年，人工智能的發(fā)展遇到了越來越多的瓶頸。如何將人工智能模型及其計算載體前端化、輕量化成為亟待解決的問題。最新興起的輕量化人工智能被寄予厚望，以“輕量化”為賽點的人工智能競賽下半場已經(jīng)來臨。為此，4月27日，科技日報記者采訪了中國科學院自動化研究所的相關專家。

　　輕量化成為人工智能下半場賽點

　　人工智能技術(shù)在行業(yè)應用中，大多依賴海量的訓練數(shù)據(jù)和大規(guī)模服務器的算力支持。

　　然而，近年來，隨著信息技術(shù)領域的摩爾定律逐步放緩，硬件的發(fā)展越來越難以滿足當前人工智能模型動輒萬億級規(guī)模的存儲和算力需求，數(shù)據(jù)堰塞、存儲暴漲、隱私泄露、能耗高企等問題隨之而來。

　　“當前，對于人工智能設備和應用的快速響應、隱私保護以及節(jié)能減排的需求越發(fā)凸顯，輕量化人工智能應運而生，并被寄予厚望。2020年，《麻省理工科技評論》將輕量化人工智能列為‘全球十大突破性技術(shù)’。”中國科學院自動化研究所研究員程健說。

　　所謂輕量化人工智能，是指以一系列輕量化技術(shù)為驅(qū)動提高芯片、平臺和算法的效率，在更緊密的物理空間上實現(xiàn)低功耗的人工智能訓練和應用部署，不需要依賴與云端的交互就能實現(xiàn)智能化操作的人工智能。

　　輕量化人工智能被評入“全球十大突破性技術(shù)”，《麻省理工科技評論》給出的評選理由是，輕量化智能使現(xiàn)有的服務，比如語音助手、手機拍照等，變得更好更快，不必每次都需要連接云端才能運行深度學習模型；此外，輕量化人工智能也將使新的應用成為可能，比如基于移動端的醫(yī)學檢測分析、對反應時間要求更快的自動駕駛汽車；此外，本地化的人工智能更利于隱私保護，用戶的數(shù)據(jù)不再需要離開設備就能實現(xiàn)服務功能的進化。

　　“更重要的是，輕量化人工智能將人工智能推向更主流，它大大降低了人工智能系統(tǒng)的部署難度和成本，把人工智能從一場高門檻的科技巨頭競賽變成更容易普惠民生的智能生態(tài)。”程健說，在人工智能領域的角逐中，以輕量化為賽點的下半場已經(jīng)來臨。

　　極致效率、極低能耗是最終追求

　　在表現(xiàn)上，輕量化人工智能是在做減法，降低能耗、降低對硬件平臺性能指標的要求、降低與云端的通訊需求等。

　　然而，“實質(zhì)上，輕量化的內(nèi)核卻是在做加法。”中國科學院自動化研究所副研究員冷聰說，產(chǎn)業(yè)的需求決定了要完成的人工智能任務越來越復雜，輕量化人工智能必須通過提高運算速度、計算密度才能實現(xiàn)極致的效率。

　　在程健看來，在精度接近無損的前提下，將人工智能模型及其計算載體輕量化，是一個極具挑戰(zhàn)性的任務。

　　解決這一問題，需要對神經(jīng)網(wǎng)絡進行輕量化設計、計算加速以及設計新的計算架構(gòu)以實現(xiàn)模型的硬件化，這需要從軟件和硬件兩方面來著手。

　　在軟件上，進行模型和算法創(chuàng)新，通過輕量化模型設計、矩陣分解、稀疏表示、量化計算來實現(xiàn)模型的微型化和計算加速；而在硬件上，則要通過流水線設計、存儲模式設計等手段進行硬件架構(gòu)的創(chuàng)新，通過軟硬協(xié)同設計和優(yōu)化實現(xiàn)人工智能的輕量化。

　　“雖然執(zhí)行神經(jīng)網(wǎng)絡計算的是硬件，但神經(jīng)網(wǎng)絡結(jié)構(gòu)和人工智能平臺決定了計算量的大小和運算方式。”冷聰坦言，所以極致的輕量化必須是軟件和硬件的協(xié)同輕量化——基于復雜的人工智能應用場景，將芯片、平臺和算法充分結(jié)合以聯(lián)合加速。

　　作為人工智能的硬件載體，人工智能芯片必須達到更高的性能、更高的效率、更低的功耗和更小的體積。這樣才能有足夠平價高效的計算平臺滿足產(chǎn)業(yè)需求，承載復雜的人工智能任務，并且使推理和運算從云端遷移到終端。

　　同時，輕量化的人工智能平臺要以更低的功耗來訓練和運行人工智能算法，最大化的發(fā)掘硬件的能力。更重要的是，應用輕量化技術(shù)的神經(jīng)網(wǎng)絡模型要小規(guī)模、少運算量并保持良好的精度。

　　未來輕量化人工智能將賦能萬物

　　程健介紹，中國科學院自動化研究所是輕量化人工智能的先行者，很早就開始了軟硬協(xié)同輕量化的技術(shù)研究，并走在國際前列。

　　早在2016年，卷積神經(jīng)網(wǎng)絡大規(guī)模邁向應用之初，中國科學院自動化研究所就在國際人工智能頂級期刊發(fā)表了多篇神經(jīng)網(wǎng)絡模型輕量化領域的重要論文，成為國際上最早開始人工智能輕量化研究的機構(gòu)之一，相關成果引起了國內(nèi)外諸多專家的廣泛關注。

　　“我們設計開發(fā)的輕量化人工智能平臺QEngine及輕量化算法已經(jīng)在數(shù)十萬終端上部署。2019年，在國際神經(jīng)信息處理系統(tǒng)大會的微型網(wǎng)絡挑戰(zhàn)競賽中，我們與ARM、IBM、高通、Xilinx等國際一流芯片公司同場競技，獲得了輕量化神經(jīng)網(wǎng)絡架構(gòu)圖像類的雙冠軍。”程健表示。

　　2020年，中國科學院自動化研究所自主研發(fā)的全球首款極低比特量化神經(jīng)處理芯片(QNPU)成功流片，繞開了芯片計算領域備受關注的“內(nèi)存墻”難題，在芯片成本、功耗、計算結(jié)構(gòu)、邊緣計算等方面實現(xiàn)革命性的變革。

　　“該芯片的面世，也標志著自動化研究所成為了全球為數(shù)不多的擁有‘人工智能芯片—平臺—算法’全棧輕量化人工智能技術(shù)的機構(gòu)之一。”冷聰說。

　　未來，以人工智能驅(qū)動的小型化設備會越來越多出現(xiàn)在我們身邊。由人工智能芯片、平臺和算法組成的輕量化人工智能終端將在越來越多的場景中應用。

　　“比如，在電力行業(yè)，我國的輸電線路覆蓋廣，野外自然環(huán)境復雜，檢修維護作業(yè)危險系數(shù)高、難度大，我們設計的自主巡檢無人機、缺陷識別分析便攜終端、通道可視化智能感知攝像頭具備多種智能識別、檢測和分析功能，能夠保障輸配電線路的安全和電力系統(tǒng)穩(wěn)定。”程健舉例說。

　　同時，在消費電子行業(yè)，暗光增強、超分辨率等自動化所設計的輕量化算法及輕量化神經(jīng)網(wǎng)絡計算架構(gòu)，也為手機終端、安防終端提供了影像增強效果。

　　程健表示，輕量化人工智能未來將賦能萬物，讓每個設備都具有環(huán)境感知、人機交互、決策控制的能力。