“如果以攀登高峰比喻邊緣人工智能（AI）不同階段發(fā)展的話，我們現(xiàn)在還站在山腳，即處于邊緣推理階段。”9月3日，在京舉行的2023年中國國際服務(wù)貿(mào)易交易會專題論壇中國智能產(chǎn)業(yè)論壇上，英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇說。他表示，即便實現(xiàn)了邊緣人工智能發(fā)展的下一個目標(biāo)——邊緣訓(xùn)練，也只是站到了半山腰，距離真正站到山頂、實現(xiàn)邊緣自主機器學(xué)習(xí)（AutoML），還有很長的路要走，其間仍要克服多個挑戰(zhàn)。

(資料圖片僅供參考)

張宇 受訪者供圖

仍面臨多重挑戰(zhàn)

邊緣計算是在靠近物或數(shù)據(jù)源頭的網(wǎng)絡(luò)邊緣側(cè)，融合網(wǎng)絡(luò)、計算、存儲、應(yīng)用核心能力的開放平臺，就近提供邊緣智能服務(wù)，滿足行業(yè)數(shù)字化在敏捷聯(lián)接、實時業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護(hù)等方面的關(guān)鍵需求。隨著邊緣端相關(guān)需求日益凸顯，2016年11月30日，英特爾公司與華為技術(shù)有限公司、中國科學(xué)院沈陽自動化研究所、中國信息通信研究院等聯(lián)合倡議成立了邊緣計算產(chǎn)業(yè)聯(lián)盟（ECC）。該聯(lián)盟旨在搭建邊緣計算產(chǎn)業(yè)合作平臺，推動OT和ICT產(chǎn)業(yè)開放協(xié)作，促進(jìn)邊緣計算產(chǎn)業(yè)健康與可持續(xù)發(fā)展。

很快，隨著人工智能技術(shù)的快速發(fā)展及其向行業(yè)的進(jìn)一步滲透，邊緣人工智能成為邊緣計算領(lǐng)域重點關(guān)注的方向之一。那么，邊緣計算和人工智能這兩者間的關(guān)系是怎樣的？邊緣計算和邊緣人工智能未來的發(fā)展目標(biāo)又是否一致？就此，在接受《中國科學(xué)報》專訪時，張宇表示，作為一種技術(shù)，AI可以賦能包括邊緣計算、云計算等在內(nèi)的多種計算模式。而邊緣計算作為其中一種計算模式，可以利用AI、5G等技術(shù)，在靠近數(shù)據(jù)源頭的地方給用戶提供更加及時、更具有安全性的需求響應(yīng)。從長期來看，邊云融合是邊緣計算的最終發(fā)展目標(biāo)。而在此過程中，智能化作為邊緣計算的一個重要趨勢，在推動最終目標(biāo)的實現(xiàn)方面扮演著重要角色。

在中國智能產(chǎn)業(yè)論壇上發(fā)表的主題演講中，張宇指出，產(chǎn)業(yè)界對于連接、智能應(yīng)用、數(shù)據(jù)隱私保護(hù)等需求的增加，推動了邊緣計算尤其是邊緣人工智能的發(fā)展。不過，當(dāng)下人工智能在邊緣端的應(yīng)用大多還停留在邊緣推理階段，即行業(yè)還是要利用數(shù)據(jù)中心極大的算力或大量數(shù)據(jù)訓(xùn)練出一個模型，然后將訓(xùn)練結(jié)果推送到前端進(jìn)行推理操作。在他看來，“這種應(yīng)用模式最大的局限性是對模型的更新頻率有限”。

以自動駕駛為例。自動駕駛企業(yè)在車輛出廠前會利用大量數(shù)據(jù)訓(xùn)練模型，然而這時其所采用的訓(xùn)練數(shù)據(jù)集跟駕駛?cè)藛T真正駕駛時所面臨的路況以及駕駛場景之間會有差異，造成訓(xùn)練以后模型泛化能力往往有限。這時，最有效的解決辦法就是不斷在使用過程中根據(jù)駕駛?cè)藛T的駕駛習(xí)慣以及所面臨的實際路況，對模型進(jìn)行不斷的二次修正，即進(jìn)行邊緣訓(xùn)練。

此外，如何在樣本量比較小的情況下進(jìn)行有效訓(xùn)練，實現(xiàn)有效的模型更新，例如在正常的產(chǎn)線上檢測出帶有缺陷的樣本？在對隱私保護(hù)越來越重視的情況下，如何在保護(hù)數(shù)據(jù)隱私的同時創(chuàng)新出一些能夠在邊緣側(cè)進(jìn)行模型訓(xùn)練的新技術(shù)？這些都是推動邊緣人工智能進(jìn)入第二階段，即邊緣訓(xùn)練時所要解決的問題，而這些問題往往是建設(shè)數(shù)據(jù)中心時不一定需要面對的問題。

然而，即使順利完成第二階段，人工智能所潛藏的局限性仍會制約邊緣人工智能的發(fā)展。

“有時我們和行業(yè)專家探討這一話題時，會開玩笑說，‘當(dāng)下的人工智能一半是人工，一半是智能。’因為現(xiàn)在的人工智能，不管應(yīng)用在邊緣端，還是應(yīng)用在數(shù)據(jù)中心，人都在其中扮演了一個非常重要的角色。”在張宇看來，要實現(xiàn)真正意義上的人工智能，就需要實現(xiàn)自主機器學(xué)習(xí)，即網(wǎng)絡(luò)模型感知人的意圖，并選取適宜的樣本集訓(xùn)練模型，將訓(xùn)練結(jié)果推送到訓(xùn)練階段進(jìn)行相應(yīng)操作，甚至根據(jù)訓(xùn)練的結(jié)果不斷更新網(wǎng)絡(luò)模型，以達(dá)到理想的結(jié)果。這才是邊緣人工智能發(fā)展的最終形態(tài)。

三方面的突破

“要實現(xiàn)邊緣人工智能的最終目標(biāo)，需要在算力、算法，乃至理論上進(jìn)一步突破。”張宇說。

他告訴記者，制約邊緣人工智能發(fā)展的關(guān)鍵要素主要有三個方面。一是算力，即算力要足夠，能支撐越來越復(fù)雜的網(wǎng)絡(luò)模型。二是數(shù)據(jù)，因為要解決問題不能僅只設(shè)計一個模型，而是必須不斷通過數(shù)據(jù)訓(xùn)練得到最終的訓(xùn)練結(jié)果并付諸實用。三是人工智能核心理論的突破。“這三個方面相輔相成，缺一不可。只有這樣，才能到達(dá)邊緣人工智能的‘山頂’。”

如何面對這一過程中的諸多挑戰(zhàn)，并提供相應(yīng)的解決方案？在張宇看來，這需要產(chǎn)業(yè)界的通力合作。

他舉例說。作為一家數(shù)據(jù)公司，英特爾給業(yè)界提供的是面向邊緣人工智能、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面，英特爾提供了從計算、通訊到存儲等一系列產(chǎn)品，供開發(fā)人員進(jìn)行選擇。

在計算方面，英特爾提供了包括CPU、GPU及各種人工智能芯片等在內(nèi)的多種產(chǎn)品組合，滿足用戶對人工智能不同算力的要求。以計算為例，針對人工智能大模型的訓(xùn)練和推理，英特爾在今年7月推出第二代Gaudi深度學(xué)習(xí)加速器——Habana Gaudi 2。它不僅能提供大量的算力，同時還能提供通訊能力。在近期MLPerf公司針對業(yè)界主流大模型的評測中，Gaudi 2成為全球唯二能夠提供針對大模型訓(xùn)練極佳性能的產(chǎn)品。“對于大模型訓(xùn)練，往往不能靠單顆芯片單打獨斗，而是要靠一個集群。而大集群的性能不僅僅取決于計算能力，同時也取決于通訊能力和存儲能力，Gaudi 2處理器則兼顧了這幾方面的能力。”張宇說。

此外，在硬件方面，考慮到邊緣人工智能在算力、算法復(fù)雜性以及數(shù)據(jù)安全保護(hù)等方面的訴求，英特爾采取的策略是，在增強通用處理器的同時，還提供專用的人工智能加速芯片，以滿足用戶對邊緣人工智能算力的要求。

張宇介紹說，今年英特爾還發(fā)布了第四代至強可擴展處理器。這款處理器上包含了一系列面向人工智能的技術(shù)創(chuàng)新，特別值得一提的是其嵌入了高級矩陣擴展（AMX）技術(shù)。該技術(shù)可以直接對矩陣計算進(jìn)行加速，從而使得人工智能的推理和訓(xùn)練能力相比上代提高了10倍。

當(dāng)問及邊緣人工智能何時能到達(dá)“山頂”時，張宇坦言，這一時間點很難預(yù)測。不過，相比算力和算法上的進(jìn)步，目前理論上的進(jìn)展仍然相對較慢，而這正是下一步需要重點突破的地方。

關(guān)鍵詞：