智能化技術引發了三大產業變革，包括云計算將計算資源虛擬化，“革了IT基礎設施的命”；物聯網和邊緣計算橋接消費網和產業網，“革了互聯網的命”；AI構建起機器學習應用范式和圖景，“革了自動化的命”。這是前不久上海市集成電路行業協會主辦，上海集成電路產業投資基金管理有限公司合辦的2021 AI芯片+大數據國際高峰論壇上，嘉楠科技董事長兼CEO張楠賡提到的。
其中最后一點表述還頗有意思，即AI作為一種煉丹術看起來的確是對傳統自動化解決方案的革命——雖然在很多觀點看來，兩者可能是互補的關系。但無論如何，AI技術都被很多人稱作是第四次工業革命；也給行業帶來了大量機會，同時深刻改變著云、物聯網等現代科技的組成部分。
AI人工智能是目前各國都期望在技術上搶占高地的領域，中國自前些年開始在AI方面就有一系列的產業政策布局，包括2017年《新一代人工智能發展規劃》，《促進新一代人工智能產業發展三年行動計劃（2018-2020）》，以及“十四五”規劃人工智能三大布局，目標綱要全文，“智能”“智慧”相關表達出現了57次。
廣告
AI本身是相當龐大的話題，中國人工智能產業發展聯盟辦公室主任石霖給出了下面這張圖，自下而上地總結了“AI技術體系架構”。這是此前，石霖在主題演講環節給出的一張圖。AI芯片，是這個架構的底層驅動力。眾所周知，按照訓練與推理，以及云和端又可將AI芯片做進一步的劃分。
AI芯片市場發展現狀
Tractica、中國信息通信研究院的數據顯示，2025年AI芯片市場規模會達到726億美元；而中國國內的芯片市場規模到2024年可達785億元人民幣，市場規模保持40%-50%的增速。
AI芯片產業競爭激烈，從不同維度來看，市場參與者之間的競爭態勢都在逐步走向白熱化。如下圖所示，不僅是終端側參與不同領域市場競爭的AI芯片多樣，而且云端側的訓練、推理也有越來越多的市場參與者加入角逐，而不只是英偉達、Intel這樣的傳統AI或GPU芯片廠商。
石霖談到AI發展的幾個趨勢：目前AI云端應用場景正不斷豐富，大數據分析、精準營銷、商業決策等都實現了應用落地。而能源、交通、農業、公共事業等更多的商業場景，也能看到AI的逐步滲透。
與此同時，云受限于帶寬、時延的限制，AI計算正下沉至邊緣和終端。所以AI又表現出了云側與邊緣側的協同發展。比如自動駕駛，端側也逐步部署推斷設備，由本地智能算法做對應的決策；安防領域，攝像頭數量增加、高清需求都帶來了帶寬方面的壓力，這就要求在端側做特征提取，隨后將過濾后的特征值發往云側做計算。
端側的場景需求變得多樣化，不同應用場景對性能需求差異大，定制化成為端側芯片的發展趨勢。例如在互聯網場景，算力<1TOPS，要求尺寸小、成本更低、可靠性高；安防設備算力要求4-20TOPS；自動駕駛要求20-4000TOPS算力，對功耗也越來越敏感，可靠性要求極高...
所以針對產品形態多樣化、框架種類分散化、算法快速迭代化、應用場景碎片化等特點，信通院發起了AIIA DNN benchmark項目，“為應用企業提供（AI芯片）選型參考，為芯片企業提供第三方評測結果”。從石霖的陳述來看，這是個面向邊緣、終端、云，以及推理、訓練等不同場景的基準測試系統。評估工具不僅已經在Github開源，而且也得到了不少AI芯片市場參與者的支持；AIIA 2020年度首批《AI芯片技術選型目錄》似乎也取得了不錯的成果。
從信通院的角度可較大程度掌握AI芯片市場的發展趨勢。而另一方面還可從投資的角度來看這一市場目前的情況。上面這張圖是聯想集團副總裁、聯想創投集團高級合伙人宋春雨羅列，聯想在AI方面的部分投資布局。從最上層垂直領域的投資，多少也能看出如今的AI熱點在哪些部分。
底層芯片與傳感器相關的部分，宋春雨特別提到了對于寒武紀和思特威等廠商的投資，前者是AI專用芯片領域頗有建樹的企業，后者則在圖像傳感器領域占據一席之地——尤其BSI+全局快門CIS技術，思特威此前也在我們的活動上做過分享。往應用端走，宋春雨分享了更多在無人機工業數據采集、車載智能駕倉、交通圖片深度識別、犯罪預測預防等方面的投資。
芯片設計和HPC，需要云
這兩年但凡提到芯片設計，似乎繞不過去的一個話題就是EDA上云或芯片設計上云。即便這個話題最早可以追溯到10年前，如今云能夠承載的彈性算力，以及安全性方面的顯著提升，加上軟件及系統層面的經驗積累，芯片設計上云的時機似乎真的已經到了。
大會上微軟公司大中華區首席技術官徐明強，提到了Microsoft Azure對于EDA的賦能，如今微軟和一些主要的EDA廠商，以及設計、制造、封測全產業鏈均有合作。徐明強提到，“Azure云已經獲得頭部Foundry以及芯片設計公司的認證和支持。”
包括與臺積電合作，在Azure云上驗證7nm芯片設計；與Cadence、臺積電合作，建立開放創新平臺（OIP）虛擬設計環境（VDE）——臺積電此前曾公開提到OIP VDE是臺積電與OIP設計生態環境伙伴，以及領先的云端服務公司合作的成果，旨在云端提供完整的系統芯片設計環境；以及基于公有云服務商托管基礎設施構建芯片設計和驗證環境，即與Synopsys合作Synopsys Cloud Solution。
芯片設計不只是仿真需求極高的算力，實際上不同階段的負載波動是比較大的，而且對于計算、存儲、網絡資源的需求各不相同。對于芯片設計企業而言，IT基礎設施本身就是一筆巨大的投資：而且可能面臨要么算力不夠，要么大量算力閑置導致浪費的情況。芯片云的價值就在于可彈性擴展算力，“按需分配，EDA的IT提前進入共產主義。”徐明強打趣說。
徐明強舉例談到和臺積電之間的合作，“臺積電7nm數據中心的基礎建設，按照需求需要擴張6倍，本地服務器無法達到最佳化。臺積電與Synopsys、Cadence利用微軟Azure上的高性能計算架構，在20分鐘內就打開10萬個虛擬運算元，大量縮短開發時間。”“包括臺積電5nm工藝開發提前了9個月量產。”除了算力彈性擴展，其中一個重要的屬性是安全性，“PDK文件可以放心地放到云上”。
上面這張圖是EDA上云，幾個不同的參與者角色：包括微軟提供云基礎架構，臺積電提供PDK文件——各類工藝庫，EDA工具廠商，及其上的設計。當然芯片設計上云的參與者可能還需要包括IP供應商。且各層級事實上還有更多參與者，比如基礎設施部分畢竟還涉及到存儲、networking等。
除了微軟之外，這次AI芯片+大數據國際高峰論壇上，阿里云也列席了。不過阿里云主要談的是云的高性能計算，及自家的E-HPC（彈性高性能計算）——探討的就是更大的范疇了，芯片設計上云理應也在其范疇內。其中稍稍提到了HPC針對制造業的仿真，這類負載的計算特點包括“單節點高浮點性能，低延遲高帶寬MPI通信，并行文件系統”阿里云高性能計算負責人何萬青表示。
云計算擁抱HPC，所需實現的包括軟硬件系統虛擬化、物理機性能與隔離、支持VM,裸金屬與容器、RDMA網絡管控、集群通信優化、HPC并行IO優化、高通量優化、并行IO優化、元數據節點性能優化。何萬青列舉了阿里云HPC的部分應用場景，包括EDA、能源、生命科學、氣候模擬、工業制造等。他舉例談到吉利汽車仿真云平臺就帶來了40%的效率提升；另外，為新冠藥物研發提供AI免費算力等。
AI芯片實現突破的各顯神通
大會現場的AI芯片制造商也不少，無論是將芯片供應給下游的，還是芯片自用的。高通、百度就是其中的典型例子。高通作為終端側手機芯片的主要供應商，驍龍SoC內的AI算力已無需贅言，包括這兩年在DSP中加入專用的Tensor Core做AI加速；此外高通的AI芯片也部署到了企業、基礎設施和汽車；這是從芯片供應商的角度，在AI芯片方面頗具代表性的企業。
而百度在AI領域最廣為人知的應該是昆侖AI芯片。不過百度公司語音首席架構師、鴻鵠語音芯片總負責人賈磊在會上主要談的是相關百度鴻鵠語音芯片的技術創新和產業應用。“鴻鵠是語音團隊獨立設計的。純做軟件算法的團隊為什么要做芯片？”賈磊說，端到端建模是主要趨勢，“我們的語音技術從傳統DNN、CNN開始，發展到今天是端到端信號聲學一體化建模，用一個模型來描述整個流程。”
賈磊提到語音領域“世界首個工業落地的注意力建模（SMLTA）”，如上圖所示。SMLTA帶來的語音識別解碼器技術革命在于針對傳統解碼的指數級別空間膨脹，轉而采用打分計算，固定4條路徑解碼。
語音識別的過程“被芯片化”，而傳統的語音交互方式，“轉化為端側8個NN計算”，如上圖所示。與此同時“鴻鵠是軟件定義芯片，軟件算法先進。”鴻鵠一代芯片的設計思路包括，“HIFI做NPU計算”（自定義指令集讓神經網絡計算能力比HiFi4最高能力提升4倍），“模型加載和計算并行”（據說為此做了專門的內存和cache設計），“高壓縮率的模型，置于片內SRAM內部”，“一顆芯片，要獨立解決多路信號增強和喚醒，充分解放主芯片”。
以上是規劃中的鴻鵠二代芯片設計圖，除了增加主控芯片外，還要“引入自己的NPU”。這代產品的設計思路除了增加適用于百度AI的端側NPU之外，還在“多種網絡激活和權重的低功耗的定浮點混合計算”，“模型檢測部分置于片內，模型決策部分置于片外，實現成本和計算的雙向優化”，“模型加載與NPU計算進一步并行化，更加合理的cache機制最大程度減小加載帶寬壓力”。
目前鴻鵠語音芯片已經在電視、掃地機器人、智能家電等領域開始應用，實現諸多家電的語音控制。
除了這些發展比較早的芯片相關企業，會上也有初創企業的聲音。壁仞科技總裁徐凌杰在本次大會上提到了“人工智能芯片的突破之路”，徐凌杰提到，“新世界不需要模仿者”，要做的絕不是“低端替代、低價競爭”，而是“disruptive innovation，破壞式創新”。而“底層革新”才是人工智能芯片的突破口。
所謂的底層革新包含架構革新、生態革新與技術革新。“好的架構，通用性是基礎。”徐凌杰說，“GPU以前其實也是專用芯片，如今英偉達GPU渲染的pipeline更豐富，就有了可編程性，有了CUDA、有了HPC，當矢量引擎也無法滿足算力需求時，就加入Tensor Core。”“在通用性的基礎上，再深耕專用性。”
“架構革新要求我們有原創芯片。而架構師是目前最大的缺口和瓶頸。”“架構師要懂硬件、軟件，還要懂軟件怎么造出來的，甚至是工藝本身，才能夠設計出可穩定工作、性能優良的芯片。我們國家在這方面的人才很欠缺，教育也跟不上。”“壁仞科技在初創公司中脫穎而出，因為在原創架構上做投入和布局，大規模做原創性開發，構建強大的架構團隊。”徐凌杰在展示壁仞科技未來的“架構布局”中就強調打造原創的體系架構，構建強大的架構團隊。
至于生態革新，“生態其實比芯片本身更難。”壁仞科技提出以通用編程模型為中心的異構計算開發平臺SUPAI，兼容現有異構計算軟件生態，在開發者層面就更有優勢。而技術革新，則是指通過創新的技術來突破，先進封裝、極速互聯、存算一體、軟硬協同等均包含在內。這些大概是壁仞科技未來產出的指導方向。
AI領域其他層級的市場參與者
如文首那張架構圖列出的，AI技術的市場參與者不僅有底層芯片，還有其上的各種層級。會上于其他層級發展較有代表性的是Intel、騰訊。Intel雖然在大眾認知里是個不折不扣的芯片廠商，而且也造AI芯片，但這次會上分享的是相關于大數據分析平臺構建的話題；而騰訊在AI方面的研究則更偏應用。
英特爾院士、大數據技術全球CTO、大數據分析和人工智能創新院院長戴金權表示，AI從實驗室走向生產系統——尤其將AI技術應用到大規模的分布式場景中，并沒有那么簡單。因此Intel期望構建大數據分析和統一人工智能平臺。比如說對圖片中的對象做識別，最終應用到圖片去重、圖片搜索等場景，“就實驗室角度并不是很復雜的事情。但是要把這些模型、算法落實到大規模的場景中，就會遇到很多的挑戰。”
比如此前Intel與京東合作，對商品圖片對象做特征提取。這些圖片可能在大規模數據庫、存儲系統中，需要并發讀取、處理，然后用深度學習模型做推理，結果還需要寫回至大規模文件系統中。整個系統是個分布式流程，如果手動構建整個流程，從開發和運維的角度實則會遇上各種挑戰。
這實際上就需要構建一個端到端的大數據AI應用，即從數據導入到最終推理。Intel構建了一款Analytics Zoo的開源軟件，底層基于Intel的各種支持，如上圖所示的技術棧——這個項目是開源在Github之上的。戴金權還分享了一些基于Analytics Zoo的案例，比如漢堡王，在用戶點餐時可以根據其點餐來推薦更感興趣的食品；韓國電信公司SK Telecom，基于Analytics Zoo做網絡質量預測，收集不同基站的質量指標，預測網絡健康程度。
比如對于后一個例子，除了構建AI模型，在具體實施時遇到的問題可能包括每個基站要輸出大量的KPI數據，每5分鐘就有新數據要傳輸。如果利用傳統設計，手動管理各個集群，不同的工作流，在維持數據更新、實施工作流串聯、開發運維等問題上都變得很復雜。將其整合到統一的端到端工作流，可提高開發效率，加快推理或訓練速度。
騰訊量子實驗室理論組負責人謝昌諭則從更偏應用端的角度，分享了AI賦能新藥研發。謝昌諭說，制藥領域有個法則叫Eroom's Law，就是把Moore's Law反著寫的法則。“雖然技術日新月異發展，但制藥成本卻在持續增加，每隔9年就翻倍。”“昂貴的研發成本，而且周期很長，大部分藥物開發到臨床階段90%都宣告失敗。”這就要求革新。
在藥物研發的整個過程里，量子計算和AI能夠幫助前期3-6年的關鍵時期，如上圖所示。通過前期的模擬和計算，不至于到后期才發現海量成本投入是沒有意義的。
在深度學習之前，大規模應用機器學習，但機器學習需要深度依賴專家知識、人為設計。而深度學習是讓AI自己去學習特征，更能提高預測準確性。“但藥學數據本來也很稀少，數據污染普遍也比較嚴重，所以在這個領域的突破，還是要結合深度學習和專家知識兩者。”謝昌諭表示。
今年的Briefings in Bioinformatics 2021上，騰訊“通過結合分子圖和分子描述符作為改進的圖神經網絡（HRGCN+）的輸入，提出了一種簡單而高效的建模方法。評估結果表明，HRGCN+在11個與藥物發現相關的數據集上具有出色的性能。”基于該模型，構成分子成藥性評估平臺，“我們與高效溝通合作，取得寶貴的數據，目前能夠預測約50多個指標。”
除了分子性質預測之外，謝昌諭還談到了分子與靶點的親和力預測，以及合成路徑設計。騰訊量子實驗室在騰訊云上研發計算化學軟件和平臺，開發新量子組合算法和量子AI算法，期望建立化學及制藥、材料等相關領域的生態系統。這就屬于AI在新藥研發方面的具體應用了。
論壇相關的分享內容較多，很多內容也是偏專業技術的，我們無法再做更多展開，有興趣的同人可根據上述目錄性質的闡述對相關內容做深挖。另外論壇上實則還有AI周邊相關企業的分享，例如中國聯通從5G的角度探討，5G是如何助力AI發展的等等......這么多分享內容實則能夠體現AI當前如火如荼的發展潮流，以及上下游之間在發展AI技術上的協同。在新的十四五期間，AI本身會發展成什么樣，又將對多少行業產生革新，是我們拭目以待的。
