AI將成就RISC-V，就像當年手機成就了Arm

每年的滴水湖中國RISC-V產業論壇（以下簡稱滴水湖論壇），都是觀察RISC-V生態發展情況的窗口。今年，除了戴偉民（中國RISC-V產業聯盟理事長；芯原股份創始人、董事長兼總裁）照例宣布了去年參與論壇的10款芯片產品已經有9款量產或大規模出貨以外，或許有兩個比較重要的依據，可作為觀察RISC-V生態現狀的參考。

其一是林豪（重慶物奇微電子股份有限公司CTO）提到，作為全系產品基于RISC-V架構的一家企業，物奇微電子2017年首款芯片問世，2019年達到千萬級出貨量，今年則預計能夠讓出貨量上億。這家公司的產品當前著眼于Wi-Fi、藍牙音頻、邊緣計算及PLC電力載波芯片。

在我們看來物奇微電子是代表了RISC-V在嵌入式市場典型應用的一家企業，出貨量表現的則是RISC-V芯片的快速上量。林豪甚至提到由于物奇當前產品線越來越廣，其自研RISC-V架構已經不足以滿足不同產品線的不同需求，尋求與業界更多合作伙伴的合作。

其二是今年的滴水湖論壇有一大半時間都是在探討AI，乃至生成式AI。謝濤（北京大學講席教授；RISC-V國際基金會人工智能與機器學習專委會主席）甚至說，“PC成就了x86生態，手機成就了Arm生態，而AI成就了RISC-V生態”。并且他還提到今年RISC-V歐洲峰會，AI也成為議程的一大組成部分。

去年的這個時候，我們在探討“RISC-V為什么能快速入駐HPC應用”。而在AI HPC火熱以來，RISC-V在很多人看來似乎已經成為AI未來發展的最佳選擇——比如Sameer Wasson（MIPS CEO）就將2020年代，作為技術奇點的生成式AI，及數據驅動的資本投入，最終歸結到RISC-V時代的到來。今年4月，RISC-V國際基金會理事會在基金會社區官宣，2024年RISC-V國際基金會頂級關鍵戰略優先級為：人工智能/機器學習、安全、車載。

所以今年的RISC-V新品陳列中，就能看到包含AI SoC、AI CPU在內的RISC-V芯片。這在任何CPU指令集的發展歷程中都是相當罕見的：短短四屆滴水湖論壇，我們見證了RISC-V在時代洗禮過程中的一路狂飆，AI又為RISC-V這輛跑車提供了一次氮氣加速的機會。借著參會企業的RISC-V新品介紹，我們來看看走進AI HPC的RISC-V芯片或技術，現在發展成了什么樣。

緊耦合與松耦合的RISC-V AI芯片

謝濤將RISC-V AI芯片分成兩種不同的模式。其中RISC-V + AI為緊耦合模式，也就是通過指令集擴展實現AI加速。理論上，Arm Neon, Helium都屬于此類緊耦合模式。還有一類AI + RISC-V，以松耦合模式，在RISC-V CPU的基礎上，再增加協處理器或加速器——Arm家族的代表應該是Ethos NPU。

恰巧本屆滴水湖論壇上，有兩款推介的新品代表了這兩種模式。其一是可以代表松耦合、來自北京奕斯偉計算股份有限公司的EIC7702X/EIC7700X。

這兩顆芯片的CPU部分采用基于RISC-V的64位亂序執行核心SiFive P550——這是個13級流水線、3發射、亂序管線的高性能RISC-V核；并且搭配奕斯偉自研的NPU——也就是專用的AI加速單元。NPU部分達成的Int8算力19.95 TOPS，Int16算力9.975 TOPS，FP16算力9.975 FLOPS。EIC7700X基礎款即為上述配置。

據說這是EIC7702X的首次亮相

而EIC7702X，是將兩個7700X的die封裝到一起，基于die-to-die互聯（8-lane 112GBps SerDes）；理論上也就實現了雙倍性能，典型的AI及浮點性能數字是在前述EIC7700X的基礎上翻番。“能夠勝任CV類大模型，及最新大模型的推理負載。”

路向峰（北京奕斯偉計算技術股份有限公司智能計算事業部交付中心中心長）介紹說，最高64GB LPDDR4/4X/5內存的支持，集成視頻編解碼單元等配置，以及引入的諸多“指令優化、數據流優化”，這些“不僅提升了AI性能，計算單元利用率也得到了極大提升”。

以下是路向峰給出這兩顆芯片的AI性能數據，在以往典型的CNN網絡之外，這張圖的右下角也給出了Llama 2-7b模型的推理成績。“芯片支持的深度學習框架包括TensorFlow, PyTorch等；大模型也在適配中，除了Llama2以外，不久以后還會做更多的適配和支持。”路向峰在演講中說。

當然這兩顆芯片還有3D高性能圖形加速、視頻編解碼及表現出低功耗的特性。尤其視頻解碼搭配CV類算法和模型應用，令EIC77系列芯片適配較為廣泛的應用方向——這些并非本文要闡述的重點，此處不做贅述。奕斯偉定位EIC77系列的應用方向包括邊緣計算（如機器視覺、機器人與自動系統、生產安全等）、AI PC、AI加速器。

其中EIC7700X應當是已經開售的，展區有展示其開發板及對應的AI PC產品；AI加速卡則已經在路上。而EIC7702X，作為基于chiplet或MCM的RISC-V芯片，在國產RISC-V芯片中，應該說是相當少見的；而且這還是個RISC-V AI芯片，也就顯得更加難得。

另外一款可表現RISC-V AI芯片緊耦合模式的，是來自進迭時空（杭州）科技有限公司的SpacemiT Key Stone K1，標稱為“全球首款8核RISC-V AI CPU”。這顆芯片采用進迭時空自研RISC-V智算核X60，8個核心，頻率最高2.0GHz；規格表中給出的性能數據是CPU算力 >50KDMIPS；AI算力則標稱為2TOPS。

除了自研的X60核心單核算力比Cortex-A55高30%以上，段佳惠（進迭時空（杭州）科技有限公司品牌營銷與公眾關系總監）也在演講中強調了22nm的K1芯片，在功耗和效率方面相比競品的優勢；比如同工藝下，比競品8核A55芯片性能低28%，相比16nm的NXP i.mx93，能效領先1.16倍（KDMIPS/W）。

不過更重要的在于，作為“緊耦合”RISC-V AI CPU，X60核擴展了16條AI指令。段佳惠還將其與Neon做了比較，“相同AI算法，X60指令僅為Arm Neon的～20%”。在開發生態方面，進迭時空的AI CPU自然也接入了全球主流AI推理生態，故而其展位也特別展示了本地LLM（Llama2-7b）的部署和推理；標稱為幾乎“支持所有AI模型”。

這顆K1芯片的應用領域涵蓋NAS、AI PC筆記本、智能機器人、邊緣計算、工業控制等——其官網的產品中心也列出了MUSE系列筆記本、開發板和盒子。在產品規劃圖中，這家公司的Key Stone系列似乎未來還有12核的K2，和更高性能的K3預備走向市場...

可見AI接下來要成就RISC-V生態還是有跡可循的。

AI為什么能推動RISC-V生態發展？

梁中書（達摩院（上海）科技有限公司研發總監）在圓桌環節說：“毫無疑問，RISC-V現在最重要的發展方向就是AI。”他說國內很多企業都推出了支持vector矢量擴展的AI加速實現，“matrix方面也有進展，達摩院就在玄鐵CPU系列中加入了對matrix的支持，通過20多條擴展指令實現了單核2TOPS算力”；“緊耦合模式，需要取長補短，推進matrix指令集社區的標準化。”

“而AI大算力的芯片形態應當是松耦合的，RISC-V + AI加速器的組合。”梁中書談到，“而開發工具鏈、基本軟件庫的適配和支持，對實現松耦合AI大算力芯片形態都很重要。”

談AI繞不開的話題就是英偉達，即便英偉達的AI市場主要在數據中心和訓練上。而拋開芯片絕對算力差距不談，令大部分AI芯片企業感到汗顏的主要是以CUDA為基礎的NVIDIA AI軟件棧和解決方案。當我們開始探討基于RISC-V的AI大算力芯片時，即便在推理場景乃至AI PC和更多端側應用之上，這也是個重要議題。

論壇圓桌環節有個議題是相關AI平板的。彭建英（中國RISC-V產業聯盟秘書長；芯來智融半導體科技（上海）有限公司CEO）就提到芯來的超標量亂序核IP具備性能方面的優勢，“RISC-V CPU，加上可擴展性，性能上要（在智能數字教育領域）滿足需求不是問題，關鍵是怎么去突破軟件，包括底層軟件、操作系統、上層應用。”

謝濤給出的數據是，自CUDA誕生以來，英偉達已經為CUDA生態投入了120億美元；而且目前最新的數據是，CUDA開發者數量已經來到了450萬——且基于歷史數據，這個值還在快速增長。

其他絕大部分AI芯片市場參與者的軟件棧各自為戰，生態呈現出“小、散、弱”的局面。硬件架構的分散，指令集的不統一，以及軟件生態的碎片化，也都導致開發者在不同生態間的遷移成本很高。即便兼容CUDA是某些AI生態的解決方案，但這“只能解燃眉之急”，“長期仍然受制于人”。

以英偉達CUDA生態相對封閉的特點，謝濤提出歷史上能夠擊敗閉源霸主生態的往往是一個開源的生態，就好像Android對陣iOS，Linux對陣Windows一樣。而RISC-V指令集本身，恰好是開源的，而且目前已經有了相當的芯片出貨量及開發生態基礎。

芯原與谷歌攜手合作的開源項目Open Se Cura，配備基于RISC-V的環境感知和傳感系統，包括系統管理、機器學習與硬件信任根功能…

比較有趣的是，今年WAIC世界人工智能大會上，RISC-V國際基金會理事長戴路說RISC-V是最適合AI的指令集架構；去年我們采訪Tenstorrent首席CPU架構師練維漢，他也說RISC-V非常適合做AI計算。這次謝濤給出基于RISC-V構建AI算力優勢的解釋是這樣的：

RISC-V的開放與靈活性必然是第一要素。AI工作負載變化快，梁中書也提到AI負載有其“個性化”，需要優化才能達到最佳效率。而RISC-V的靈活性，決定了可以根據需求來定制AI加速器。練維漢也曾說過，Tenstorrent最早做CPU設計時考慮過Arm，但Arm“限制很多，經常需要去問Arm可不可以這樣、可不可以那樣”，還會得到否定的答案。

對應的，高度可擴展性也是論壇現場多位嘉賓提到RISC-V適用AI的關鍵。根據需要添加自定義指令集擴展，增強AI計算性能與效率。前文提到松耦合、緊耦合的RISC-V AI芯片皆可反映上述這兩點。另外謝濤還提到了RISC-V的功耗、效率優勢，以及作為開源指令集獲得全球生態系統和社區支持。

即便當前RISC-V仍然面臨著生態碎片化、商業企業對RISC-V產品的資源投入不足、缺少組織統籌，及產學研協同不緊密、未形成有效合力等問題；謝濤認為，采用自下而上的思路，以RISC-V指令集擴展+開源系統軟件棧（并推成標準）為“公共開源根”，去利用國際開放/開源社區“長葉”（基于開源根的商業軟件/芯片），形成“根技術開源”與“葉技術競爭”的技術生態優勢；

加上先從端與邊緣AI起步，推動軟件生態發展和應用，帶動云上軟件生態，“農村包圍城市”，與現有巨擘抗衡；并依托日益強大的RISC-V軟硬件生態，聚焦全球開源工具創新......最終是能夠達成Android→iOS或Linux→Windows的競爭格局的。

格外值得一提的是，在謝濤看來Triton（開源的GPU編程語言）和SYCL（和CUDA同層級的跨平臺抽象層）是RISC-V AI生態發展的關鍵——這一點電子工程專輯此前也撰文提過。Triton實現了硬件無關的中間層表示，生態兼容負擔小，編程難度相較CUDA更低，“仍能實現接近于CUDA極限生態的性能”；而SYCL被謝濤類比為“編程模型中的RISC-V”（相對的CUDA是編程模型中的x86）。

當然，這就是更為長遠的RISC-V AI未來了。

半導體熱門技術的最佳輔助

滴水湖論壇現場的產品介紹實際并不單純集中在AI上，比如基于RISC-V的車規級MCU、工業以太網MCU，乃至FTTR光網絡芯片、面向AR/VR的高性能SoC這類相對新興的應用。

有些類型的芯片還相當顛覆我們的認知，比如說芯昇科技的超級SIM芯片，基于RISC-V的同時，還進行了指令擴展——即便規模相對較小，但也在加速特定算子、形成專用指令、解決具體應用場景的問題上大幅提升了效率。還有珠海笛思科技有限公司的Wi-Fi 6芯片，基于通信+AI融合的思路，其自定義指令集基于RISC-V VLIW和SIMD對無線通信系帶領域和經典AI領域算法做了重點優化…

這些其實都能看出RISC-V的靈活性在不同應用領域的呈現，也是非開源的競品指令集完全不具備的。

去年我們在談Ventana的RISC-V核心時，曾提到這家公司的獨特商業模式：面向AI芯片客戶提供基于RISC-V CPU的chiplet。當時我們曾判斷，RISC-V的靈活和擴展性，可能會一定程度顛覆IP供應商的市場定位。它讓更多的IP供應商不得不開始去做更完整的chiplet方案。

Sameer Wasson在談當下MIPS的IP業務時，于“滿足生成式AI需求”，就演變為從核心、到集群、再到chiplet。而chiplet作為摩爾定律停滯時代的算力擴展解決方案之一，在未來將變得越來越不可或缺。芯原的下一代自動駕駛平臺也有類似的思路。

考慮RISC-V的靈活和擴展能力，我們始終認為，在這個芯片設計需以應用為導向的時代里，幾個關鍵要素是共同出現、相輔相成的：異構架構、chiplet、先進封裝，以及RISC-V。

從RISC-V作為半導體領域其他幾項關鍵技術的最佳輔助這個角度來看，RISC-V也是摩爾定律停滯時代，持續推進算力和系統性能向前的絕對主力。雖然這個說法有些武斷，卻正逐漸成為AI時代越來越多人的共識。

即便現在的RISC-V及其生態還面臨各種各樣的問題，比如陳康（珠海笛思科技有限公司CEO）提到的，PPA相比競品的競爭力不足、生態碎片化問題令產品移植難度更大、類似三角函數這樣的基礎指令都尚未標準化——給編譯器、工具鏈和上層應用的構建造成巨大挑戰等...相信在RISC-V生態疾速發展的過程中，這些問題都會得到解決。

不單是技術層面軟硬件生態的發展，還在于諸如2018年RISC-V產業聯盟成立，后續RISC-V專利聯盟啟動，民辦非企業單位“上海開放處理器產業創新中心”籌建，及包括滴水湖中國RISC-V產業論壇、“芯原杯”全國嵌入式軟件開發大賽等行業活動的舉辦都會讓RISC-V生態在保持開放的同時，走向健全和完善——而且要知道，這個過程是在短短幾年內走完的。