全球半導體界達成共識：Chiplet技術將搭上這場AI潮流

中國成立了自己的Chiplet（小芯片，或芯粒）聯盟，由多家芯片設計，IP，以及封裝、測試和組裝服務公司組成，同時推出了相應的互連接口標準ACC 1.0。

在美國打壓，中國尋求半導體產業鏈關鍵環節自主可控的當下，這一聯盟的成立，頗有與由AMD、Arm、英特爾、臺積電和ASE（日月光）主導的UCIe聯盟分庭抗禮的意味。

從技術層面來看，Chiplet的價值和發展前景已經在全球半導體界達成普遍共識。

Chiplet并不是創新概念，它很早就被提出來了，只是市場應用需求沒有發展到這一步，因此長期處于“隱身”狀態。之所以在近幾年火熱起來，主要原因是先進制程（5nm及以下）的成本高的驚人，絕大多數芯片企業難以負擔。Chiplet則可以在很大程度上解決這一問題。

Chiplet可以把傳統的單芯片設計方案改成多芯片（Die）進行設計，并利用先進封裝工藝進行集成。它的優勢主要有以下幾點：

1、提升芯片制造良率，由于良率和芯片的面積有關，面積越大，良率大概率會越低，因此，把一個大芯片分拆成多個小芯片（Die）設計并分別投片，就可以提高良率，良率提升，還可以降低制造成本。

2、以不同的工藝實現一顆芯片，用先進制程制造CPU等計算核心，用相對成熟的制程制造I/O之類的功能塊，可以很好地控制整體成本。

3、設計更加靈活，設計出的Die，通過不同的組合方式，可設計出不同功能的芯片。

雖然有這么多好處，但Chiplet技術并不成熟，各種Die、接口I/O、總線等，與常規的SoC有很大區別，需要制定統一的標準，從而使產業鏈上的設計、制造、封裝等廠商能按照標準操作，才能實現高效、規模化生產。


Chiplet將引發半導體行業新循環

在這個半導體行業正處于周期底部且需求向上切換之際，在生成式AI“智算一體”的需求與Chiplet技術“高密度、低成本”的夾擊下，一場垂直性的行業新循環或將來臨。

由于對數據中心、人工智能、高性能計算和 5G 基礎設施等領域的更高性能和更專業的半導體解決方案的需求的增加，隨著半導體行業尋求創新方法來克服傳統單片芯片設計的局限性，Chiplet市場需求預計將持續增長。

與此同時，新的應用程序和用例也將隨著Chiplet技術及市場的完善陸續出現，從而形成技術支持-市場需求-資金供給的優質循環。

隨后，在其區域劃分之下，報告顯示：亞太地區的Chiplet市場預計將占據主要市場份額：該地區人工智能和數據中心的快速增長推動了對高性能、高能效計算解決方案的需求，使Chiplet成為有價值的組件。該地區是許多無晶圓廠半導體公司的所在地，這些公司設計芯片但外包制造，這些公司經常利用Chiplet來開發尖端產品。

另一方面，北美地區的Chiplet市場份額也將不斷提升：北美的數據中心一直是 Chiplet 技術的重要推動力。云計算和數據分析應用對節能、高性能處理器的需求推動了基于 Chiplet 的服務器處理器的開發；北美在 HPC 領域擁有強大的影響力，機構、研究中心和企業都需要強大的計算解決方案。

Chiplet帶來哪些挑戰？

芯片設計的重大變化之一是關注數據如何在芯片中移動，隨著需要處理的數據量持續增長，這一點非常重要。這引發了一系列變化，例如新材料和不同的設備組裝方式。混合鍵合是人們高度關注的領域之一，而且在行業活動中幾乎總是會引發問題。由于需要比標準互連允許的速度更快地傳輸視頻和大圖像，因此該技術首先在圖像傳感器中實現。例如，UMC 于 2023 年 2 月與 Cadence 簽署了一項協議，提供一個可以加速這一過程的平臺，特別是對于成熟節點，這是許多芯粒將被開發的地方。

例如，當今一些最快的計算機使用諸如市售 Arm 內核之類的組件。關鍵在于數據路徑和與內存的物理連接、硬件-軟件協同設計以及 AI/ML 的稀疏算法。隨著計算變得更加分散，例如汽車和便攜式設備與智能城市基礎設施進行通信，真正的價值可能不再在于誰創造了最快的處理器，而更多地在于無縫連接。

更大的挑戰可能在業務方面。“問題是這是否會轉化為商業芯粒市場，您可以從第三方以低廉的價格采購它并將其集成到您的設計中，”Varas 說。“您需要的不僅僅是標準接口。這里有一個商業模式的問題。如何鑒定芯粒的資格？你如何測試它們？所以標準接口將會出現。但第二部分并不像IP模型的演變那么簡單。情況要復雜得多。這項技術可能是可行的，但它還包括商業模式、供應鏈協調等等。”

此外，商業芯粒還存在數據共享的問題。大型芯片制造商的一大優勢是能夠在公司內部共享數據，以便可以針對最終應用或用例優化芯粒。不同公司之間交換數據要困難得多，因為公司非常擔心數據泄露或被盜。

“有數據安全，也有數據共享，”Lam的Fried說。“這些并不相互排斥，人們必須消化這一點。我們開始打破使用云來完成，我們害怕使用云的事情的障礙。我們正在努力解決的是數據共享以獲得更高的價值。飛機就是一個例子。這些飛機的所有者與飛機發動機制造商共享數字孿生和數字線程的維護記錄和數據，并且他們可以對故障進行建模并進行預測性維護。航空航天行業的一些公司正在與所有這些不同的公司共享其產品的私密數據，這對所有這些公司都有好處。這種情況在我們的行業中并沒有發生太多。這種情況發生在銀行業，比如當你刷信用卡時，它會立即檢查是否存在欺詐行為。這些模型建立在來自多個不同銀行的數據之上，并且全部聯合在一起。這就是我們作為一個行業失敗的地方，因為我們在整個生態系統的數據共享方面落后于銀行業和航空航天業 10 年。”

設計方面還存在其他挑戰。將芯粒集成到封裝中使設計問題遠遠超出了單個芯片的范圍。現在它是需要協同工作的芯片的集合，并且不再由單個團隊在一個地點開發。

“我們已經從設計芯片轉向設計系統，”Synopsys 的 Varas 說。“我們正在處理三個主要問題。我們有新的復雜性向量，這需要系統設計的并行化。而且我們還缺乏人才。如今，60%的EDA用戶是經典半導體公司。另外 40% 是超大規模企業、初創公司以及 ASIC 或 IP 供應商。2019 年至 2022 年間，先進芯片的設計啟動數量增加了 44%，但不斷擴大的生態系統也加劇了碎片化。有更多的選擇和復雜性，這增加了設計的破壞性。”


Chiplet引領人工智能風潮

生成式AI模型擁有數百萬或數十億個參數才能做出推理，需要比SOC所能容納的更多的存儲空間和訪問內存。由于GPT算力提升需求對芯片速度、容量都提出了更高要求，Chiplet技術應用于算力芯片領域有助于大面積芯片降低成本提升良率，便于引入HBM存儲，允許更多計算核心的“堆料”。以Chiplet為首的先進封裝技術被看作目前最佳方案與關鍵技術。

NVIDIA 是全球知名的AI計算先驅，憑借強悍的GPU牢牢統治著全球80%算力芯片市場。英偉達擁有與Chiplet相似的NVLink-C2C技術實現高速、低延遲、芯片到芯片的互連，可支持定制裸片間實現互連。2022 年發布的H100 GPU 芯片，將Chiplet技術與臺積電4nm工藝融合，英偉達通過Chiplet技術將 HBM3 顯存子系統集成到芯片里，超高顯存帶寬、性能和延遲比上一代都有巨大的提升；同代產品GH200架構采用CPU+GPU異構計算方式，NVLink-C2C技術方案通過Chiplet工藝將基于Arm的NVIDIA Grace CPU與H100 Tensor Core GPU整合在一起。

目前市面上的算力芯片Chiplet方案大多以CoWoS為主。CoWoS技術為臺積電悠久的2.5D獨家封裝技術，適用高速運算產品，是目前HBM與GPU之間封裝的主流方案。Nvidia通過Chiplet技術在GPU周圍堆疊HBM方式提高緩存性能和容量。分析師指出，Nvidia H100下一代AI加速器將采用Chiplet設計。

如今以GPT帶火的AI熱潮有增無減，H100已經供不應求，臺積電被英偉達堆積成山的AI GPU訂單所拖累，這讓Nvidia的死對頭——AMD的AI芯片訂單難以下咽，AMD只好尋求另一個可靠且一致的合作伙伴——三星。

AMD是先進封裝技術的領導者，在封裝領域的創新和投資已歷時多年。為實現下一代技術AMD正在計劃加快CPU及GPU規格迭代，具體的動作是全面導入Chiplet設計，以提高核心數及運算速度。

2019年起，AMD從Zen2架構開始采用Chiplet技術。2021年AMD實驗性地發布基于3D Chiplet技術的3D V-Cache。該技術使用臺積電的3D Fabric先進封裝技術。AMD基于自己的建構chiplet生態系統，生產了Ryzen和Epycx86處理器。AMD Ryzen 9 5900X率先采用了這項技術，其中具有64MB L3緩存和堆疊式64MB SDRAM，將可用的L3緩存容量增加了三倍。

2022年AMD正式發布了采用RDNA3架構的新一代旗艦GPU，即RX 7900 XTX和RX 7900 XT。AMD表示，這是公司首度在GPU產品中采用Chiplet技術也是全球首個導入Chiplet技術的游戲GPU。