定制化芯片市場一觸即發,這種技術發揮實力的時候到了!
據九位熟悉英偉達計劃的消息人士向《路透社》透露,英偉達正設立一個新的業務部門,致力于為云計算公司及其他公司設計定制芯片,包括先進的 AI 處理器。
英偉達的目標是在井噴式增長的定制 AI 芯片市場中分得一杯羹,越來越多的公司有意尋找替代英偉達產品的解決方案。
英偉達目前控制著高端 AI 芯片市場約 80%的份額,這個地位使其市值今年迄今已暴漲了 40%,達到 1.73 萬億美元,此前英偉達市值在 2023 年已增長兩倍多。
英偉達的客戶包括 ChatGPT 的開發者 OpenAI、微軟、Alphabet 和 Meta Platforms,競相搶購供應日益減少的英偉達芯片,以便在迅速崛起的生成式 AI 領域展開競爭。
英偉達的 H100 和 A100 芯片為許多這些大客戶充當普遍性的通用 AI 處理器。但這些科技公司已經開始針對具體的需求自行研發內部芯片。這么做有助于降低能耗,并可能降低設計成本、縮短設計時間。
據知情人士透露,英偉達目前正試圖在幫助這些公司開發定制AI芯片方面發揮作用,這些芯片的市場被博通和 Marvell Technology 等競爭對手所主導。
為什么英偉達選擇ASIC?
英偉達選擇ASIC的原因,其實從其新部門面向客戶中可以窺見一二。新部門面向的主要是云計算公司,這和英偉達目前在主要的北美CSP(云計算供應商)企業重疊,包括Google Cloud、AWS、Microsoft Azure和Meta等企業。
這些企業都已經開始進行自家芯片的開發,例如Google的TPU和微軟的AI加速器Maia及專為Azure設計的CPU “Cobalt”。
因此英偉達進軍ASIC的原因有二:第一,占領新的市場。第二,保護自己免受替代。
先來看占領新的市場。數據中心定制芯片的蛋糕并不小,據研究公司650 Group估計,數據中心定制芯片市場今年將增長至100億美元,到2025年將翻一番。
Needham分析師Charles Shi表示,2023年更廣泛的定制芯片市場價值約為300億美元,約占全球芯片年銷售額的5%。
數據中心的定制芯片的市場中有兩大巨頭:博通和Marvell。在高端ASIC市場,博通以35%的市占率,穩坐龍頭寶座,Marvel以12%的市占率居次。博通和Marvell其實都認為隨著數據中心處理器變的多樣,會讓定制芯片的模式重新煥發生機。
原因在于,AI時代中,ASIC芯片也能撐起一片天。
這就談回了一個老問題:ASIC、GPU,誰是最合適的AI芯片?其實這兩類芯片有各自的特點,但在滿足算力需求上是相互競爭的。簡單來說,GPU有先發優勢,技術發展時間長,使用成本較低,但是功耗高。ASIC面向特定用戶需求設計的定制芯片,在吞吐量、功耗、算力水平等方面都有優勢。
在20世紀90年代時,很多大型企業都渴望設計和提供針對特定應用的定制ASIC設備,同時提供更好的性能。Sony、Toshiba和IBM最初設計的用于Sony Playstation 3的Cell Processor就是一個例子。不過,由于ASIC的成本高,隨著為特定產品設計ASIC變得越來越難以合理規模,ASIC的歲月似乎過去。
ASIC和GPU的分歧就在這:成本。
因為從性能來看,針對特定場景或應用所設計的ASIC芯片,會比英偉達所賣的通用GPU更有優勢。以前一直使用GPU,也帶火了英偉達等廠商的業績和股價,但后來大家發現,隨著機器學習、邊緣計算發展,算法更加成熟和穩定,自己完全有足夠的計算需求去分攤ASIC的成本。
尤其ChatGPT爆火以后,英偉達GPU產品掉隊,很多企業都是靠著服務器CPU+ASIC的形式,來滿足用戶對于AI訓練和推理的算力需求。
這就展示出ASIC在AI時代的作用。Marvell的計算與定制集團技術副總裁Mark Kuemerle觀察到:“關于這些數據中心客戶的有趣事實是,如果他們的系統中出現輕微的瓶頸點,問題會被放大1000倍甚至更多(因為它們部署在超大規模中)。”這樣的瓶頸點可能導致NIC卡住。現成的機器學習設備可能無法匹配工作負載或滿足靈活性或可編程性的需求。
Kuemerle說:“這些超大規模數據中心真的必須將一切精確調整到他們的工作負載。那么,他們投資建設定制芯片絕對是值得的。”
ASIC早已成為GPU面臨的強大競爭者。
雖說各大廠商購買英偉達GPU,花錢如流水,既然都是流水,為什么不定制更適合自家應用場景的芯片呢?要定制就要花錢,英偉達同樣想把大廠定制芯片的錢,納入自己的錢包。
再來看“免受替代”是怎么回事。目前,谷歌、亞馬遜、特斯拉和Meta都推出了ASIC芯片。
300 億美元的市場
據研究公司 650 Group 的 Alan Weckel 估計,數據中心定制芯片市場今年將增長到100 億美元,到 2025 年將翻一番。
Needham 的分析師 Charles Shi 表示,2023 年,更廣泛的定制芯片市場價值約為 300億美元,約占全球芯片年銷售額的 5%。
目前,博通和 Marvell 稱霸數據中心的定制芯片設計。
在典型的安排中,英偉達等設計合作伙伴將提供知識產權和技術,但將芯片制造、封裝及其他步驟留給臺積電或另一家合同芯片制造商處理。
英偉達進入這一領域可能會搶占博通和 Marvell 的市場份額。
芯片研究集團 SemiAnalysis 的創始人 Dylan Patel 說:“博通的定制芯片業務規模接近100億美元,而 Marvell 的業務規模約 20 億美元,新來者英偉達是不容忽視的威脅。這對這兩家廠商來說確實是重大利空:更多的競爭對手加入了混戰。”
軟硬件一體化技術爆發
根據,研究機構JIWEI咨詢報告,在芯片設計領域,軟硬件一體化技術在2023年度表現突出,全球專利公開量較去年增長超過1/4,而我國的專利公開量的漲幅更是超過60%。
從專利公開趨勢來看,過去20年里軟硬件一體化技術的創新一直不溫不火,專利年公開量維持在500件上下,而從2022年開始,軟硬件一體化技術迎來了高速發展,2023年度專利公開量已達近千件。
從全球的創新地區分布來看,2023年度我國在軟硬件一體化領域的專利公開量占全球近60%,除中美以外,其他國家在該領域的投入均較小。整體來看我國雖然是全球軟硬件一體化技術創新成果最多的國家,但多數企業競爭實力有限。
這也就是說,不僅具備強大實力的大廠們在技術達到了芯片定制化的水平,在全球芯片設計及半導體領域已經達成一種共識,那就是芯片定制是一種趨勢,雖然不是每個廠商都可以實現,但技術的積累不容錯過!
