英偉達新版旗艦AI芯片售價炒到4萬美金 “算力壟斷”難被打破
GPT等大型語言模型帶動的芯片需求飆升趨勢依然沒有平息的跡象。英偉達的最新版旗艦AI芯片H100近日在網(wǎng)上的售價已經(jīng)被炒到4萬多美金,反映了科技行業(yè)對訓練和部署人工智能軟件的需求仍未被滿足。
受AI芯片需求的提振,英偉達今年以來股價累計漲幅超過83%,近一個月的漲幅就接近60%,成為美股科技巨頭企業(yè)中表現(xiàn)最好的公司。
近日,第一財經(jīng)記者搜索eBay時發(fā)現(xiàn),代表著目前英偉達最尖端技術的AI旗艦芯片H100的售價在多個商鋪超過了4萬美金。截至上周五,eBay上至少有8個店鋪掛牌銷售了H100芯片。
業(yè)內(nèi)人士向第一財經(jīng)表示:“H100系列較上一代的A100系列芯片的售價確實要高出不少,但4萬美金的價格是有明顯的炒作成分了。”
A100的價格大約為1萬美金,是目前AI應用的“主力芯片”;另據(jù)了解,此前一些零售商對H100的報價大約在3.6萬元美金,近期的價格又有了顯著上漲。一位內(nèi)部人士稱:“英偉達提供的H100用作人工智能訓練的話,一般是8個GPU搭在一個NVLink板上一起賣。”
在算力需求激增的背景下,英偉達的GPU幾乎成為了唯一的“硬通貨”。馬斯克近期也表示:“看起來身邊所有的人都在買GPU。”馬斯克自己也被曝向英偉達購買了數(shù)千個為人工智能提供算力支撐的GPU芯片,這一消息也推動英偉達股價上漲。
開發(fā)人員正在使用H100芯片構建更強大的大型語言模型(LLM)。訓練AI模型,尤其是像GPT這樣的大型模型,通常需要數(shù)百個高端的英偉達AI芯片協(xié)同工作。例如,為了打造ChatGPT,微軟斥資數(shù)億美元購買了數(shù)萬顆英偉達A100芯片。
今年早些時候,英偉達還宣布推出新服務,允許一些企業(yè)以每月37000美元的價格租用搭載其人工智能芯片A100的超級計算機DGX。
英偉達表示,H100是第一款針對特定AI架構進行優(yōu)化的芯片,該架構支撐著AI的眾多最新進展(transformers)。 行業(yè)專家表示,要構建比目前可用的模型更大、數(shù)據(jù)需求量更大的模型,將需要更強大的芯片。
H100芯片于去年年初發(fā)布,在去年9月量產(chǎn)。與上一代A100芯片相比,H100包括了大量的技術更新和升級,所有設計均達到新的性能和效率水平。Hopper包含800億個晶體管,它是使用定制的臺積電N4(4納米)工藝制造而成的。此前,A100的晶體管數(shù)量為540億個。
目前,H100芯片未向中國市場供應,而是使用替代產(chǎn)品A800和H800,這也是目前大部分中國開發(fā)者在開發(fā)大型語言模型時使用的芯片。
上個月的英偉達GTC技術峰會上,黃仁勛接受第一財經(jīng)記者采訪時表示:“在中國,我們有特別定制的Ampere和Hopper芯片。但是,這些會通過中國云提供商,比如阿里巴巴、騰訊百度這些來提供落地的能力,我完全相信他們有能力去提供頂級的系統(tǒng)服務,對于中國初創(chuàng)公司一定會有機會來開發(fā)自己的大語言模型。”
為打破英偉達芯片的“算力壟斷”,谷歌公司正在加速尋求新的自研方案。谷歌研究人員本月早些時候在一篇論文中公布了用于訓練人工智能模型的超級計算機的技術細節(jié),并宣稱該系統(tǒng)比英偉達的超算系統(tǒng)更快且功耗更低。
谷歌還介紹了如何將4000多個自研的第四代TPU芯片連接成一臺超級計算機,這些芯片通過協(xié)同來訓練模型。谷歌還稱,對于同等大小的系統(tǒng),其TPU芯片比基于英偉達A100芯片的系統(tǒng)快1.7倍,能效高1.9倍。
谷歌沒有將其TPU芯片與英偉達的H100進行比較,但暗示該公司正在開發(fā)下一代的TPU,將與H100競爭。
