漲幅37%！英偉達(dá)GPU持續(xù)缺貨漲價！
隨著ChatGPT帶火的AI熱潮持續(xù)升溫，行業(yè)內(nèi)布局大型語言模型的企業(yè)逐漸增多，對算力的需求也在顯著提高。目前英偉達(dá)GPU價格不僅水漲船高，交貨周期也被拉長，部分新訂單可能要到12月才能交付。
A100價格漲幅達(dá)37.5%，A800價格漲幅達(dá)20%
據(jù)集微網(wǎng)消息，有代理商透露，英偉達(dá)A100價格從去年12月開始上漲，截至今年4月上半月，5個月價格累計漲幅達(dá)到37.5%；同期A800價格累計漲幅達(dá)20.0%。同時，英偉達(dá)GPU交貨周期也被拉長，之前拿貨周期大約為一個月，現(xiàn)在基本都需要三個月或更長。甚至，部分新訂單“可能要到12月才能交付”。
供需的巨大鴻溝面前，在這一情形之下，眾多客戶也不得不“勒緊腰帶”。據(jù)集微網(wǎng)文章指出，國內(nèi)可用于訓(xùn)練AI大模型的A100大約有4萬-5萬個，供應(yīng)相當(dāng)吃緊，一些云服務(wù)廠商已嚴(yán)格限制內(nèi)部使用這些先進(jìn)芯片，以將其保留至需要強(qiáng)力運(yùn)算的任務(wù)。
值得一提的是，類似的事情在微軟內(nèi)部也早已發(fā)生。3月已有外媒報道指出，微軟內(nèi)部陷入AI服務(wù)器硬件短缺的窘境，不得不對AI硬件資源采取“配額供給”機(jī)制，限制公司內(nèi)部其他AI工具開發(fā)團(tuán)隊的資源用量。
英偉達(dá)GPU漲價始末
拉長時間線來看，有GPU業(yè)內(nèi)人士指出，實際上從去年6月起，英偉達(dá)就已宣布上調(diào)A100價格，漲幅20%左右，渠道商在加緊囤貨。至于英偉達(dá)A800，在ChatGPT火爆之前就已出現(xiàn)漲價，但反映到市場則有一定的滯后性，趕上ChatGPT爆火這一時間點，更放大了這一現(xiàn)象。
GPU業(yè)內(nèi)人士表示：“英偉達(dá)GPU漲價與ChatGPT有一定的關(guān)聯(lián)性，且交貨周期也受到了連帶的影響，導(dǎo)致市場上出現(xiàn)了眾多炒卡的行為。”
此外，在海外電商平臺上，英偉達(dá)新旗艦級GPU H100的價格在4月中旬就已炒到了超過4萬美元。
如今各家科技巨頭爭相推出自家大模型，GPU需求量持續(xù)攀升。OpenAI指出，AI大模型要持續(xù)取得突破，所需要消耗的計算資源每3~4個月就要翻一倍，資金也需要通過指數(shù)級增長獲得匹配。
業(yè)內(nèi)人士也表示，AI大模型訓(xùn)練成本之一是基礎(chǔ)算力，如果價格持續(xù)上漲，無論是互聯(lián)網(wǎng)、AI大廠、還是創(chuàng)業(yè)新貴，要追加的投入都可能遠(yuǎn)超當(dāng)初。
GPU筑起大模型算力門檻
眾所周知，芯片能力直接影響著高算力訓(xùn)練效果和速度，相較于基于CPU芯片的通用算力，AI所需的智能算力則主要基于GPU、GPGPU及AISC等AI芯片所提供算力，用于人工智能的訓(xùn)練和推理。其中，GPU是一種專門用于處理圖形、視頻、游戲等高性能計算的硬件設(shè)備，憑借相較于其他硬件在算力方面的較大優(yōu)勢脫穎而出，同時隨著英偉達(dá)A100、H100等型號產(chǎn)品的發(fā)布，前款產(chǎn)品在AI推理時吞吐量是CPU的249倍。GPU已成為當(dāng)前AI算力的核心硬件。
中金公司研報表示，多GPU互聯(lián)能力加強(qiáng)可以提高并行計算能力，因而算力提升對GPU數(shù)量的要求日益提高。隨著單GPU的計算能力越來越難以應(yīng)對深度學(xué)習(xí)對算力的需求，英偉達(dá)已經(jīng)開始用多個GPU去解決問題。對此，業(yè)內(nèi)分析認(rèn)為，高端GPU的數(shù)量基本決定了一個廠商能夠練多大的模型，后期將成為業(yè)內(nèi)判斷企業(yè)大模型能力的重要指標(biāo)。
據(jù)TrendForce數(shù)據(jù)顯示，如果以英偉達(dá) A100 顯卡的處理能力計算，GPT-3.5大模型需要2萬塊GPU來處理訓(xùn)練數(shù)據(jù)。亦有業(yè)內(nèi)公認(rèn)看法，做好AI大模型的算力門檻是1萬枚A100芯片。
目前，全球GPU市場主要由英偉達(dá)、英特爾和AMD三家巨頭壟斷，去年Q4獨立GPU份額分別為85%、6%、9%。其中，人工智能、云端計算和獨立GPU主要為英偉達(dá)主導(dǎo)，A100和H100最高浮點算力分別實現(xiàn)19.5 TFLOPS 和67 TFLOPS。
