英偉達B200芯片及新架構發布,加碼具身智能
發布最強芯片B200,可組超級芯片GB200
英偉達全新推出的GPU平臺Blackwell,兼容Hopper的普通系統以及連接Grace CPU的專用系統。
該平臺催生了B200芯片,其晶體管數量高達2080億,遠超H100的800億。
這一顯著增長意味著B200芯片具有強大的并行計算能力,英偉達宣稱其為全球領先的人工智能芯片。
B200能夠在十萬億級參數模型上實現高效的AI訓練和實時的LLM(大語言模型)推理。
B200由兩個超大型Die(裸片)封裝組合而成,內含超過2080億個晶體管,較前一代的800億個晶體管數量翻了一番。
此外,整塊芯片還封裝有192GB高速HBM3e顯存,以滿足高性能計算的需求。
通過將Grace CPU與兩個B200 GPU結合,形成了超級芯片GB200。
與H00芯片相比,GB200為大模型推理負載提供了30倍的性能提升,同時降低了25%的成本和能耗。
與相同數量的英偉達H100 Tensor Core GPU相比,GB200 NVL72在LLM推理工作負載方面的性能最多可提升30倍,成本和能耗最多可降低25倍。
此外,英偉達還發布了基于GB200的DGX Super Pod一站式AI超算解決方案。
該方案采用高效液冷機架,配置8套DGX GB200系統,即288顆Grace CPU和576顆B200 GPU,內存總量達240TB。
其FP4精度計算性能高達每秒11.5百億億次,相比上一代產品,推理性能提升30倍,訓練性能提升4倍。
值得注意的是,英偉達此次轉向多芯片設計,放棄了傳統的單體芯片策略。
這一轉變源于B200所采用的臺積電改進版N4P工藝,在晶體管密度上并未實現顯著突破。
與此同時,H100芯片已接近其理論最大尺寸。因此,采用雙芯片設計似乎是一種合理的選擇。
[Blackwell]成為下一代AI平臺
Blackwell是一款專為數據中心設計的先進芯片平臺,針對當前熱門的AI大模型進行優化,顯著提升了訓練和推理性能以及能效。
與英偉達的Grace CPU和新一代網絡芯片等產品相結合,Blackwell共同構成了一個完整的生成式AI解決方案。
Blackwell不僅僅是一款芯片,更是一個全新的技術平臺。
基于該平臺,英偉達衍生出了包括GPU、AI超級芯片、服務器、大型計算集群和云服務在內的多套解決方案,為用戶提供全方位的技術支持。
新款GPU架構[Blackwell]以美國數學家David Harold Blackwell命名,其中的GPU芯片B200采用了臺積電4NP制造工藝。
在訓練方面,Blackwell架構展示了顯著效率。以往90天內,訓練一個1.8萬億參數規模的模型需要8000個Hopper架構的GPU,并消耗15兆瓦的功率。
而現在,僅需2000個Blackwell架構的GPU,功率降低至4兆瓦,即可在相同時間內完成任務。
在推理領域,Blackwell架構的芯片性能是先前Hopper架構芯片的30倍。
除了硬件性能的提升,Blackwell還引入了第二代Transformer引擎。
該引擎通過為每個神經元使用4位而不是8位,實現了計算、帶寬和模型大小的兩倍提升。
同時,配備的第五代NVLink技術為每個GPU提供了1.8TB/s的雙向吞吐量,確保了多達576個GPU之間的無縫高速通信。
目前,亞馬遜云科技、戴爾科技、谷歌、Meta、微軟、OpenAI、甲骨文、特斯拉和xAI等知名企業已計劃采用Blackwell產品,以推動其AI技術和應用的進一步發展。
發布人形機器人,加碼具身智能
英偉達在達到上一個萬億市值的過程中,主要得益于其在GPU與算力領域的卓越表現。展望未來,公司預測機器人開發領域將成為其市值增長的新動力。
今年初,英偉達資深科學家Jim Fan宣布成立GEAR工作室,其研究成果和研究環境為英偉達的新機器人解決方案奠定了堅實的基礎。
英偉達近期發布了名為Project GR00T的人形機器人基礎模型。這一模型具備通用性,可以作為機器人的核心處理器,使機器人具備學習和執行各種任務的能力。
通過語言、視頻和人類演示,GR00T能夠理解自然語言,模仿人類動作,并快速學習協調性、靈活性以及其他技能,從而與現實世界融合并與人類進行互動。
此外,英偉達對其針對機器人市場的Isaac機器人平臺進行了重大更新。
新推出的Jetson Thor人形機器人計算機,基于Thor芯片,能夠執行復雜任務并處理多個傳感器數據。
該計算機具備每秒800萬億次8位浮點運算的AI性能,可以運行GR00T等多模態生成式AI模型,并簡化設計和集成流程。
英偉達正在構建三大平臺——IAI、Omniverse和ISAAC,這些平臺均與機器人產業緊密相關。
IAI搭載DGX系列產品,用于模擬物理世界;Omniverse搭載RTX和OVX系列產品,驅動數字孿生的計算系統;而ISAAC則搭載AGX系列,驅動人工智能機器人。
同時,ISAAC Lab整合了ISAAC MANIPULATOR加速庫平臺和ISAAC PERCEPTOR軟件庫,分別用于提升機械臂的靈敏度和精確度以及服務機器人的感知能力。
英偉達透露,他們正在與多家人形機器人公司合作開發一個綜合AI平臺,包括1X Technologies、Agility Robotics、Apptronik、波士頓動力公司、Figure AI、傅利葉智能、Sanctuary AI、宇樹科技和小鵬鵬行等。
這一戰略舉措有望為英偉達帶來下一個萬億市值的增長空間。
結尾:
在黃仁勛看來,英偉達站在計算科學和物理等一切科學的交叉點,成為新工業革命的引擎。
除了硬件系統,英偉達也利用生成式 AI 構建了一系列元宇宙、工業數字孿生、機器人訓練軟件體系。
如今,黃仁勛已經在生成式AI領域拔得頭籌,帶領著下一場工業革命的開啟。
