①搭載B200芯片的GB200 Grace Blackwell超級芯片系統(tǒng)登場,算力倍增、能耗倍減; ②對于NIM微服務,黃仁勛表示,以后公司將不再需要編寫軟件,而是組裝AI模型; ③在具身智能方向,英偉達也公布了一系列新的進展。
財聯社3月19日訊(編輯 史正丞)北京時間周二清晨,英偉達GTC 2024會議中最重要的一項日程——創(chuàng)始人兼CEO黃仁勛的主題演講不久前剛剛結束。如同市場預期的那樣,全球資本市場剛剛見到了新的算力芯片/服務器,以及一堆AI軟件層面的應用。
與過往一樣,截至發(fā)稿,從黃仁勛開始講話起,英偉達已經洋洋灑灑發(fā)布了40篇新聞稿,本文將著重概述一些今天早晨的重點進展,供投資者參考。
更大的GPU——Blackwell架構如期登場
雖然事前全市場都知道今天會有一款新旗艦算力GPU登場,但黃仁勛在演講中并沒有把名字講清楚——僅表示推出了一款更大、更強的Blackwell架構GPU,一度引發(fā)媒體的混亂。但從官網的數據來看,今天老黃手里拿的應該是B200芯片(下圖左邊),官網上也列出Blackwell架構存在B100芯片。英偉達并沒有披露售價,僅表示將在年內向合作伙伴發(fā)貨。
英偉達披露,新的B200芯片擁有2080億個晶體管,采用臺積電定制的4NP工藝制造。值得一提的是,這次的芯片將兩個die連接成一個統(tǒng)一的GPU,die之間的通信速度可以達到10TB/秒。不出意外,這款芯片使用是192GB的HBM3E內存。
而GB200 Grace Blackwell超級芯片,是由2個B200芯片(4個die)和Grace CPU組合而來。相較于H100,大語言模型性能提升30倍,同時能耗只有25分之一。
老黃在演講中舉例稱,如果要訓練一個1.8萬億參數量的GPT模型,需要8000張Hopper GPU,消耗15兆瓦的電力,連續(xù)跑上90天。但如果使用GB200 Blackwell GPU,只需要2000張,同樣跑90天只消耗四分之一的電力。不只是訓練,生成Token的成本也會隨之顯著降低。
配合這一套新芯片,英偉達還推出了第五代新NVLink芯片、使用液冷的GB200 NVL72服務器,以及X800系列網絡交換機、下一代人工智能超級計算機NVIDIA DGX SuperPOD等一系列產品。
開發(fā)軟件新方式:NIM微服務
講完硬件更新后,黃仁勛也將剩下的時間投入軟件生態(tài)。除了地球氣候數字孿生、醫(yī)藥開發(fā)AI外,英偉達也在AI Enterprise 5.0中推出了一系列“微服務”,包括簡化企業(yè)將AI模型部署到生產環(huán)境中的NIM。
黃仁勛說到:“以后公司將不再需要編寫軟件,而是組裝AI模型,給它們提出任務,還有工作產品的示例,審查計劃和中間結果。”
英偉達介紹稱,NIM微服務通過打包算法、系統(tǒng)和運行優(yōu)化,并添加行業(yè)標準的API,簡化了AI模型部署過程。這使得開發(fā)人員可以將NIM集成到現有的應用程序和基礎設施中,而無需進行大量定制或專業(yè)知識。
數字孿生支持Vision Pro
英偉達也在周一宣布,Omniverse云現在允許開發(fā)者將他們的工業(yè)場景,從內容創(chuàng)作應用程序發(fā)送到英偉達的Graphics Delivery Network(GDN),借此可以將先進的3D體驗流式傳輸到Apple Vision Pro。
這種新工作流將蘋果Vision Pro的高分辨率顯示與英偉達的云渲染相結合,只需設備和互聯網連接即可提供空間計算體驗。
還有許許多多零碎的官宣
半導體領域,英偉達宣布,臺積電和Synopsys將英偉達計算光刻平臺CuLitho投入先進芯片的生產。
在電信領域,黃仁勛宣布名為NVIDIA 6G的研究云,這是一個由生成式人工智能和Omniverse技術驅動的平臺,旨在推動下一代通信時代的發(fā)展。
交通運輸領域,全球最大電動車公司比亞迪將采用英偉達集中式車載計算平臺DRIVE Thor開發(fā)下一代電動車。此外,比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練,以及英偉達Isaac來設計/模擬智能工廠機器人。
機器人也是整個演講的最后一個環(huán)節(jié)。黃仁勛宣布了多項助力機器人技術開發(fā)的軟件。其中包括Isaac Perceptor軟件開發(fā)工具包,涉及多攝像頭視覺里程測量、三維重建以及深度感知等。還有Isaac Manipulator——機器人手臂感知、路徑規(guī)劃和運動學控制庫。最后他還宣布了一個名為GR00T的項目,這是一個面向人型機器人的通用基礎模型,旨在推動公司在機器人技術和具身智能方面的突破。
最后,黃仁勛在一對使用英偉達Jetson芯片的迪士尼機器人orange和green陪伴下退場,整場發(fā)布會至此落下帷幕。