NVIDIA 創辦人兼行政總裁黃仁勳於 COMPUTEX 2024 大會前在台灣大學發表演講，強調 AI 和加速運算將帶動新工業革命。黃仁勳介紹了新一代半導體、軟件和系統，表示 NVIDIA 目標是減低成本並推動可持續發展。他在演講中指出，生成式 AI 會為各行各業帶來極大轉變，同時能夠為創新和增長開闢新機遇。
重點 1：「一年節奏」：每年推出全新半導體
黃仁勳在 COMPUTEX 2024 展覽會前於台大體育館發表主題演講，強調 AI 和加速運算的交匯將重新定義未來。黃仁勳在演講中透露未來新半導體發布路線圖，將在每年推出全新的半導體。黃仁勳指，NVIDIA 的基本哲學非常簡單，「將會以一年為節奏，建立整個數據中心規模，分解並以一年為週期出售，將技術推向極限。」
重點 2：Blackwell 平台
席間黃仁勳展示了「Rubin 」，將取代即將推出的「Blackwell」 。Rubin 架構將搭載全新 GPU 和基於 Arm 架構的新 CPU Vera 及先進網絡技術 NVLink 6、CX9 SuperNIC 和 X1600 整合 InfiniBand/Ethernet 交換機。
Blackwell 處理器包含 2080 億個電晶體，並採用專為 NVIDIA 度身訂造的台積電 4NP 製程製造。所有 Blackwell 產品都配備兩個具有光罩限制的晶粒，透過每秒 10 TB的「晶片對晶片互連技術」，在一個顯示卡超級晶片中，提供兩個顯示卡晶片的功能。
台灣作為全球 IT 樞紐，主要電腦製造商如 ASRock Rack、ASUS、GIGABYTE 等，均已開始採用 NVIDIA 的 GPU 和網絡解決方案，創建雲端、內部和邊緣 AI 系統。NVIDIA 的 MGX 模塊化參考設計平台現時開始支援 Blackwell，同時亦提升大型語言模型推理、檢索增強生成和數據處理能力。
重點 3：加速計算即可持續計算
黃仁勳指出，NVIDIA 的創新不僅限於 AI，還包括加速運算，以協助推動新一輪技術創新。NVIDIA 的加速計算平台已全面投入生產，無論個人或企業級 AI 均能夠受惠。黃仁勳指：「加速計算即是可持續計算」。NVIDIA 的一體化計算平台能夠提供高達 100 倍的速度提升之餘只增加 3 倍的功耗，實現每瓦性能提高 25 倍的效果。黃仁勳表示 GPU 及 CPU 結合下，可以巨大節約成本和能源，因此「買得愈多，節省愈多」。
重點 4：每年發布 Spectrum-X
黃仁勳另外又宣布，NVIDIA 將會每年發布 Spectrum-X 產品，以滿足 AI 高性能以太網絡的需求。NVIDIA Spectrum-X 是首個專為 AI 開發的以太網結構，其性能比傳統以太網高 1.6 倍，推動 AI 工作負載的處理、分析和執行。首批採用 Spectrum-X 的 AI 雲服務提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta。
重點 5：NVIDIA NIM 協助開發者生成 AI 應用程式
NVIDIA NIM 為全球 2,800 萬開發者提供了輕鬆創建生成 AI 應用程式的工具。NIM 能在雲端、數據中心及工作站運作。NIM 也讓企業能最大化利用其基礎設施。例如，在 NIM 中運行 Meta Llama 3-8B 生成 AI 代幣的速度可提高至 3 倍。現時有近 200 家技術合作夥伴，如 Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和 Synopsys，正將 NIM 整合到其平台中，以加速特定領域應用的生成 AI 。黃仁勳宣布，Hugging Face 現已提供 NIM，從 Meta Llama 3 開始，用戶可以在雲端運行，或下載到自己的數據中心。
重點 6：RTX AI PC
NVIDIA 透過 RTX 技術將 AI 助手帶入現實，徹底改變消費者的使用體驗。目前已有超過 200 款 RTX AI 筆記型電腦和超過 500 款 AI 驅動的應用程式和遊戲。NVIDIA 另外亦展出能夠感知上文下理的 AI 助手「Project G-Assist」，可為電腦遊戲及應用程式提供感知協助。與此同時，NVIDIA 宣布與 Microsoft 合作，幫助開發者在 Windows 原生和網頁應用中引入新的生成式 AI 功能。透過簡化 API 訪問，開發者可以利用 RTX 加速的 SLMs API，在 Windows Copilot Runtime 上運行的裝置內 RAG 功能。
重點 7：數碼對映（Ditigal Twin）助工廠節省成本
NVIDIA 正推動價工業數碼化轉型，許多領域採用自動化操作和數碼對映技術。台灣製造商正利用 NVIDIA 的技術改造其工廠。Foxconn 在墨西哥瓜達拉哈拉的新工廠已經開始使用數碼對映訓練機械人並改良生產線，幫助提升工廠生產 NVIDIA Blackwell HGX 系統的效率。Foxconn 預計使用數碼對映後，每年可以降低 3 成用電量。
重點 8： AI 協助工廠機械化
全球電子巨頭正將 NVIDIA 的自主機械人整合到其工廠中，利用 Omniverse 模擬測試和驗證這項新 AI 技術。目前全球已有超過 500 萬台預編程機械人。黃仁勳指，未來所有工廠都會機械化，由工廠統一協調機械人，再由機械人製造各種產品。
重點 9：NVIDIA Issac 平台
NVIDIA Isaac 平台為開發者提供了可以構建 AI 機械人的工具，包括 AMR、工業機械臂和類人機械人，由如 Jetson Orin 和 Thor 等 AI 模型和超級電腦提供支援。黃仁勳說：「下一輪人工智能將會是理解物理定律，能夠與我們並肩工作的物理人工智能。」
資料來源：NVIDIA Blog
