據微軟 Azure 官方發(fā)布，微軟將過(guò)去十年的超級計算經(jīng)驗和支持超大型 AI 訓練工作負載的經(jīng)驗應用于搭建具備大規?；咝阅艿?AI 基礎架構。微軟 Azure 智能云，特別是以圖形處理單元(GPU)加速的虛擬機(VM)，為微軟及其客戶(hù)的生成式 AI 發(fā)展奠定了基礎。

圖片來(lái)自網(wǎng)絡(luò )/侵刪

　　微軟現推出 ND H100 v5 VM，是 Azure 迄今更強大和高度可伸縮的 AI 虛擬機系列。該虛擬機支持的按需配置可達 8 至上千個(gè)通過(guò) Quantum-2 InfiniBand 網(wǎng)絡(luò )互連的 NVIDIA H100 GPU，使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM，本次推出的虛擬機包含以下創(chuàng )新技術(shù)：

　　8 塊 NVIDIA H100 Tensor Core GPU，通過(guò)下一代 NV Switch 和 NV Link 4.0 互連。

　　在無(wú)阻塞胖樹(shù)網(wǎng)絡(luò )中，每個(gè) GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

　　每個(gè) VM 中的 8 塊本地 GPUs 之間通過(guò) 3.8Tb / s 對分割帶寬的 NV Switch 和 NV Link 4.0 互聯(lián)。

　　第四代英特爾至強可擴展處理器。

　　PCIE 第 5 代主機到 GPU 互連，每個(gè) GPU 帶寬為 64Gb / s。

　　16 信道的 4800 MHz DDR5 內存。

　　IT之家注：NVIDIA Quantum-2 采用第七代 NVIDIA InfiniBand 架構，可為 AI 開(kāi)發(fā)者和科學(xué)研究人員提供超強網(wǎng)絡(luò )性能和豐富功能，幫助他們解決充滿(mǎn)挑戰性的問(wèn)題。NVIDIA Quantum-2 通過(guò)軟件定義網(wǎng)絡(luò )、網(wǎng)絡(luò )計算、性能隔離、高級加速引擎、遠程直接內存訪(fǎng)問(wèn) (RDMA) 以及高達 400 Gb / s 的超快的速度，為先進(jìn)的超級計算數據中心提供助力。

　　微軟表示，大規模 AI 已內置于 Azure 的 DNA 中。對大型語(yǔ)言模型研究(如圖靈)的初始投資，以及諸如在云中構建第一臺 AI 超級計算機等里程碑，都為生成式 AI 的問(wèn)世做好了充分準備。Azure 機器學(xué)習等 Azure 服務(wù)使客戶(hù)能夠訪(fǎng)問(wèn) AI 超級計算機，以進(jìn)行模型訓練。Azure OpenAI 服務(wù)使客戶(hù)能夠利用大規模生成式 AI 模型的強大功能?！敢幠！挂恢笔?Azure 優(yōu)化 AI 基礎設施的目標之一?，F在，微軟正為各種規模的初創(chuàng )公司和企業(yè)帶來(lái)無(wú)需大量物理硬件或軟件投入的超級計算功能。

　　現在，ND H100 v5 預覽發(fā)布，將成為 Azure 產(chǎn)品組合中的標準服務(wù)。
　?。?a href="http://www.reeanfmc.com">碼上科技）

音悅臺官宣正式回歸 并...

最后一頁(yè)