(資料圖)
3月28日消息,甲骨文宣布與英偉達(NVIDIA)進一步擴大合作,在全新的Oracle云基礎(chǔ)設(shè)施遠(yuǎn)程軟件服務(wù)(注:全稱Oracle Cloud Infrastructure,簡稱OCI)Supercluster上運行戰(zhàn)略性NVIDIA AI應(yīng)用。英偉達選擇OCI作為該企業(yè)的超大規(guī)模云技術(shù)提供商,提供大規(guī)模的AI超級計算服務(wù)NVIDIA DGX Cloud。此外,英偉達正在運行其生成式AI云服務(wù)NVIDIA AI Foundations,該服務(wù)通過基于OCI的DGX Cloud提供。
NVIDIA DGX Cloud和在基于其運行的NVIDIA AI Foundations服務(wù)利用英偉達認(rèn)證的OCI Supercluster來確保其符合DGX Cloud的高標(biāo)準(zhǔn)。
OCI Supercluster包含了OCI Compute Bare Metal、基于NVIDIA網(wǎng)絡(luò)的超低延遲RoCE集群,以及HPC存儲的選件。英偉達已部署并驗證該超級集群,以支持?jǐn)?shù)千個OCI Compute Bare Metal實例高效處理大規(guī)模并行應(yīng)用。OCI Supercluster網(wǎng)絡(luò)現(xiàn)在可以使用32,768個A100GPU,擴展至4,096個OCI Compute Bare Metal實例?,F(xiàn)在,配備NVIDIA H100GPU的OCI Compute Bare Metal實例已限量供應(yīng)。
此外,英偉達宣布,甲骨文公司正在將NVIDIA BlueField-3DPU添加到其網(wǎng)絡(luò)堆棧中。
NVIDIA AI Foundations建模服務(wù)涵蓋語言、圖像、視頻和3D以及生物學(xué)。企業(yè)可以使用NVIDIA NeMo語言服務(wù)和NVIDIA Picasso圖像、視頻和3D服務(wù),構(gòu)建專有的、特定領(lǐng)域的生成式AI應(yīng)用,從而實現(xiàn)智能聊天和客戶支持、專業(yè)內(nèi)容創(chuàng)建、數(shù)字模擬等。對于生物AI模型訓(xùn)練和推斷,NVIDIA BioNeMo云服務(wù)提供了用于快速定制和部署生成式AI應(yīng)用的工具。
在 OCI上,使用NVIDIA AI Foundations的定制模型和像GPT-3一樣的模型系列可從OCI Supercluster中受益,其中包括專門構(gòu)建的RDMA網(wǎng)絡(luò)。該網(wǎng)絡(luò)可提供近線速的性能和微秒延遲,并消除有關(guān)依賴RDMA的工作負(fù)載的障礙。
標(biāo)簽:
熱門