企業(yè)發(fā)布
首頁 > 企業(yè)發(fā)布 > 詳細內(nèi)容
浪潮信息聯(lián)合英特爾發(fā)布新一代AI服務器,支持8顆Gaudi2加速器
2023/7/13 10:32:27 來源:中國企業(yè)新聞網(wǎng)
導言:7月11日,浪潮信息聯(lián)合英特爾發(fā)布面向生成式AI領域創(chuàng)新開發(fā)的新一代AI服務器NF5698G7。該AI服務器支持8顆OAM高速互聯(lián)的Gaudi2加速器,具備高性能、高擴展、高能效和開放生態(tài)等優(yōu)點,將為AI客戶提供強大的大模型訓練和推理能力。
7月11日,浪潮信息聯(lián)合英特爾發(fā)布面向生成式AI領域創(chuàng)新開發(fā)的新一代AI服務器NF5698G7。該AI服務器支持8顆OAM高速互聯(lián)的Gaudi2加速器,具備高性能、高擴展、高能效和開放生態(tài)等優(yōu)點,將為AI客戶提供強大的大模型訓練和推理能力。
浪潮信息NF5698G7
浪潮信息NF5698G7在6U空間支持8顆基于開放加速模組OAM高速互聯(lián)的Gaudi2 AI加速器,每顆Gaudi2芯片配置96GB HBM高速內(nèi)存,共提供2.1Tbps的P2P互聯(lián)帶寬,支持全互聯(lián)拓撲,滿足大模型訓練張量并行的通信需求;搭載2顆第四代至強處理器,支持AMX/DSA等AI加速引擎。Gaudi2是英特爾推出的深度學習加速器,以多方位性能與能效比提升,為業(yè)界提供了高性能、高性價比的AI算力選項,在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基準測試中,均取得了優(yōu)異的性能表現(xiàn)。
NF5698G7采用高擴展設計,支持12個PCIe5.0 X16的IO擴展,最大支持4800Gbps節(jié)點間互聯(lián)帶寬,滿足大模型流水線并行和數(shù)據(jù)并行的通信需求,可擴展至萬卡AI集群。NF5698G7通過精細化分區(qū)、智能散熱調(diào)控、12V & 54V N+N雙輸入供電等創(chuàng)新設計,實現(xiàn)高功率負載動態(tài)匹配和低電源功率損耗,系統(tǒng)功耗降低8%。
NF5698G7基于全球開放計算OCP開放加速器規(guī)范 OAM/UBB進行產(chǎn)品設計,支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行開發(fā)工具,為生成式AI提供成熟、高性價比的開放生態(tài)產(chǎn)品方案。NF5698G7支持浪潮信息的AI算力資源平臺AIStation,通過對計算資源、數(shù)據(jù)資源、深度學習軟件棧資源進行統(tǒng)一管理,有效提升大模型算力平臺的使用效率,助力客戶加速AI大模型開發(fā)與部署。
浪潮信息高級副總裁、AI&HPC產(chǎn)品線總經(jīng)理劉軍表示:"NF5698G7為生成式AI應用提供了極具吸引力的AI算力平臺,我們與英特爾緊密協(xié)作,優(yōu)化了NF5698G7在多種生成式AI場景的性能表現(xiàn),為AI客戶提供強大的大模型訓練和推理能力,加速AIGC創(chuàng)新步伐、賦力生成式AI產(chǎn)業(yè)創(chuàng)新。"
英特爾執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理Sandra Rivera表示:"英特爾致力于提供基于至強處理器和 Gaudi 深度學習加速器的業(yè)界領先的人工智能解決方案,以及開放、安全且易于編程的軟件,降低AI應用門檻,讓AI惠及所有人。對尋求高性能和高性價比的客戶來說,浪潮信息 NF5698G7 是絕佳選擇。我們將繼續(xù)與浪潮信息合作,在人工智能時代不斷創(chuàng)新。"
浪潮信息是全球領先的AI服務器廠商。據(jù)IDC數(shù)據(jù)報告顯示,浪潮信息在中國AI服務器市場份額連續(xù)六年保持第一。
免責聲明:
※ 以上所展示的信息來自媒體轉(zhuǎn)載或由企業(yè)自行提供,其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本網(wǎng)站證實,對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本網(wǎng)站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內(nèi)容。如果以上內(nèi)容侵犯您的版權或者非授權發(fā)布和其它問題需要同本網(wǎng)聯(lián)系的,請在30日內(nèi)進行。
※ 有關作品版權事宜請聯(lián)系中國企業(yè)新聞網(wǎng):020-34333079 郵箱:cenn_gd@126.com 我們將在24小時內(nèi)審核并處理。
標簽 :
相關網(wǎng)文
一周新聞資訊點擊排行