企業(yè)發(fā)布
首頁 > 企業(yè)發(fā)布 > 詳細內容
浪潮AI服務器創(chuàng)全球權威MLPerf基準測試18項AI性能紀錄
2020/10/22 20:53:00 來源:中國企業(yè)新聞網
導言:10月21日,全球備受矚目的權威AI基準測試MLPerf公布今年的推理測試榜單,浪潮AI服務器NF5488A5一舉創(chuàng)造18項性能紀錄,在數(shù)據中心AI推理性能上遙遙領先其他廠商產品。
10月21日,全球備受矚目的權威AI基準測試MLPerf公布今年的推理測試榜單,浪潮AI服務器NF5488A5一舉創(chuàng)造18項性能紀錄,在數(shù)據中心AI推理性能上遙遙領先其他廠商產品。
MLPerf是當前全球最具影響力的AI計算基準評測組織之一,由圖靈獎得主大衛(wèi)·帕特森(David Patterson)聯(lián)合谷歌、斯坦福、哈佛大學等單位共同成立,每年組織全球AI訓練和AI推理性能測試并發(fā)榜。此次MLPerf的AI推理基準測試有全球23家公司和單位參與,在數(shù)據中心及邊緣等場景進行AI計算產品的性能比試。今年MLPerf訓練榜單已于7月公布。
浪潮NF5488A5獲數(shù)據中心AI性能絕對優(yōu)勢
此次浪潮NF5488A5一舉創(chuàng)造18項MLPerf推理性能紀錄,成為創(chuàng)紀錄最多的AI服務器。今年的測試中,數(shù)據中心AI性能極受關注,全部參與機構提交了507項性能測試數(shù)據。浪潮NF5488A5創(chuàng)下了數(shù)據中心22個賽項中的13項性能紀錄,以絕對優(yōu)勢領先,NVIDIA DGX取得了5項數(shù)據中心性能紀錄。而在此前的MLPerf訓練榜單中,NF5488A5在最核心的Resnet50訓練任務中也創(chuàng)下了性能紀錄,單機性能高居榜首。
浪潮NF5488A5創(chuàng)造18項MLPerf推理性能記錄
性能大幅提升3倍,全棧AI能力優(yōu)勢凸顯
在此次基準測試中,浪潮AI服務器NF5488A5在開放優(yōu)化(Open)和固定任務(Closed)的ResNet50基準性能測試中,均表現(xiàn)優(yōu)異,相比2019年MLPerf推理榜單的服務器最好性能提升高達3倍。
MLPerf ResNet50推理性能2019 VS 2020對比
MLPerf ResNet50推理性能2019 VS 2020對比
NF5488A5是浪潮自研的新一代AI服務器,是此次MLPerf全球競賽中唯一可以在4U空間內支持8塊安培架構A100芯片實現(xiàn)NVLink高速互聯(lián)的AI服務器。浪潮NF5488A5在系統(tǒng)拓撲上采用了超低延遲設計,支持PCIe 4.0全鏈路極致優(yōu)化,高頻通信單元采用一級拓撲最近連接,最大限度提升處理器到AI芯片間的通信性能。同時,通過配置NUMA節(jié)點,確保每顆處理器與其直連的GPU之間通信性能最優(yōu),最大限度降低通信延遲。此外,NF5488A5通過深度優(yōu)化系統(tǒng)結構設計,確保設備可在高溫環(huán)境下穩(wěn)定運行。
本次基準測試中,浪潮展示出了卓越的AI計算軟硬件協(xié)同優(yōu)化能力。在硬件層面,通過對CPU、GPU硬件性能的精細校準和全面優(yōu)化,使CPU性能、GPU性能、CPU與GPU之間的數(shù)據通路均處于對AI推理最優(yōu)狀態(tài);在軟件層面,結合GPU硬件拓撲對多GPU的輪詢調度優(yōu)化使單卡至多卡性能達到了近似線性擴展;在深度學習算法層面,結合GPU Tensor Core 單元的計算特征,通過自研通道壓縮算法成功實現(xiàn)了模型的極致性能優(yōu)化,在精度無損的情況下性能提升近2倍。
浪潮是全球領先的AI計算領導廠商,其AI服務器在中國的市場份額已連續(xù)三年保持在50%以上。浪潮致力于AI計算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新,并通過元腦生態(tài)與AI領先企業(yè)共同推進AI產業(yè)化和產業(yè)AI化進程。
免責聲明:
※ 以上所展示的信息來自媒體轉載或由企業(yè)自行提供,其原創(chuàng)性以及文中陳述文字和內容未經本網站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本網站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。如果以上內容侵犯您的版權或者非授權發(fā)布和其它問題需要同本網聯(lián)系的,請在30日內進行。
※ 有關作品版權事宜請聯(lián)系中國企業(yè)新聞網:020-34333079 郵箱:cenn_gd@126.com 我們將在24小時內審核并處理。
標簽 :
相關網文
一周新聞資訊點擊排行