生態(tài)伙伴實測浪潮NF5488A5 AI訓(xùn)練推理性能大幅提升
2020/12/24 9:17:48 來源:中國企業(yè)新聞網(wǎng)
導(dǎo)言:近日,在GTC China元腦生態(tài)技術(shù)論壇上,中科極限元、趨動科技、睿沿科技等元腦生態(tài)伙伴分享了多個場景下浪潮AI服務(wù)器NF5488A5的實測數(shù)據(jù),結(jié)果表明浪潮NF5488A5大幅提升了智能語音、圖像識別等AI模型的訓(xùn)練和推理性能。
近日,在GTC China元腦生態(tài)技術(shù)論壇上,中科極限元、趨動科技、睿沿科技等元腦生態(tài)伙伴分享了多個場景下浪潮AI服務(wù)器NF5488A5的實測數(shù)據(jù),結(jié)果表明浪潮NF5488A5大幅提升了智能語音、圖像識別等AI模型的訓(xùn)練和推理性能,促進了產(chǎn)業(yè)AI解決方案的開發(fā)與應(yīng)用!
NF5488A5是浪潮自研的新一代AI服務(wù)器,在4U空間內(nèi)支持8顆第三代NVLink全互聯(lián)的A100芯片,可為用戶提供高達5 PetaFLOPS的AI計算性能和超高速帶寬,為各類AI應(yīng)用場景提供強大的計算力支撐。NF5488A5曾屢次打破全球權(quán)威AI測試榜單MLPerf的記錄,基于ImageNet的ResNet50基準(zhǔn)測試顯示,NF5488A5完成訓(xùn)練僅需33.37分鐘,單機性能高居第一;推理性能達到每秒54.9萬張圖片,3倍于去年推理榜單的服務(wù)器最好性能。
在本次GTC元腦生態(tài)技術(shù)論壇上,生態(tài)伙伴展示了與浪潮的合作方案并公布了在NF5488A5上的性能實測數(shù)據(jù)。
中科極限元開發(fā)的智能語音交互解決方案在國內(nèi)處于領(lǐng)先水平,廣泛應(yīng)用于教育、交通、呼叫中心、智能硬件等多個領(lǐng)域,本次在浪潮NF5488A5進行加速。NF5488A5高性能、高帶寬、易部署的特性極大地促進了智能語音模型訓(xùn)練及線上推理。測試數(shù)據(jù)顯示,在相同準(zhǔn)確率下,與原有的系統(tǒng)相比,NF5488A5將模型訓(xùn)練速度提升了50%,單機最大推理路數(shù)提升88%,推理延遲提升65%!
趨動科技與浪潮聯(lián)合打造了業(yè)內(nèi)領(lǐng)先的一體化GPU資源池化解決方案。本次測試采用TensorFlow框架的Benchmark,測試小模型推理、大模型訓(xùn)練等多種AI應(yīng)用場景,驗證趨動科技OrionX AI加速器資源池化方案對浪潮NF5488A5的兼容性和性能。結(jié)果表明,NF5488A5服務(wù)器性能優(yōu)異,部署資源池化方案后,本機性能損耗小于1%,對比以往服務(wù)器的GPU性能,數(shù)據(jù)提升近50%!
睿沿科技推出的高山雨燕工業(yè)視覺平臺是為工業(yè)生產(chǎn)場景構(gòu)建的智能多業(yè)務(wù)管理安全生產(chǎn)管理平臺,可實現(xiàn)遠(yuǎn)程巡檢、作業(yè)安全監(jiān)管、區(qū)域安防等功能。該平臺在計算層使用了浪潮NF5488A5加速訓(xùn)練和推理。實測結(jié)果顯示,在圖片視頻分辨率相同的情況下,模型原來的訓(xùn)練時間為140分鐘,使用NF5488A5之后,訓(xùn)練時間可縮短到105分鐘,速度提升25%。單機最大推理FPS(每秒傳輸幀數(shù))由20800提高到28000,提升35%。
以上實測數(shù)據(jù)顯示,浪潮NF5488A5可廣泛應(yīng)用于圖像視頻、語音識別、金融分析、智能客服等典型AI應(yīng)用場景,幫助AI用戶高效完成AI基礎(chǔ)設(shè)施和開發(fā)環(huán)境的構(gòu)建,縮短開發(fā)周期,顯著提升AI開發(fā)和應(yīng)用效率。
浪潮是全球領(lǐng)先的AI計算領(lǐng)導(dǎo)廠商,其AI服務(wù)器在中國的市場份額已連續(xù)三年保持在50%以上。面對產(chǎn)業(yè)AI化的趨勢,浪潮提出元腦生態(tài),將聚集左右手伙伴、浪潮AI資源,以更加優(yōu)質(zhì)的產(chǎn)品技術(shù)能力和整體方案實施能力助力更多用戶實現(xiàn)智能化轉(zhuǎn)型和升級。在元腦生態(tài)中,浪潮將共享AI計算平臺、AI資源平臺和AI算法平臺。目前元腦生態(tài)吸引了200+左右手伙伴參與,孵化出6大行業(yè)100+解決方案。
免責(zé)聲明:
※ 以上所展示的信息來自媒體轉(zhuǎn)載或由企業(yè)自行提供,其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本網(wǎng)站證實,對本文以及其中全部或者部分內(nèi)容、文字的真實性、完整性、及時性本網(wǎng)站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關(guān)內(nèi)容。如果以上內(nèi)容侵犯您的版權(quán)或者非授權(quán)發(fā)布和其它問題需要同本網(wǎng)聯(lián)系的,請在30日內(nèi)進行。
※ 有關(guān)作品版權(quán)事宜請聯(lián)系中國企業(yè)新聞網(wǎng):020-34333079 郵箱:cenn_gd@126.com 我們將在24小時內(nèi)審核并處理。
標(biāo)簽 :
相關(guān)網(wǎng)文
一周新聞資訊點擊排行
關(guān)于我們 | CENN服務(wù) | 對外合作 | 刊登廣告 | 法律聲明 | 聯(lián)系我們 | 手機版
客戶服務(wù)熱線:020-34333079、34333137 傳真:020-34333002 舉報電話:020-34333002、13925138999(春雷) 舉報郵箱:cenn_gd@126.com
版權(quán)所有:中國企業(yè)新聞網(wǎng) 運營商:廣州至高點網(wǎng)絡(luò)技術(shù)有限公司 地址:廣州市海珠區(qū)江燕路353號保利紅棉48棟1004