企業(yè)發(fā)布
首頁 > 企業(yè)發(fā)布 > 詳細(xì)內(nèi)容
CSDN「智研社-The Intelliger」共話大模型技術(shù)演進(jìn)與 AI Infra 創(chuàng)新
2024/7/31 16:07:34 來源:中國企業(yè)新聞網(wǎng)
導(dǎo)言:7 月 28 日下午,CSDN 高端技術(shù)領(lǐng)導(dǎo)者社群「智研社-The Intelliger」第三期活動(dòng)在北京鼎好超互聯(lián) AGI 科技生態(tài)創(chuàng)新空間成功舉辦。
7 月 28 日下午,CSDN 高端技術(shù)領(lǐng)導(dǎo)者社群「智研社-The Intelliger」第三期活動(dòng)在北京鼎好超互聯(lián) AGI 科技生態(tài)創(chuàng)新空間成功舉辦。
活動(dòng)特別邀請(qǐng)到 Stability AI 機(jī)器學(xué)習(xí)運(yùn)維主管、知名 AI 開源組織 LAION 工程負(fù)責(zé)人 & 創(chuàng)始人 Richard Vencu 和 CSDN 創(chuàng)始人 & 董事長、中國開源軟件推進(jìn)聯(lián)盟副主席蔣濤進(jìn)行深度對(duì)話,CSDN 高級(jí)副總裁李建忠、Momenta 工程質(zhì)量負(fù)責(zé)人鄒欣、華為"天才少年"申博、白?萍紕(chuàng)始人盧億雷、榮耀首席專家張軼博等重磅嘉賓到場(chǎng),匯聚了大模型技術(shù)專家、大廠技術(shù)大牛、大模型公司 CXO、生態(tài)合作伙伴代表。現(xiàn)場(chǎng)嘉賓一起交流思想、分享經(jīng)驗(yàn),進(jìn)行 AGI 相關(guān)前沿科技的深入探討。
第三期智研社-北京站活動(dòng)現(xiàn)場(chǎng)合影
「智研社-The Intelliger」由 CSDN CTO 俱樂部重磅升級(jí)而來。CSDN 高級(jí)副總裁李建忠在開場(chǎng)中為大家介紹了智研社未來發(fā)展的三個(gè)方向:
一是為技術(shù)人提供充分溝通交流的平臺(tái);
二是提供 AGI 技術(shù)發(fā)展與應(yīng)用實(shí)踐的探討與合作空間;
三是帶領(lǐng)中國 AGI 技術(shù)人走向全球,參與國際 AGI 技術(shù)交流,抓住 AI 爆發(fā)帶來的機(jī)遇。
在當(dāng)今快速發(fā)展的人工智能領(lǐng)域,大規(guī)模計(jì)算資源的管理成為了一個(gè)關(guān)鍵挑戰(zhàn)。Stability AI 機(jī)器學(xué)習(xí)運(yùn)維主管、知名 AI 開源組織 LAION 工程負(fù)責(zé)人 & 創(chuàng)始人 Richard Vencu 在現(xiàn)場(chǎng)帶來了《在 AWS 云上打造 Stability AI 超級(jí)計(jì)算機(jī)》的主題演講,深入闡述了在云環(huán)境中運(yùn)行 5000 個(gè) GPU 的經(jīng)驗(yàn),揭示了這一規(guī)模計(jì)算所面臨的挑戰(zhàn)及其解決策略。
Richard Vencu,Stability AI 機(jī)器學(xué)習(xí)運(yùn)維主管、LAION 工程負(fù)責(zé)人 & 創(chuàng)始人
核心挑戰(zhàn)在于:
機(jī)器學(xué)習(xí)訓(xùn)練與推理的差異:Vencu 指出,機(jī)器學(xué)習(xí)訓(xùn)練本質(zhì)上不是一個(gè)網(wǎng)絡(luò)問題,而機(jī)器學(xué)習(xí)推理則是。這種區(qū)別源于推理需要通過標(biāo)準(zhǔn)化的網(wǎng)絡(luò)通道向全球用戶提供服務(wù)。
多團(tuán)隊(duì)需求管理:不同 AI 團(tuán)隊(duì)對(duì)規(guī)模和上市時(shí)間的要求各不相同,導(dǎo)致優(yōu)先級(jí)不斷變化。這要求資源管理系統(tǒng)具有高度的靈活性。
共享環(huán)境中的信任問題:在共享的高性能計(jì)算(HPC)集群中,用戶通常無法獲得 root 訪問權(quán)限,這限制了系統(tǒng)的靈活性。
大規(guī)模資源管理:主要目標(biāo)是減少 GPU 的閑置時(shí)間,提高利用率,并減少因缺陷導(dǎo)致的停機(jī)時(shí)間。
使用追蹤:需要精確追蹤每個(gè)項(xiàng)目和用戶的資源使用情況,以便進(jìn)行報(bào)告、稅務(wù)處理和計(jì)費(fèi)。
作為解決方案,Vencu 推薦使用 SLURM 作為資源調(diào)度器。SLURM 是一個(gè)有20多年歷史的開源系統(tǒng),維護(hù)良好,提供搶占和重新排隊(duì)機(jī)制(腳本需要意識(shí)到這一點(diǎn)并能夠自行恢復(fù))、跨不同優(yōu)先級(jí)的優(yōu)先機(jī)制和公平共享機(jī)制。這些功能有效解決了最大的挑戰(zhàn)——最小化 GPU 閑置時(shí)間。
在現(xiàn)場(chǎng),Vencu 和到場(chǎng)嘉賓進(jìn)行了互動(dòng),為那些希望在云中部署大規(guī)模 AI 計(jì)算資源的開發(fā)者提供了寶貴的見解和實(shí)踐指導(dǎo)。云環(huán)境中管理大規(guī)模 GPU 資源是一項(xiàng)復(fù)雜的任務(wù),涉及多個(gè)方面的挑戰(zhàn)。通過采用適當(dāng)?shù)馁Y源調(diào)度策略、嚴(yán)格的安全措施、靈活的項(xiàng)目管理以及全面的監(jiān)控系統(tǒng),可以顯著提高資源利用率,降低成本,同時(shí)滿足不同團(tuán)隊(duì)的需求。
隨著大模型的廣泛應(yīng)用,AI 技術(shù)已經(jīng)在自然語言處理、計(jì)算機(jī)視覺、多模態(tài)理解等領(lǐng)域取得了顯著的突破。大模型強(qiáng)大的生成能力和理解能力,還在各種領(lǐng)域的實(shí)際應(yīng)用中展現(xiàn)了巨大的潛力。然而,大模型的訓(xùn)練和推理需要龐大的計(jì)算資源,AI 基礎(chǔ)設(shè)施(AI Infra)的建設(shè)成為了當(dāng)前技術(shù)發(fā)展的關(guān)鍵。
為了解答這一系列問題,由 Momenta 工程質(zhì)量負(fù)責(zé)人、CSDN 《新程序員》內(nèi)容顧問鄒欣主持,Stability AI 機(jī)器學(xué)習(xí)運(yùn)維主管、知名 AI 開源組織 LAION 工程負(fù)責(zé)人 & 創(chuàng)始人 Richard Vencu 和 CSDN 創(chuàng)始人 & 董事長、中國開源軟件推進(jìn)聯(lián)盟副主席蔣濤展開圓桌對(duì)話,圍繞"2024 大模型技術(shù)演進(jìn)與 AI Infra 創(chuàng)新"的話題進(jìn)行了多個(gè)方面的探討。
以下是他們對(duì)每一方面內(nèi)容的討論焦點(diǎn):
計(jì)算機(jī)系統(tǒng)的架構(gòu)轉(zhuǎn)變
大模型與小模型并存發(fā)展
開源 vs 閉源模型
數(shù)據(jù)與訓(xùn)練挑戰(zhàn)
AGI 展望
現(xiàn)場(chǎng)掠影,嘉賓互動(dòng)活躍
「智研社-The Intelliger」是由 CSDN 發(fā)起創(chuàng)立的高端技術(shù)領(lǐng)導(dǎo)者社群!钢茄猩-The Intelliger」的前身為 CTO 俱樂部,自 2009 年由 CSDN 創(chuàng)辦以來,是極具影響力的高端技術(shù)管理者分享與交流的平臺(tái)。隨著大模型技術(shù)的迅猛發(fā)展,人工智能將成為未來 10 年最有影響力的技術(shù)力量,必將重塑行業(yè)格局并引領(lǐng)創(chuàng)新浪潮。CTO 俱樂部正式更名為「智研社 The-Intelliger」,意味著其將以全新的面貌迎接 AGI 新紀(jì)元的到來。
活動(dòng)主辦方 CSDN 作為中文技術(shù)社區(qū)的領(lǐng)導(dǎo)者,通過打造「智研社-The Intelliger」在全球各大技術(shù)中心城市的系列活動(dòng),匯聚技術(shù)領(lǐng)導(dǎo)者與行業(yè)精英,洞察技術(shù)趨勢(shì),站在 AGI 的新起點(diǎn)上,推動(dòng)技術(shù)革新和戰(zhàn)略思維的交融,引領(lǐng)技術(shù)領(lǐng)導(dǎo)者走向全球。
活動(dòng)聯(lián)合主辦方鼎好超互聯(lián)AGI科技生態(tài)創(chuàng)新空間,鼎好超互聯(lián)"AGI 科技生態(tài)創(chuàng)新空間"由世紀(jì)互聯(lián)與鼎好 DH3 共同打造。空間持續(xù)吸納全國一線 Al 企業(yè)與人才,匯聚市場(chǎng)智算資源、科研資源、資金資源、市場(chǎng)資源和社群資源,為各行各業(yè)面向 AGI 轉(zhuǎn)型提供從訓(xùn)練到推理的新型基礎(chǔ)設(shè)施,致力于成為中國 AGI 發(fā)展的"助推器"和"加速器"。
免責(zé)聲明:
※ 以上所展示的信息來自媒體轉(zhuǎn)載或由企業(yè)自行提供,其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本網(wǎng)站證實(shí),對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本網(wǎng)站不作任何保證或承諾,請(qǐng)讀者僅作參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。如果以上內(nèi)容侵犯您的版權(quán)或者非授權(quán)發(fā)布和其它問題需要同本網(wǎng)聯(lián)系的,請(qǐng)?jiān)?0日內(nèi)進(jìn)行。
※ 有關(guān)作品版權(quán)事宜請(qǐng)聯(lián)系中國企業(yè)新聞網(wǎng):020-34333079 郵箱:cenn_gd@126.com 我們將在24小時(shí)內(nèi)審核并處理。
標(biāo)簽 :
相關(guān)網(wǎng)文
24小時(shí)熱點(diǎn)圖片
一周新聞資訊點(diǎn)擊排行
關(guān)于我們 | CENN服務(wù) | 對(duì)外合作 | 刊登廣告 | 法律聲明 | 聯(lián)系我們 | 手機(jī)版
客戶服務(wù)熱線:020-34333079、34333137 舉報(bào)電話:020-34333002 投稿郵箱:cenn_gd@126.com
版權(quán)所有:中國企業(yè)新聞網(wǎng) 運(yùn)營商:廣州至高點(diǎn)網(wǎng)絡(luò)科技投資有限公司 地址:廣州市海珠區(qū)江燕路353號(hào)保利紅棉48棟1004