2024年3月28日,商湯科技聯(lián)合創(chuàng)始人、大裝置事業(yè)群總裁楊帆出席"智算申城"高峰論壇。
商湯科技聯(lián)合創(chuàng)始人、大裝置事業(yè)群總裁楊帆
會上,楊帆發(fā)表了題為《AI基礎設施新紀元:技術創(chuàng)新與產(chǎn)業(yè)賦能的深度融合》的主旨演講。深入探討了人工智能技術在產(chǎn)業(yè)變革中的核心地位,以及AI基礎設施如何成為推動社會與經(jīng)濟發(fā)展的關鍵引擎。
算力筑基:商湯大裝置前瞻AI Infra
楊帆在主旨演講中指出,人工智能正成為第四次產(chǎn)業(yè)革命的核心驅動力。隨著大模型技術發(fā)展,算力需求呈現(xiàn)超線性增長趨勢。
楊帆強調,上海作為全國智算發(fā)展的引領者,早在2020年便前瞻性布局超大規(guī)模智算中心,商湯也深度參與其中,建設了臨港人工智能計算中心(AIDC),也是全國首個5A級智算中心,為行業(yè)樹立了標桿。通過多年的探索與實踐,商湯已在全國范圍運營超過23000P的算力資源,并以上海為核心,輻射全國,形成了強大的智能算力網(wǎng)絡。
會上,商湯申報的商湯臨港人工智能計算中心應用案例,還獲得2024年度上海市算力網(wǎng)絡高質量發(fā)展標桿應用案例一等獎,以及2024年度上海市智算中心綜合能效卓越獎。
頒獎典禮現(xiàn)場
技術突破:全棧優(yōu)化重構大模型效能體系
緊跟大模型浪潮,商湯通過持續(xù)優(yōu)化訓練與推理效率,商湯大裝置實現(xiàn)多項技術突破,大幅降低了人工智能技術的研發(fā)門檻與應用成本。
● 訓練方面,商湯通過平臺與模型的聯(lián)合迭代,顯著訓練效能。如訓練DeepSeek模型時,商湯的訓練集群效能達到1,600+ TGS2(FP8混合精度),超越了官方數(shù)據(jù)。
● 推理方面,性能效率較行業(yè)平均提升25%,較頭部云廠商領先 15%,這種優(yōu)勢源于算法與基礎設施的深度協(xié)同創(chuàng)新。
場景穿透:端到端解決方案打通AI落地最后一公里
楊帆強調,AI基礎設施的意義不僅在于提供強大的算力支持,更在于通過算力、算法和數(shù)據(jù)的深度融合,為下游產(chǎn)業(yè)提供端到端的完整解決方案。
商湯致力于成為“最懂大模型的AI基礎設施服務商”,通過深度理解模型與應用,幫助客戶快速實現(xiàn)技術落地與價值閉環(huán)。
例如,在人形機器人領域,商湯通過仿真生成技術幫助廠商快速采集數(shù)據(jù),同時利用存量算法支持柔性制造等下游應用;在AIGC領域,商湯為文生視頻大模型業(yè)務提供了高效的解決方案,滿足其對海量小文件的存儲與隨機讀取需求;在對話式AI應用中,商湯通過彈性算力支持客戶快速迭代版本并應對流量峰谷變化。
生態(tài)共建:攜手伙伴共繪智能未來
會上,楊帆與政府及行業(yè)代表共同參與了“上海市智能算力資源統(tǒng)籌調度服務平臺”上線儀式。
該平臺以市場算力需求為導向,接入本市各類閑智能算力資源,實現(xiàn)跨市域、跨資源池、跨廠商的異構智能算力資源調度和交易,形成多元參與、多方協(xié)同的靈活供給格局,服務和保障本市高校、科研院所、中小企業(yè)的智能算力和科學計算需求。
此外,楊帆還與行業(yè)伙伴一起見證算力組合貸產(chǎn)品發(fā)布,并參與總金額10億元的“算力貸”首批銀企合作簽約授信。
商湯致力于為社會與經(jīng)濟的智能化轉型注入強勁動力,將與各界伙伴攜手,繼續(xù)以技術創(chuàng)新為驅動,以產(chǎn)業(yè)賦能為目標,共同構建高效率、低成本、低門檻的AI 基礎設施。
(來源:商湯科技)