近日,云豹智能與燧原科技達成戰略合作,依托雙方各自在DPU (Data Processing Unit)和AI計算領域的軟硬件優勢,聯合開發大規模高性能AI算力平臺,為云端AI計算提供更高效的解決方案。

　　云豹智能創始人兼CEO 蕭啟陽博士表示:“在數據中心領域,DPU正推動著計算基礎架構的變革,以提供更高效的數據處理和計算解決方案。DPU與AI加速設備更高效地互通互動,推動AI應用的發展,讓AI計算更高效、更節能,這是我們推出DataDirectPath的出發點。我們相信DataDirectPath相關的技術必將為數據中心計算資源池化提供重要的基礎。我們很高興與業界AI算力領域領先者燧原科技合作,共同為業界提供創新的DataDirectPath解決方案,為客戶提供更先進的AI解決方案。”

　　燧原科技創始人兼COO張亞林表示:“數據中心和云計算是國家新基建的算力基礎設施,是企業數字化轉型的重要保障。在智能數據中心的核心業務中,海量數據和計算能力已成為核心關鍵?；谠票悄芎挽菰萍荚跀祿幚砗退懔Ξa品的領先優勢,將進一步促進數據中心的變革。通過創新性的DataDirectPath技術實現AI處理器之間以及AI處理器與存儲之間的直接通信,對于提升AI計算規模和訓練效率至關重要。我們很高興與DPU頭部廠商云豹智能一起,為業界帶來領先的大規模高性能AI算力平臺。”

　　據艾瑞預測,2020年,中國人工智能基礎設施市場規模為497億元,為人工智能產業總規模的33%,總體呈現持續增長的走勢,到2025年,中國人工智能基礎設施市場規模將達到2475億元。

　　算力作為人工智能產業發展的三大要素之一,AI芯片是其載體。AI芯片作為人工智能產業的關鍵硬件,是AI加速服務器中用于AI訓練與推理的核心計算引擎,被廣泛應用于人工智能、云計算、數據中心、邊緣計算、移動終端等領域。當前,我國的AI芯片行業仍處于起步階段,市場空間有待探索與開拓。據艾瑞統計與預測,2020年我國AI芯片市場規模為197億元,到2025年,我國AI芯片市場規模將達到1385億元,2021-2025年的相關CAGR達47%,市場整體增速較快。

　　但對于很多企業來說,獨立建設自己的AI硬件集群一次性投入和后續運維的成本非常高,建設周期長且利用率低。而AI算力云化,以按需分配的方式提供AI算力,提高效能的同時,也可以降低成本。因此,AI算力云化是未來AI發展的趨勢之一。

　　AI算力云化不僅需要高性能的AI計算能力,也需要高性能的數據處理能力,包括AI芯片之間的數據通信,AI芯片獲取存儲數據等。隨著AI數據爆發式增長,模型迭代速度更快,模型規模越來越大,數據處理能力的要求也越來越高。

　　AI芯片廠商、GPU廠商、AI算法開發商都在不斷探索硬件和軟件的解決方案。主流的GPU或AI芯片廠商提供自己私有的解決方案,比如NVIDIA的NVLink、GPUDirect和相應NCCL軟件,但AI市場和用戶期待著一個開放的技術和相應高性能解決方案。

　　云豹智能作為DPU芯片的領導者,正在積極地幫助業界解決問題。隨著數據中心基礎架構逐漸演進到以DPU為核心,DPU將決定數據中心的互聯互通方式。通過DataDirectPath(數據直通技術),DPU將為AI大規模訓練提供一個更高效的通信方式。

　　目前,云豹智能與燧原科技達成戰略合作,共同研發和提供大規模高性能AI算力平臺解決方案。雙方創新性地提出了DataDirectPath技術: 該技術用于高性能分布式數據通信,基于DPU的高靈活性和高性能的特點,實現與云燧T20之間以及與存儲之間的高性能直接通信,提升AI訓練效率的同時,也降低了訓練成本。DataDirectPath包括:DataDirectPath RDMA和DataDirectPath Storage。DataDirectPath RDMA用于AI加速芯片之間的數據通信,而DataDirectPath Storage用于AI加速芯片與存儲器之間的高速數據讀寫。

　　相對于一些GPU廠商推出的私有解決方案,DataDirectPath具有開放性、高兼容性和高靈活性等特點。

　　云豹智能與燧原科技合作,基于云豹云霄DPU和燧原科技云燧T20率先推出了DataDirectPath Storage解決方案,為AI訓練儲存訪問提供更高效的解決方案。在傳統解決方案中,云燧T20訪問存儲時,需要將數據先搬移到系統內存,再由系統內存搬移到目標設備。在創新的DataDirectPath Storage解決方案中,基于DataDirectPath Storage技術,云燧T20通過DPU直接獲得數據,從而繞過系統內存和CPU,讓數據訪問速度更快,訪問延遲更短,系統開銷更小。DataDirectPath Storage不僅支持數據通道的Bypass CPU, 也支持控制通道的Bypass CPU,讓控制路徑也更高效,大大降低CPU的開銷。(毛志亮 云豹智能供圖)