2024年11月12日,優刻得憑借自研的云端算力引擎“孔明”智算平臺,成功入選中國人工智能產業發展聯盟(AIIA)發布的《2024年人工智能先鋒案例集》,成為AIInfra領域的先鋒企業,不斷驅動多模態大模型的創新應用與發展。
為響應國家“人工智能+”行動號召,中國人工智能產業發展聯盟、工業和信息化部新聞宣傳中心、中國信息通信研究院2024年共同啟動了“2024年人工智能先鋒應用案例”征集活動,征集工作得到了行業和社會的廣泛響應。旨在甄選并推廣具有高價值、標桿性、真落地的行業典型案例,更好地推動我國人工智能技術應用及產業發展。
在多模態大模型應用領域,行業普遍面臨算力資源成本高昂、資源調度管理復雜以及模型訓練和推理的低效瓶頸,導致眾多模型廠商在推進大模型技術的過程中,被限制了數據處理、實時推理和模型迭代上的能力和速度。
在這樣的背景下,優刻得“孔明”智算平臺應運而生。以其多元異構的算力資源、高效便捷的管理服務、安全可靠的運行環境,為大模型訓練和推理過程提供穩定高效的算力支持和集群調度能力,以幫助AI企業更好地管理異構資源,并根據負載動態分配不同任務。
以先進的技術架構為模型廠商提供強大的算力支持和調度管理能力,“孔明”智算平臺具備三大核心特性:
●多元算力統一調度
“孔明”智算平臺可對萬卡集群統一納管。支持對同構和異構GPU、高速計算網絡、本地NVMe及并行文件存儲的統?調度管理。智算集群的彈性擴展能力,可根據客戶當前的資源數量進行集群動態管理。
●高效分布式訓練
“孔明”智算平臺提供了穩定可靠的模型研發環境。平臺預置主流算法框架,支持多任務同時訓練,并可根據優先級搶占資源。此外,其斷點續訓的能力,可實現大模型訓練任務異常時自動拉起,大幅縮短算力閑置時間,使得模型開發者能夠更充分地利用GPU算力資源,以更低成本、更高效率來訓練和優化模型,加速AI大模型在各領域的落地應用。
●可視化智能運維
“孔明”智算平臺對集群管理人員提供了可視化的資源管理界面,可對算力分配、算力監控、算力使用情況進行運營分析,極大程度簡化了算法工程師的重復操作。通過多項目團隊同時協作,減少管理成本、提升模型研發和部署應用效率。目前,平臺已廣泛應用于大模型訓練、城市治理、自動駕駛、生物醫藥、工業制造等領域。
近年來,優刻得持續發力大模型領域,提供了一整套涵蓋算力基礎設施建設、訓練流程優化、智算調度平臺、高性能網絡與存儲等在內的智算解決方案,不斷夯實大模型智算底座助力大模型廠商快速實現模型的研發與迭代工作。
優刻得“孔明”智算平臺的成功入選,不僅是對優刻得AI技術底座的實力認可,更是對其在推動人工智能產業發展方面所做努力的肯定。未來,優刻得將以更加智能、高效的智算解決方案賦能更多AIGC創新應用落地。歡迎登錄UCloud優刻得官網體驗“孔明”智算平臺。
請輸入驗證碼