算力是集數(shù)據(jù)傳輸、計(jì)算、存儲(chǔ)于一體的新型生產(chǎn)力,更是培育新質(zhì)生產(chǎn)力,推動(dòng)智能化轉(zhuǎn)型的核心驅(qū)動(dòng)力。
“大模型如何進(jìn)一步發(fā)展,就是應(yīng)用落地。”浪潮信息人工智能與高性能產(chǎn)品部副總經(jīng)理張強(qiáng)說道。如今,浪潮信息元腦算力工廠包含了數(shù)據(jù)處理、AI大模型、業(yè)務(wù)應(yīng)用、研發(fā)測(cè)試等多個(gè)集群,為全球服務(wù)器壓力測(cè)試、大模型開發(fā)應(yīng)用、智能化轉(zhuǎn)型等業(yè)務(wù)應(yīng)用提供算力支撐。
張強(qiáng)指出,在推動(dòng)大模型落地應(yīng)用領(lǐng)域,針對(duì)網(wǎng)絡(luò)通信效率瓶頸,元腦算力工廠采用 X400 超級(jí) AI 以太網(wǎng)方案,為大模型訓(xùn)練提效降本,提升了大規(guī)模GPU訓(xùn)練性能,成為新型AI訓(xùn)練網(wǎng)絡(luò)解決方案。其吞吐量51.2T為業(yè)界高,較前代提升4倍,相比傳統(tǒng)RoCE網(wǎng)絡(luò)性能提升1.6倍,通信時(shí)延降低30%,能大幅提升大模型訓(xùn)練效率,縮短訓(xùn)練時(shí)長(zhǎng)并降低訓(xùn)練成本。
元腦算力工廠搭載企業(yè)大模型開發(fā)平臺(tái)“元腦企智”EPAI,連接多元算力、多元模型與應(yīng)用層,實(shí)現(xiàn)模型高效微調(diào)與跨平臺(tái)無感遷移,加速大模型在各個(gè)行業(yè)落地應(yīng)用。同時(shí),元腦算力工廠助力企業(yè)智能化轉(zhuǎn)型,智能編程助手、智能投標(biāo)助手、智能客服、供應(yīng)鏈大腦、智能工廠等系列智能創(chuàng)新成果相繼落地,賦能業(yè)務(wù)智能化轉(zhuǎn)型。
在提升大模型訓(xùn)練效率方面,張強(qiáng)向C114介紹,元腦算力工廠通過算力開發(fā)平臺(tái) AIStation 對(duì)算力進(jìn)行有效調(diào)度。在實(shí)際算力使用中,AI應(yīng)用有不同算力需求,在這多用戶、多任務(wù)場(chǎng)景下,對(duì)算力需求不同,AIStation能對(duì)算力集群進(jìn)行有效調(diào)度,降低成本、提高算力利用率,保障算力集群安全、可靠運(yùn)行,實(shí)現(xiàn)智能、高效、低成本運(yùn)維。
(AM 8:00-12:00 PM 14:00-18:00)