北京2022年10月13日 /美通社/ -- 近日,中科寒武紀(jì)科技股份有限公司(以下簡稱"寒武紀(jì)")的思元370系列智能加速卡與浪潮AIStation智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺(tái)完成兼容性適配認(rèn)證,將為行業(yè)AI用戶提供高性能、高密度、高效能比的AI計(jì)算加速方案,促進(jìn)金融、制造、能源等行業(yè)的智能轉(zhuǎn)型與升級(jí)。
寒武紀(jì)是中國智能芯片領(lǐng)域的領(lǐng)先企業(yè)。思元370是寒武紀(jì)首款采用chiplet(芯粒)技術(shù)的AI芯片,集成了390億個(gè)晶體管,最大算力高達(dá)256TOPS(INT8),是寒武紀(jì)第二代產(chǎn)品思元270算力的2倍。基于思元370,寒武紀(jì)推出三款智能加速卡:MLU370-S4加速卡板卡功耗僅為75W,相較于同尺寸GPU,可提供3倍的解碼能力和1.5倍的編碼能力,AI算力密度與能效比業(yè)界領(lǐng)先;MLU370-X4可提供高達(dá)256TOPS(INT8)推理算力和24TFLOPS(FP32)訓(xùn)練算力,配合全新基礎(chǔ)系統(tǒng)軟件平臺(tái),可充分滿足推訓(xùn)一體AI任務(wù)需求;MLU370-X8基于雙芯思元370打造,整合了兩倍于標(biāo)準(zhǔn)思元370加速卡的內(nèi)存、編解碼資源,同時(shí)搭載MLU-Link多芯互聯(lián)技術(shù),每張加速卡可獲得200GB/s的通訊吞吐性能,是PCIe 4.0帶寬的3.1倍,可高效執(zhí)行多芯多卡訓(xùn)練任務(wù)。
本次適配認(rèn)證測試完成了上述寒武紀(jì)加速卡在AIStation平臺(tái)內(nèi)多個(gè)AI業(yè)務(wù)部署與服務(wù)的驗(yàn)證,包括圖像識(shí)別、目標(biāo)檢測、自然語言處理等。測試結(jié)果顯示,運(yùn)行在浪潮AI服務(wù)器上的寒武紀(jì)MLU370-S4、MLU370-X4、MLU370-X8加速卡,與浪潮AIStation平臺(tái)無縫對(duì)接,在AI計(jì)算性能、兼容性和穩(wěn)定性等方面均達(dá)到優(yōu)異。通過浪潮AIStation平臺(tái)出色的算力調(diào)度與管理,行業(yè)AI用戶能夠靈活使用和擴(kuò)展寒武紀(jì)加速卡的算力,滿足典型AI應(yīng)用需求。
寒武紀(jì)加速卡與浪潮AIStation完成兼容性認(rèn)證,有利于充分發(fā)揮寒武紀(jì)產(chǎn)品高性能、高密度、高效能比的優(yōu)勢,進(jìn)一步豐富寒武紀(jì)面向?qū)嶋HAI應(yīng)用場景的解決方案,幫助AI用戶更方便快捷地應(yīng)用寒武紀(jì)領(lǐng)先的AI計(jì)算加速技術(shù),釋放強(qiáng)大算力,促進(jìn)產(chǎn)業(yè)AI化。
浪潮AIStation是面向企業(yè)級(jí)訓(xùn)練與推理場景開發(fā)的智能業(yè)務(wù)生產(chǎn)創(chuàng)新平臺(tái),實(shí)現(xiàn)從模型開發(fā)、訓(xùn)練、部署、測試、發(fā)布、服務(wù)的全流程一站式高效交付。通過對(duì)計(jì)算資源、數(shù)據(jù)資源、深度學(xué)習(xí)軟件棧資源進(jìn)行統(tǒng)一管理,AIStation為環(huán)境構(gòu)建、模型開發(fā)、模型訓(xùn)練、模型評(píng)估、模型推理、上線部署全鏈條全面提速,加快AI開發(fā)應(yīng)用創(chuàng)新落地。