近日，中科馭數(shù)（北京）科技有限公司（以下簡稱“中科馭數(shù)”）基于全國產(chǎn)化CPU、GPU、DPU三U一體設(shè)備本地化部署了DeepSeek模型。
中科馭數(shù)通過國產(chǎn)CPU系統(tǒng)實(shí)現(xiàn)整體業(yè)務(wù)調(diào)度與主要服務(wù)進(jìn)程運(yùn)行，采用國產(chǎn)GPU完成模型推理運(yùn)算，由中科馭數(shù)DPU進(jìn)行設(shè)備裸金屬業(yè)務(wù)管理以及云化網(wǎng)絡(luò)/存儲(chǔ)能力卸載提速。該系統(tǒng)底層采用全國產(chǎn)化的3U一體服務(wù)器搭建，在兼顧安全性與低成本的同時(shí)，可以高效運(yùn)行DeepSeek-V3與DeepSeek-R1等多個(gè)AI推理模型系統(tǒng)。
隨著深度學(xué)習(xí)技術(shù)的快速發(fā)展，大模型（如DeepSeek、GPT等）在自然語言處理、計(jì)算機(jī)視覺等領(lǐng)域取得了顯著成果，計(jì)算需求越來越大。
目前，中科馭數(shù)通過這一創(chuàng)新方案，完成多個(gè)AI模型適配，打通全國產(chǎn)化三U一體算力底層支撐，幫助AI應(yīng)用在落地過程中實(shí)現(xiàn)更好的數(shù)據(jù)隱私性保護(hù)與抵御外部風(fēng)險(xiǎn)的能力，同時(shí)也積極推動(dòng)產(chǎn)業(yè)鏈協(xié)同與資源優(yōu)化整合。
中科馭數(shù)作為DPU芯片和產(chǎn)品供應(yīng)商，憑借自主研發(fā)的K2-Pro芯片，在公司自建的全國產(chǎn)化推理集群中，承擔(dān)了高通量網(wǎng)絡(luò)傳輸、云化流表卸載與分布式資源快速加載的任務(wù)。
同時(shí)，在AI模型訓(xùn)練方向，中科馭數(shù)自主研發(fā)的RDMA網(wǎng)卡助力數(shù)據(jù)中心實(shí)現(xiàn)高速網(wǎng)絡(luò)連接，能夠確保大規(guī)模模型的數(shù)據(jù)傳輸效率，減少通信延遲，提升整體計(jì)算性能。
作為一家專注于專用處理器研發(fā)的國家專精特新“小巨人”企業(yè)，中科馭數(shù)始終致力于推動(dòng)技術(shù)創(chuàng)新與產(chǎn)業(yè)鏈協(xié)同發(fā)展。自主研發(fā)的DPU芯片及相關(guān)系列產(chǎn)品已廣泛應(yīng)用于超低時(shí)延網(wǎng)絡(luò)、云和數(shù)據(jù)中心、金融計(jì)算、大數(shù)據(jù)處理、5G邊緣計(jì)算、高性能計(jì)算等多個(gè)領(lǐng)域，為各行各業(yè)的數(shù)字化轉(zhuǎn)型提供了堅(jiān)實(shí)的技術(shù)保障。（來源：湖報(bào)資本 通訊員黃亞瓊）
