八維通AI智算平臺(tái)致力于最大程度地降低企業(yè)使用AI算力的門(mén)檻，并獲得高效、低成本、規(guī)范化、可追溯的AI應(yīng)用開(kāi)發(fā)流程，幫助企業(yè)快速使用智算中心的網(wǎng)絡(luò)、GPU、存儲(chǔ)、機(jī)器學(xué)習(xí)框架與模型
多種算力硬件與形式，滿足不同場(chǎng)景應(yīng)用需求
多種框架、軟件棧支持，滿足多類模型訓(xùn)練需求
數(shù)據(jù)管理，訓(xùn)練與推理一站式全流程覆蓋
圖形化低代碼、零代碼流程組織工具
專業(yè)工具庫(kù)，降低模型研發(fā)成本，提高模型研發(fā)效率
千卡、萬(wàn)卡大規(guī)模高效模型訓(xùn)練
|
資源整合整合多種類資源如GPU、CPU、存儲(chǔ)、網(wǎng)絡(luò)等，構(gòu)建高速并行存儲(chǔ)系統(tǒng)和高速I(mǎi)nfiniBand網(wǎng)絡(luò)，形成異構(gòu)GPU計(jì)算資源池。該資源池支持跨區(qū)域的靈活調(diào)配，構(gòu)建高效率、低延遲的AI專用網(wǎng)絡(luò)環(huán)境。適應(yīng)模型參數(shù)存儲(chǔ)需求，確保大規(guī)模數(shù)據(jù)的高效存取和多機(jī)通信需求，顯著提高數(shù)據(jù)傳輸速率，確保數(shù)據(jù)傳輸及任務(wù)執(zhí)行的安全穩(wěn)定。 |
|
分布式調(diào)度基于容器技術(shù)，實(shí)現(xiàn)了對(duì)多種資源類型的高效調(diào)度，能夠自動(dòng)進(jìn)行GPU計(jì)算資源的分配與管理，從而提高了資源與任務(wù)調(diào)度的效率。系統(tǒng)還提供了資源組及優(yōu)先級(jí)設(shè)置功能，有效縮短了數(shù)據(jù)傳輸?shù)恼{(diào)度路徑，以適應(yīng)大型語(yǔ)言模型的訓(xùn)練與推理需求。此外，平臺(tái)支持模型微調(diào)與推理服務(wù)的持續(xù)運(yùn)作。 |
|
異構(gòu)支持實(shí)現(xiàn)多類型的異構(gòu)計(jì)算資源統(tǒng)一管理，融合市場(chǎng)上主流的國(guó)內(nèi)外的GPU、TPU、DPU等資源，打造出一個(gè)集中的計(jì)算力資源庫(kù)。根據(jù)不同的計(jì)算任務(wù)需求，系統(tǒng)可以靈活地進(jìn)行計(jì)算資源的調(diào)度與分配，提供包括計(jì)算力資源組、整機(jī)服務(wù)器、按卡申請(qǐng)等多種部署選項(xiàng)。 |
|
訓(xùn)推一體提供全方位的AI服務(wù)，包括數(shù)據(jù)標(biāo)注、數(shù)據(jù)集管理、算法構(gòu)建、模型訓(xùn)練、模型調(diào)優(yōu)、模型管理和模型部署推理。平臺(tái)內(nèi)置了多種常用的GPU函數(shù)庫(kù)和工具庫(kù)，支持TensorFlow、PyTorch、PaddlePaddle等訓(xùn)練框架。 |
|
AI倉(cāng)庫(kù)平臺(tái)支持鏡像倉(cāng)庫(kù)、算法倉(cāng)庫(kù)、數(shù)據(jù)樣本庫(kù)等，保存用戶訓(xùn)練推理所需數(shù)據(jù)與代碼。 |
靈活接入和管理多種類型的計(jì)算資源，并根據(jù)租賃需求進(jìn)行動(dòng)態(tài)分配和調(diào)度
支持大規(guī)模的科學(xué)計(jì)算和模擬實(shí)驗(yàn)，為科研人員提供充足的計(jì)算資源
支持多種金融分析模型和算法，提供精準(zhǔn)的風(fēng)險(xiǎn)評(píng)估、市場(chǎng)預(yù)測(cè)和投資決策支持
支持多種仿真模型和場(chǎng)景設(shè)置，為用戶提供豐富的仿真實(shí)驗(yàn)資源和環(huán)境
浙公網(wǎng)安備33010802008444號(hào)
