云上鯤鵬AI推理服務(wù)器產(chǎn)品
兆瀚 RA2300-A 系列AI推理服務(wù)器
基于昇騰處理器的高性能AI推理服務(wù)器
兆瀚RA2300-A 系列AI推理服務(wù)器是?款基于鯤鵬平臺的推理服務(wù)器,能為用戶提供強?的實時推理能力,廣泛應用于中心側(cè)AI推理場景,幫助用戶應對較重的計算壓力。具有超強計算性能、高環(huán)境適應性、低能耗性、易于部署維護和支持云邊協(xié)同等特點,滿足在人工智能、智能制造、智能邊緣等應用場景的算力需求。
所屬分類:人工智能產(chǎn)品
兆瀚RA2300-A系列AI推理服務(wù)器產(chǎn)品優(yōu)勢
超強算力
● 支持8張Atlas 300I Pro推理卡,可最大提供1.12 POPS AI 算力;可支持Atlas 300V Pro 視頻解析卡,支持不同場景的差異化算力需求。
● 搭載64核架構(gòu)、具有超強算力的鯤鵬920處理器,支持端邊云不同場景的差異化場景算力需求,具備從幾十毫瓦IP到幾百瓦芯片的平滑擴展的能力,覆蓋端邊云全場景部署
低能耗
● 在邊緣側(cè),模組能效比達2 TOPS/W,適應低功耗和邊緣部署需求
● Atlas 300I單卡功耗僅72W,為AI服務(wù)器算力加速同時提供更優(yōu)的能效比
超高能效
● 發(fā)揮鯤鵬架構(gòu)多核、低功耗優(yōu)勢,為推理場景構(gòu)建高效能、低功耗的AI計算平臺
兼容性強
軟硬件兼容開放
軟硬件生態(tài)開放,多種接口支持?
兆瀚 RA2300-A 系列AI推理服務(wù)器
參數(shù)規(guī)格
產(chǎn)品系列 | 兆瀚系列AI推理服務(wù)器 |
產(chǎn)品形態(tài) | 2U推理服務(wù)器 |
處理器 | 2*鯤鵬920處理器,CPU主頻2.6GHz,單CPU最多64個物理內(nèi)核,最大功率180W |
CPU內(nèi)存 | 32個DDR4內(nèi)存插槽 |
AI加速卡 | 最大支持8塊Atlas 300I Pro推理卡或Atlas 300V Pro視頻解析卡 其中單卡算力70TFLOPS FP16,單卡內(nèi)存最大支持48GB |
AI算力 |
最大1.12 POPS INT8 最大560 TFLOPS FP16 |
編解碼能力 |
支持H.264硬件解碼,512路1080P 30 FPS (64路3840*2160 60 FPS) 支持H.265硬件解碼,512路1080P 30 FPS (64路3840*2160 60 FPS) |
本地存儲 | 12*3.5 SAS/SATA | |||
DAID支持 | RAID 0/1/5/6/10等 |
PCIe擴展 | 最多支持9個PCIe 4.0 PCIe 接口,其中1個為RAID扣卡專用的PCIe 擴展槽位,另外8個為標準的PCIe 擴展槽位 |
電源 | 可配置2個冗余熱插拔電源,支持1+1冗余備份。選擇規(guī)格如下:900W 電源;2000W 電源 |
風扇 | 4個熱插拔風扇,支持N+1冗余備份 |
工作環(huán)境溫度 | 5℃~40℃ |
結(jié)構(gòu)尺寸 | 86.1 mm*447 mm*790 mm |