跳转到内容

部分已上线GPU列表

GPU型号适用场景显存FP16算力(FLOPS)设计功耗(TDP)租用方式
A100 SXM4轻度模型训练/推理40/80GB312T400瓦单卡分时租赁/裸金属
RTX 4090模型推理24GB330T450瓦单卡分时租赁/裸金属
RTX 4090D模型推理24GB264T450瓦单卡分时租赁/裸金属
H20深度学习训练和推理96GB148T400瓦裸金属
H100 SXM5模型训练/高密度计算80GB2000T700瓦裸金属
H100 PCIe模型训练/高密度计算80GB1600T350瓦裸金属
H20 SXM轻度模型训练/模型推理96GB148T400瓦裸金属
H800 SXM5模型训练80GB1979T700瓦裸金属
H800 PCIe模型训练80GB1513T350瓦裸金属
A800 SXM4轻度模型训练/推理80GB312T400瓦单卡分时租赁/裸金属
华为ASCEND-910B轻度模型训练/推理24GB320T300瓦裸金属