主题
部分已上线GPU列表
| GPU型号 | 适用场景 | 显存 | FP16算力(FLOPS) | 设计功耗(TDP) | 租用方式 |
|---|---|---|---|---|---|
| A100 SXM4 | 轻度模型训练/推理 | 40/80GB | 312T | 400瓦 | 单卡分时租赁/裸金属 |
| RTX 4090 | 模型推理 | 24GB | 330T | 450瓦 | 单卡分时租赁/裸金属 |
| RTX 4090D | 模型推理 | 24GB | 264T | 450瓦 | 单卡分时租赁/裸金属 |
| H20 | 深度学习训练和推理 | 96GB | 148T | 400瓦 | 裸金属 |
| H100 SXM5 | 模型训练/高密度计算 | 80GB | 2000T | 700瓦 | 裸金属 |
| H100 PCIe | 模型训练/高密度计算 | 80GB | 1600T | 350瓦 | 裸金属 |
| H20 SXM | 轻度模型训练/模型推理 | 96GB | 148T | 400瓦 | 裸金属 |
| H800 SXM5 | 模型训练 | 80GB | 1979T | 700瓦 | 裸金属 |
| H800 PCIe | 模型训练 | 80GB | 1513T | 350瓦 | 裸金属 |
| A800 SXM4 | 轻度模型训练/推理 | 80GB | 312T | 400瓦 | 单卡分时租赁/裸金属 |
| 华为ASCEND-910B | 轻度模型训练/推理 | 24GB | 320T | 300瓦 | 裸金属 |