2026年AI算力市场已从“训练主导”转向推理爆发（推理算力占比已超50%），NVIDIA仍占70-80%份额（生态+CUDA碾压），但AMD/Intel/TPU在性价比、功耗、特定基准上已形成明显差异化。华为集群+国产方案在国内/受限市场领先，云厂商自研（Google/AWS）在云端性价比爆表。
评分标准（满分10分，基于MLPerf v5.0/ v5.1、公开TFLOPS/带宽/功耗/代币吞吐/实际TCO）：
- 训练分：MLPerf时间-to-train + 规模扩展 + FLOPS（NVIDIA Blackwell基本满分）
- 推理分：代币/s + perf/watt + 延迟 + 成本（TPU/Groq/专用ASIC常超GPU）
- 综合价值分：性价比+生态+可用性+功耗（考虑采购/运维）
| 厂商/型号 | 类型 | 关键规格 | 训练分 | 推理分 | 价值分 | 亮点/短板 + 适用场景 |
|---|---|---|---|---|---|---|
| NVIDIA B200/GB200 NVL72 + Groq 3 LPX (Vera Rubin架构) | 双用（训练强+推理解耦） | 18k+ TFLOPS FP4、192GB HBM3e、8TB/s、50 PFLOPS rack | 10 | 9.5 | 7.5 | 训练无敌、生态最全、新Groq LPX让推理35x吞吐/10x营收；贵+功耗高，适合全栈大厂。 |
| NVIDIA H200 | 双用 | 4k TFLOPS FP8、141GB HBM3e | 9 | 9 | 7 | 成熟可靠，仍是基准；性价比被后来者追平。 |
| AMD MI350X / MI325X | 双用（推理偏强） | 5k+ TFLOPS、192-288GB HBM3e、5.3TB/s、MI400路标40 PFLOPS | 7.5 | 9 | 9.5 | 内存大+便宜（单卡$15-20k）、微软/Meta大规模采用；生态ROCm仍弱于CUDA，但推理性价比碾压。 |
| Intel Gaudi 3（Jaguar Shores 2026续） | 双用 | 1.8k+ TFLOPS、128GB HBM2e、训练/推理均1.5x H100效率 | 8 | 8.5 | 9 | 功耗低+训练快、开源oneAPI；单卡性能不如顶配GPU，但TCO极优。 |
| Google TPU Trillium / Ironwood (v6e/v7) | 双用（云原生） | ~4.6k TFLOPS FP8、超高perf/watt | 8 | 10 | 10（云） | MLPerf推理8/9项第一、4x性价比 vs H100、JAX生态完美；仅Google Cloud，非自建用户无法买。 |
| Huawei Ascend 950 / 950DT + Atlas 950 SuperPoD（2026 Q1/Q4） | 双用（集群强） | 1-2 PFLOPS/chip（FP8/FP4）、144-288GB、Atlas集群8 exaFLOPS FP8 / 16 exaFLOPS FP4 | 8（集群9） | 7.5 | 9（国内） | 单片≈H100 60-100%、集群超NVL144 6.7x、UnifiedBus超NVLink；国产替代首选，但生态CANN较封闭、海外限。 |
| Groq LPU（现NVIDIA集成） | 纯推理 | 超低延迟、500+ tokens/s Llama70B、1/3功耗 | 6 | 10 | 9.5 | 实时推理之王（10x GPU速度）、确定性延迟；训练弱，现并入NVIDIA。 |
| Cerebras WSE-3 | 双用（巨模型） | 125 PFLOPS、21 PB/s带宽、单die全模型 | 9.5 | 9 | 8（云/定制） | 无分片、20x推理快；贵+仅超大规模适用。 |
| AWS Trainium3 + Inferentia | 双用/纯推理 | 4x前代效率、云定价低 | 8 | 9 | 9.5（AWS） | SageMaker无缝、功耗低；仅AWS生态。 |
| Qualcomm AI250 / AI200（2026-2027商用） | 纯推理 | 高内存768GB、近内存计算 | 5 | 8.5 | 9 | 数据中心推理低TCO、液冷rack；新入局，生态待验证。 |
| 国产其他（摩尔线程MTT S4000、壁仞、寒武纪思元370、燧原等） | 双用/推理 | MTT类CUDA兼容、千卡集群支持 | 6-7 | 7-8 | 8.5（国内） | 性价比+政策支持；性能60-80%顶配，适合国内非极致场景。 |