跳转到文档内容
版本:v2.11.0

HAMi 支持的设备

适用版本:HAMi v2.11.0。历史版本参阅 v2.10.0 支持矩阵。

最后核验日期:2026-11-06,核对范围为 HAMi 源码、默认设备配置和设备指南。

下表列出 HAMi 的设备接入状态、资源分配模式和多卡切分支持情况,包括已发布和实验性接入。部署所需的设备插件、驱动及容器运行环境见下方设备指南。

设备模式型号范围集成状态显存控制计算资源控制多卡切分
NVIDIA GPUHAMi-coreAll稳定显存配额时间片限流支持
NVIDIA GPUMIG(动态切分)支持 MIG 的型号稳定按硬件 profile 分配按硬件 profile 分配支持(受 CUDA 和驱动版本限制)
AMD GPUCU 切分Instinct / ROCm,见指南稳定显存配额CU 份额支持
AWS Neuron整卡 / 核心分配Inferentia / Trainium,见指南稳定无独立配额接口NeuronCore 分配支持跨设备核心分配(末设备可部分分配;所选设备须空闲并满足拓扑约束)
Biren GPU整卡 / 预切分 SVIBiren166M稳定SVI 固定分区SVI 固定分区支持(预切分 SVI 实例)
Cambricon MLU动态 SMLU370、590稳定显存配额核心配额不支持
Enflame GCUDRSS60稳定按 profile 分配按 profile 分配不支持
Ascend NPUtemplate910A、910B 系列、910C、310P稳定按模板分配由模板决定不支持
Ascend NPUhami-core取决于型号与运行时,见指南稳定显存配额算力配额支持
Ascend NPUENPUA2/910B、A3/910C稳定显存配额取决于 ENPU 策略不支持
Ascend NPU整卡950DT 9582(96 GiB);需单独部署 ascend-device-plugin v1.5.0(Chart 0.2.2)稳定无独立配额接口无独立配额接口不适用
Hygon HCU动态切分 vHCUAll稳定显存配额计算资源份额不支持
Iluvatar GPUvGPU(gpu-manager)MR-V100、MR-V50、BI-V150、BI-V100稳定显存配额核心配额不支持
Kunlunxin XPUVXPUP800-OAM稳定按切分规格分配随切分规格分配支持
MetaX GPUsGPUMXC500稳定显存配额取决于 QoS支持(启用 sgpu-app-class 时不支持)
Mthreads GPUsGPUMTT S4000稳定离散显存规格核心配额不支持
Teco GPU(Tecorigin)核心分配(开发中)待确认实验性待验证待验证待验证
Vastai GPU整卡 / Die 切分VA16稳定整卡或 Die 分配整卡或 Die 分配支持(Die 分配)

稳定表示已包含在 HAMi 正式发布版本中,本表按 v2.11.0 核对发布状态。**实验性(Experimental)**表示接入仍在开发或验证中,尚未正式发布。

Teco 接入未包含在 v2.11.0 中,设备型号和能力待验证,进展见 HAMi #3369 和文档 PR #979。

表中能力的含义:

  • 显存控制:容器可申请的显存配额或分区规格。使用模板或固定规格时,显存按规格向上对齐。
  • 计算资源控制:各设备通过时间片、核心分配、硬件分区或 QoS 策略控制计算资源,具体限制见表中对应链接。
  • 多卡切分:同一容器跨多张物理设备分配资源,且可使用其中设备的部分资源。仅分配多张整卡不计为多卡切分,具体分配粒度和限制见对应链接。不适用 表示该模式仅分配整卡。

组件集成指南​

在 NVIDIA 共享场景中,Volcano vGPU 和 KAI Scheduler 保留各自的调度能力,并使用 HAMi-core 提供运行时隔离;KAI Scheduler 的集成用于显存隔离。HAMi-DRA 通过 DRA 驱动与 Kubernetes 调度器协作,其 NVIDIA 共享路径使用 HAMi-core 在运行时执行显存和算力限制。

下表提供各设备与调度组件的集成指南,包含安装步骤、配置要求和使用限制。- 表示暂无对应指南。

制造商HAMiHAMi-DRAVolcanoKAI-scheduler
英伟达(NVIDIA)分配设备显存 · 远程 GPU动态资源分配使用 Volcano vGPU使用 KAI Scheduler
AMD启用 AMD GPU 共享---
AWS管理 AWS Neuron 设备---
壁仞(Biren)启用壁仞设备共享---
寒武纪(Cambricon)启用寒武纪 MLU 共享---
燧原科技(Enflame)启用燧原 GCU 共享---
华为昇腾(Huawei Ascend)启用昇腾共享-Volcano 昇腾 vNPU-
海光(Hygon)启用海光 HCU 共享---
天数智芯(Iluvatar)启用天数 GPU 共享---
昆仑芯(Kunlunxin)整卡调度、VXPU 共享---
沐曦(MetaX)启用沐曦 GPU 共享---
摩尔线程(Mthreads)启用摩尔线程 GPU 共享---
Teco(Tecorigin)接入指南(开发中)---
瀚博(Vastai)启用瀚博设备共享---

每份指南都包含该设备的具体搭建步骤、配置说明以及已知限制,部署该设备前请先查阅。

CNCFHAMi 是 CNCF 孵化项目