跳转到文档内容
版本:v2.10.0

HAMi 支持的设备

适用版本:HAMi v2.10.0。

最后核验日期:2026-11-06,核对范围为 HAMi 源码、默认设备配置和设备指南。

下表列出 HAMi 的设备接入状态、资源分配模式和多卡切分支持情况,包括已发布和实验性接入。部署所需的设备插件、驱动及容器运行环境见下方设备指南。

设备模式型号范围集成状态显存控制计算资源控制多卡切分
NVIDIA GPUHAMi-coreAll稳定显存配额时间片限流支持
NVIDIA GPUMIG(动态切分)支持 MIG 的型号稳定按硬件 profile 分配按硬件 profile 分配支持(受 CUDA 和驱动版本限制)
AMD GPUCU 切分Instinct / ROCm,见指南稳定显存配额CU 份额支持
AWS Neuron整卡 / 核心分配Inferentia / Trainium,见指南稳定无独立配额接口NeuronCore 分配不支持(多设备请求分配整设备核心)
Biren GPU整卡 / 预切分 SVIBiren166M稳定SVI 固定分区SVI 固定分区支持(预切分 SVI 实例)
Cambricon MLU动态 SMLU370、590稳定显存配额核心配额不支持
Enflame GCUDRSS60稳定按 profile 分配按 profile 分配不支持
Ascend NPUtemplate910A、910B 系列、910C、310P稳定按模板分配由模板决定不支持
Ascend NPUhami-core取决于型号与运行时,见指南稳定显存配额算力配额支持
Hygon DCU动态切分 vDCUAll稳定显存配额计算资源份额不支持
Iluvatar GPUvGPU(gpu-manager)MR-V100、MR-V50、BI-V150、BI-V100稳定显存配额核心配额不支持
Kunlunxin XPUVXPUP800-OAM稳定按切分规格分配随切分规格分配支持
MetaX GPUsGPUMXC500稳定显存配额取决于 QoS支持(启用 sgpu-app-class 时不支持)
Mthreads GPUsGPUMTT S4000稳定离散显存规格核心配额不支持
Teco GPU(Tecorigin)核心分配(开发中)待确认实验性待验证待验证待验证
Vastai GPU整卡 / Die 切分VA16稳定整卡或 Die 分配整卡或 Die 分配支持(Die 分配)

稳定表示已随 v2.10.0 发布。实验性(Experimental) 表示仍在开发或验证中的接入,不属于 v2.10.0 的已发布支持范围。

Teco 未包含在 v2.10.0 中,设备型号和能力待验证,后续接入进展见 HAMi #3369 和文档 PR #979。

表中能力的含义:

  • 显存控制:容器可申请的显存配额或分区规格。使用模板或固定规格时,显存按规格向上对齐。
  • 计算资源控制:各设备通过时间片、核心分配、硬件分区或 QoS 策略控制计算资源,具体限制见表中对应链接。
  • 多卡切分:同一容器跨多张物理设备分配资源,且可使用其中设备的部分资源。仅分配多张整卡不计为多卡切分,具体分配粒度和限制见对应链接。不适用 表示该模式仅分配整卡。

组件集成指南​

在 NVIDIA 共享场景中,Volcano vGPU 和 KAI Scheduler 保留各自的调度能力,并使用 HAMi-core 提供运行时隔离;KAI Scheduler 的集成用于显存隔离。HAMi-DRA 通过 DRA 驱动与 Kubernetes 调度器协作,其 NVIDIA 共享路径使用 HAMi-core 在运行时执行显存和算力限制。

下表提供各设备与调度组件的集成指南,包含安装步骤、配置要求和使用限制。- 表示暂无对应指南。

制造商HAMiHAMi-DRAVolcanoKAI-scheduler
英伟达(NVIDIA)分配设备显存动态资源分配使用 Volcano vGPU使用 KAI Scheduler
寒武纪(Cambricon)启用寒武纪 MLU 共享---
海光(Hygon)启用海光 DCU 共享---
华为昇腾(Huawei Ascend)启用昇腾共享-Volcano 昇腾 vNPU-
天数智芯(Iluvatar)启用天数 GPU 共享---
摩尔线程(Mthreads)启用摩尔线程 GPU 共享---
沐曦(MetaX)启用沐曦 GPU 共享---
燧原科技(Enflame)启用燧原 GCU 共享---
昆仑芯(Kunlunxin)整卡调度、VXPU 共享---
Teco(Tecorigin)----
瀚博(Vastai)启用瀚博设备共享---
AMD启用 AMD GPU 共享---
AWS管理 AWS Neuron 设备---
壁仞(Biren)启用壁仞设备共享---

设备文档索引​

英伟达(NVIDIA)​

寒武纪(Cambricon)​

海光(Hygon)​

摩尔线程(Mthreads)​

天数智芯(Iluvatar)​

燧原科技(Enflame)​

AMD​

AWS Neuron​

瀚博(Vastai)​

壁仞(Biren)​

昆仑芯(Kunlunxin)​

沐曦(MetaX)​

华为昇腾(Huawei Ascend)​

CNCFHAMi 是 CNCF 孵化项目