版本:v2.10.0
HAMi 支持的设备
适用版本:HAMi v2.10.0。
最后核验日期:2026-11-06,核对范围为 HAMi 源码、默认设备配置和设备指南。
下表列出 HAMi 的设备接入状态、资源分配模式和多卡切分支持情况,包括已发布和实验性接入。部署所需的设备插件、驱动及容器运行环境见下方设备指南。
| 设备 | 模式 | 型号范围 | 集成状态 | 显存控制 | 计算资源控制 | 多卡切分 |
|---|---|---|---|---|---|---|
| NVIDIA GPU | HAMi-core | All | 稳定 | 显存配额 | 时间片限流 | 支持 |
| NVIDIA GPU | MIG(动态切分) | 支持 MIG 的型号 | 稳定 | 按硬件 profile 分配 | 按硬件 profile 分配 | 支持(受 CUDA 和驱动版本限制) |
| AMD GPU | CU 切分 | Instinct / ROCm,见指南 | 稳定 | 显存配额 | CU 份额 | 支持 |
| AWS Neuron | 整卡 / 核心分配 | Inferentia / Trainium,见指南 | 稳定 | 无独立配额接口 | NeuronCore 分配 | 不支持(多设备请求分配整设备核心) |
| Biren GPU | 整卡 / 预切分 SVI | Biren166M | 稳定 | SVI 固定分区 | SVI 固定分区 | 支持(预切分 SVI 实例) |
| Cambricon MLU | 动态 SMLU | 370、590 | 稳定 | 显存配额 | 核心配额 | 不支持 |
| Enflame GCU | DRS | S60 | 稳定 | 按 profile 分配 | 按 profile 分配 | 不支持 |
| Ascend NPU | template | 910A、910B 系列、910C、310P | 稳定 | 按模板分配 | 由模板决定 | 不支持 |
| Ascend NPU | hami-core | 取决于型号与运行时,见指南 | 稳定 | 显存配额 | 算力配额 | 支持 |
| Hygon DCU | 动态切分 vDCU | All | 稳定 | 显存配额 | 计算资源份额 | 不支持 |
| Iluvatar GPU | vGPU(gpu-manager) | MR-V100、MR-V50、BI-V150、BI-V100 | 稳定 | 显存配额 | 核心配额 | 不支持 |
| Kunlunxin XPU | VXPU | P800-OAM | 稳定 | 按切分规格分配 | 随切分规格分配 | 支持 |
| MetaX GPU | sGPU | MXC500 | 稳定 | 显存配额 | 取决于 QoS | 支持(启用 sgpu-app-class 时不支持) |
| Mthreads GPU | sGPU | MTT S4000 | 稳定 | 离散显存规格 | 核心配额 | 不支持 |
| Teco GPU(Tecorigin) | 核心分配(开发中) | 待确认 | 实验性 | 待验证 | 待验证 | 待验证 |
| Vastai GPU | 整卡 / Die 切分 | VA16 | 稳定 | 整卡或 Die 分配 | 整卡或 Die 分配 | 支持(Die 分配) |
稳定表示已随 v2.10.0 发布。实验性(Experimental) 表示仍在开发或验证中的接入,不属于 v2.10.0 的已发布支持范围。
Teco 未包含在 v2.10.0 中,设备型号和能力待验证,后续接入进展见 HAMi #3369 和文档 PR #979。
表中能力的含义:
- 显存控制:容器可申请的显存配额或分区规格。使用模板或固定规格时,显存按规格向上对齐。
- 计算资源控制:各设备通过时间片、核心分配、硬件分区或 QoS 策略控制计算资源,具体限制见表中对应链接。
- 多卡切分:同一容器跨多张物理设备分配资源,且可使用其中设备的部分资源。仅分配多张整卡不计为多卡切分,具体分配粒度和限制见对应链接。
不适用表示该模式仅分配整卡。
组件集成指南
在 NVIDIA 共享场景中,Volcano vGPU 和 KAI Scheduler 保留各自的调度能力,并使用 HAMi-core 提供运行时隔离;KAI Scheduler 的集成用于显存隔离。HAMi-DRA 通过 DRA 驱动与 Kubernetes 调度器协作,其 NVIDIA 共享路径使用 HAMi-core 在运行时执行显存和算力限制。
下表提供各设备与调度组件的集成指南,包含安装步骤、配置要求和使用限制。- 表示暂无对应指南。
| 制造商 | HAMi | HAMi-DRA | Volcano | KAI-scheduler |
|---|---|---|---|---|
| 英伟达(NVIDIA) | 分配设备显存 | 动态资源分配 | 使用 Volcano vGPU | 使用 KAI Scheduler |
| 寒武纪(Cambricon) | 启用寒武纪 MLU 共享 | - | - | - |
| 海光(Hygon) | 启用海光 DCU 共享 | - | - | - |
| 华为昇腾(Huawei Ascend) | 启用昇腾共享 | - | Volcano 昇腾 vNPU | - |
| 天数智芯(Iluvatar) | 启用天数 GPU 共享 | - | - | - |
| 摩尔线程(Mthreads) | 启用摩尔线程 GPU 共享 | - | - | - |
| 沐曦(MetaX) | 启用沐曦 GPU 共享 | - | - | - |
| 燧原科技(Enflame) | 启用燧原 GCU 共享 | - | - | - |
| 昆仑芯(Kunlunxin) | 整卡调度、VXPU 共享 | - | - | - |
| Teco(Tecorigin) | - | - | - | - |
| 瀚博(Vastai) | 启用瀚博设备共享 | - | - | - |
| AMD | 启用 AMD GPU 共享 | - | - | - |
| AWS | 管理 AWS Neuron 设备 | - | - | - |
| 壁仞(Biren) | 启用壁仞设备共享 | - | - | - |
设备文档索引
英伟达(NVIDIA)
- 为容器分配设备显存
- 动态资源分配
- 启用动态 MIG 功能
- 调度策略
- 分配设备核心给容器
- 分配到特定设备类型
- 分配到特定设备
- 为 NVIDIA 设备使用扩展的 resourcequota
- 使用独占 GPU
- 为容器分配特定设备显存
- 按百分比分配设备显存给容器
- 为容器分配设备核心资源
- 分配任务到特定类型
- 将任务分配给特定的 GPU
- 将任务分配给 MIG 实例
寒武纪(Cambricon)
海光(Hygon)
摩尔线程(Mthreads)
天数智芯(Iluvatar)
燧原科技(Enflame)
AMD
AWS Neuron
瀚博(Vastai)
壁仞(Biren)
昆仑芯(Kunlunxin)
沐曦(MetaX)
- 启用沐曦 GPU 共享
- 为容器分配设备核心和显存资源
- 分配独占设备
- 分配特定 Qos Policy 的设备
- 启用沐曦 GPU 拓扑感知调度
- Binpack 调度策略
- 扩展调度策略
- 分配沐曦设备
- 使用 binpack 调度策略分配沐曦设备
- 使用扩展调度策略分配沐曦设备