跳转到文档内容
版本：下一个

启用 Hygon HCU 共享

警告

社区仓库 dcu-vgpu-device-plugin 已归档，不再更新。HCU 用户应使用最新版本的 HAMi 和 Hygon 官方提供的最新版本 k8s-hcu-device-plugin。

厂商将 DCU 更名为 HCU 带来了不兼容变更：默认不再支持旧的 DCU 资源名称。HAMi 跟随厂商采用新的命名，这一不兼容问题源于更名，而非 HAMi 调度故障。

简介​

本组件支持复用海光 HCU 设备，并为此提供以下几种与 vGPU 类似的复用功能，包括：

HCU 共享: 每个任务可以只占用一部分显卡，多个任务可以共享一张显卡

可限制分配的显存大小: 你现在可以用显存值（例如 3000M）来分配 HCU，本组件会确保任务使用的显存不会超过分配数值

可限制计算单元数量: 你现在可以指定任务使用的算力比例（例如 60 即代表使用 60% 算力）来分配 HCU，本组件会确保任务使用的算力不会超过分配数值

指定 HCU 型号：当前任务可以通过设置 annotation("hygon.com/use-hcutype","hygon.com/nouse-hcutype") 的方式，来选择使用或者不使用某些具体型号的 HCU

节点需求​

  • dtk driver >= 24.04
  • hy-smi v1.6.0

开启 HCU 复用​

运行 HCU 任务​

apiVersion: v1
kind: Pod
metadata:
  name: alexnet-tf-gpu-pod-mem
  labels:
    purpose: demo-tf-amdgpu
spec:
  containers:
    - name: alexnet-tf-gpu-container
      image: harbor.sourcefind.cn:5443/hcu/admin/base/pytorch:2.1.0-ubuntu22.04-dtk24.04.2-py3.10
      workingDir: /root
      command: ["sleep", "infinity"]
      resources:
        limits:
          hygon.com/hcunum: 1 # 请求一个 HCU
          hygon.com/hcumem: 2000 # 每个 HCU 包含 2000M 设备显存
          hygon.com/hcucores: 60 # 每个 HCU 分配 60% 的设备核心

容器内开启虚拟 HCU 功能​

使用 vHCU 首先需要激活虚拟环境

source /opt/hygondriver/env.sh

随后，使用 hdmcli 指令查看虚拟设备是否已经激活

hy-virtual -show-device-info

若输出如下，则代表虚拟设备已经成功激活

Device 0:
 Actual Device: 0
 Compute units: 60
 Global memory: 2097152000 bytes

接下来正常启动 HCU 任务即可

注意事项​

  1. 在 init container 中无法使用 HCU 复用功能，否则该任务不会被调度

  2. 每个容器最多只能使用一个虚拟 HCU 设备，如果你希望在容器中挂载多个 HCU 设备，则不能使用hygon.com/hcumem和hygon.com/hcucores字段

CNCFHAMi 是 CNCF 孵化项目