跳转到文档内容
版本:下一个

交互式 Manifest 生成器

Project HAMi 支持跨多个硬件制造商的 GPU 虚拟化:NVIDIA、AMD、壁仞、寒武纪、海光、天数智芯、摩尔线程、沐曦、燧原、AWS Neuron、昆仑芯和华为昇腾。在容器的 resources.limits 中使用特定于供应商的键来请求受支持的设备资源。对于支持设备类型或 UUID 约束的供应商,生成器在配置后会将这些值添加到 metadata.annotations

使用下方的交互式工具,为您的用例生成准确的 YAML 配置。您可以将生成的配置直接集成到您的部署规范中(例如将资源添加到您的 spec.template.spec.containers 部分)。

资源请求配置

生成的 YAML 配置清单

将此配置集成到您的 Kubernetes Pod 或 Deployment 规范中。

pod.yaml
apiVersion: v1
kind: Pod
metadata:
name: hami-nvidia-pod
spec:
containers:
- name: hami-container
image: ubuntu:22.04
command: ["sleep", "infinity"]
resources:
limits:
nvidia.com/gpu: 1
nvidia.com/gpumem: 3000

高级选项

  • 指定设备型号:如果您有一个异构集群(例如 A100 和 V100 混合),您可以指定您的 Pod 应该调度到哪种设备型号上。
  • 指定设备 UUID:如果您出于性能分析或调试目的,需要将 Pod 绑定到特定的物理设备,您可以提供其 UUID。

注意: 并非所有供应商都支持核心百分比或内存百分比分配。生成器会根据所选设备供应商支持的功能,自动调整其选项。

CNCFHAMi 是 CNCF 孵化项目