跳转到文档内容
HAMi Logo

HAMi

Star

Open, Device Virtualization, VGPU, Heterogeneous AI Computing

什么是 HAMi?

HAMi (Heterogeneous AI Computing Virtualization Middleware) 以前称为 k8s-vGPU-scheduler,是一个 'all-in-one' Chart,用于管理 k8s 集群中的异构 AI 计算设备。它能够提供共享异构 AI 设备的能力,并在任务之间提供资源隔离。

HAMi 致力于提高 Kubernetes 集群中异构计算设备的使用率,并为不同类型的异构设备提供统一的复用接口。

为什么选择 HAMi

Kubernetes 原生 API 兼容

零变更升级:与 Kubernetes 的默认行为兼容。

开放中立

由互联网、金融、制造、云提供商等联合发起,目标是与 CNCF 开放治理

避免供应商锁定

与主流云提供商集成;不与专有供应商编排绑定

资源隔离

在容器中提供资源硬隔离,容器中的任务不能使用超出其配额的资源

支持多种异构计算设备

提供 GPU、MLU、NPU 等多种制造商的设备共享

统一管理

统一监控系统,可配置调度策略(binpack,spread,etc...)

工作原理

HAMi Control Plane
HAMi Control Plane

支持者

  • pd4
  • DaoCloud
  • icbc
  • CAIH
  • CNCR
  • XW
  • iFly
  • huawei

HAMi 是一个 CNCF (Cloud Native Computing Foundation) 沙盒项目