15 篇文章 文档包含 "Kubernetes"

Volcano 是很多 AI 集群的批量调度器首选，HAMi-core 则是让共享加速器"守规矩"的运行时。本文关注两者在昇腾硬件上的交汇点：在 Volcano 调度器下运行 hami-vnpu-core 软切分的 vNPU，让批量调度语义（队列、Gang、binpack）与容器级隔离（在昇腾 API 层强制生效的显存与算力上限）协同工作。

我们在一台昇腾 310P3 aarch64 服务器的单节点 Kubernetes 集群上验证了完整链路：源码编译 Volcano 镜像、部署官方 ascend-device-plugin v1.4.0 镜像，并确认申请 8192 MiB 切片的容器恰好只能看到这么多显存；同时第二个 Pod 以 binpack 方式落到同一张物理卡上、拿到独立切片，插件的 Prometheus 端点也如实上报了两个容器的配额。完整步骤（含每条命令与真实输出）见 实验 13：用 Volcano + HAMi-core 软切分昇腾 310P3 vNPU。

这个话题里混着好几个经常被混为一谈的概念，所以本文先把层次分开：vNPU 是什么、硬切分和软切分有何不同、Volcano 集成相比已有的 HAMi 调度器路径到底新增了什么。

上一篇 《HAMi-core 被 NVIDIA KAI Scheduler 采用》已经介绍了 KAI Scheduler 和这项集成的协作背景。本文不再重复铺垫，只回答一个问题：KAI Scheduler 把两个 Pod 调度到同一张 GPU 后，HAMi-core 是否真的能限制每个 Pod 的显存用量？

我们在 GKE 1.35/COS/CDI 上验证了当前文档支持的组合：KAI Scheduler v0.17.0 与 kai-resource-isolator 1.1.0-chart。两个 Pod 共享同一张 NVIDIA T4，各自看到 4147 MiB 上限；申请 3 GiB 成功，累计申请 5 GiB 失败。可选的 monitor 也导出了两个 Pod 的实时显存上限与用量。

KubeCon + CloudNativeCon 日本 2026 于 7 月 28 至 30 日在 Pacifico Yokohama 举办。HAMi 以一场主舞台分享和 Project Pavilion 的展台参与本届大会。Reza Jelveh 登台分享，并在展台值守。

完整的回顾、演讲幻灯片与 SNOW 案例，请见 KubeCon 日本 2026 专页。

2026 年 6 月 18-19 日，KubeCon + CloudNativeCon India 2026 在印度孟买举行，来自云原生生态的实践者、平台工程师、AI 基础设施团队和开源贡献者齐聚一堂。随着 AI 成为本届大会最重要的主题之一，HAMi 展示了 Kubernetes 原生 GPU 共享如何帮助组织提升加速器利用率，同时保持工作负载隔离和运维灵活性。

从开场 Keynote 到展台现场演示，再到与工程团队的技术讨论，本次活动凸显了一个越来越明确的行业关注点：让昂贵的 GPU 基础设施真正适用于多租户 AI 工作负载。

本文中的集成对象严格来说是 HAMi-core，而非完整 HAMi 平台。KAI Scheduler 保留自身调度能力，引入 HAMi-core 提供 GPU Memory Isolation 能力。

2026 年 6 月，两项核心 PR 正式合并进入 NVIDIA KAI Scheduler 主干。HAMi 的 GPU 显存硬隔离能力已作为内置特性随 KAI Scheduler v0.16.4 发布，云原生 GPU 资源调度正式从「软共享」迈入「硬隔离」时代。

HAMi 即将亮相 KubeCon + CloudNativeCon India 2026，6 月 18–19 日，孟买。继 KubeCon Europe 2026 之后，来自印度的 HAMi 社区贡献者和 CNCF Ambassador 将在孟买带来 GPU 共享演示和社区交流。

• 作者： Mesut Oezdil / GitHub
• 原文： mesutoezdil.substack.com
• GitHub Repo： kagentWithHami
• 中文翻译： Jimmy Song（原文发布于微信公众号）

HAMi 社区正式发布 HAMi v2.9.0。这是一个在异构设备虚拟化深度、调度器生态扩展与 Kubernetes 原生标准落地层面具有里程碑意义的版本。

v2.9.0 引入了昇腾 910C HAMi-core 模式、HAMi-DRA 正式可用、项目发布以及 Volcano vGPU 升级至 v0.19 等重磅特性，同时在可观测性、安全性、稳定性等方面进行了系统性增强，共有 19 位新贡献者首次参与。

本文将对 v2.9.0 的主要更新进行详细说明。

在 Kubernetes 中管理 GPU 资源，长期以来存在一个"盲区"。你知道 GPU 在被使用，但要回答"哪个节点还有空闲？"、"这个工作负载是否真的在用分配到的 GPU？"、"集群整体 GPU 利用率趋势如何？"这些问题，往往需要在 kubectl get、Prometheus PromQL 和日志输出之间反复切换。

今天，HAMi 社区正式推出 HAMi WebUI，一款将整个 GPU 集群呈现在单一可视化界面中的开源 GPU 监控仪表盘。

HAMi WebUI v1.1.0 现已作为首个正式主要版本发布，邀请你试用。

与 HAMi 核心调度器配合，WebUI 实现了完整的闭环：从 GPU 调度到可视化可观测性。

刚刚结束的 KubeCon + CloudNativeCon Europe 2026，释放出一个越来越明确的行业信号：

云原生正在快速从“应用运行平台”演进为 AI 基础设施的运行底座。

在阿姆斯特丹，围绕 Kubernetes、GPU、推理服务、Agentic AI 和异构算力调度的讨论，已经不再停留在概念层面，而是进入到更具体的工程实践、社区协作与基础设施范式演进阶段。