用 HAMi 将 Neocloud 的 GPU 利用率提升 10 倍

DRA 让 Kubernetes 能够申请细粒度 GPU，但它本身并不能解决利用率问题 - 设备仍然需要虚拟化，以及一个懂得如何共享它的调度器。与硬件无关的 GPU 虚拟化提供了这一层：一个调度层将 NVIDIA、AMD、Ascend 以及国产 NPU 纳入同一个资源池 - 细粒度 GPU、混合厂商，供应链给什么硬件就用什么硬件。本次演讲涵盖：vGPU 拦截如何强制执行显存与算力限制、调度器如何分配异构设备、DRA 如何融入其中（以及它在哪些地方力有不逮），以及来自运行 10,000+ GPU 的云厂商的生产实践。没有厂商推销。一份把一台 GPU 服务器变成 GPU 云的落地蓝图。