kube-batch--简介
发布网友
发布时间：2023-05-30 21:26
我来回答
共1个回答
热心网友
时间：2023-08-24 03:20
K8s本身的调度器具有一些缺陷：
（1） 默认的调度器是以 pod 为粒度的，对机器学习任务很不利。
（2）默认的调度器无法提供队列调度的功能
Kube-batch 目前是 Kubernetes SIGs 旗下的一个孵化项目，是一个运行在 Kubernetes 上面向机器学习 / 大数据 /HPC 的批调度器（batch scheler）。kubeflow中gang scheler的实现就使用的是kube-batch.
"Batch" scheling
Resource sharing between multi-tenant
（1）PodGroup
简单理解：一个PodGroup就是一个job中的所有Pod
（2）PodGroup
简单理解：一个PodGroup就是一个job中的所有Pod
Reclaim: 回收
Allocate: 分配
Backfill: 回填
Preempt: 抢占
Drf：维护了集群资源使用情况
Gang：实现了batch调度的一个核心逻辑，只有满足数量要求的PodGroup，才可
以调度
Predicates：注册预选函数
Priority：job优先级
Kube-batch 的基本流程如下图，它通过 list-watch 监听 Pod, Queue, PodGroup 和 Node 等资源，在本地维护一份集群资源的全局缓存，依次通过如下的策略（reclaim, allocate, preemption，predict） 完成资源的调度。
(1) Kube-batch向集群注册自己定义的Action和插件
(2) list-watch 监听 Pod, Queue, PodGroup 和 Node 等资源，在本地维护一份集群资源的全局缓存
(3) 间隔一秒，执行调度，开启会话
(4) 执行Action
（1）Kube-batch如何Gang-Scheler
a. 增加一个PodGruop的CRD。调度以PodGroup为单位。同时对应还有一个PodGroupController进行PodGroup的管理
b. 整个调度过程采用延迟创建Pod的过程。只有当PodGroup中的所有Pod都有合适的Node绑定时，才开始创建
c. 定义了一种新的Action-BackFill.当PodGroup还有Pod没绑定时，之前绑定Pod的资源会释放。
(2) Kube-batch如何共享多租户资源
a. 多租户的实现：Queue + Namespace
b. 租户间资源的共享：每个租户对应一个Namespace，以及一个Queue.每个Namespace的资源是按比例分配的。
优点：
Gang Scheler 的调度方式
多租户的设计思想
缺点：
和默认的调度器冲突
没有优选就没有soft亲和性
目前还是孵化项目，文档不全面，特别是多租户这块，没有实例以及文档
