Pulsar 集群扩缩容
KubeBlocks 支持对 Pulsar 集群进行垂直扩缩容和水平扩缩容。
垂直扩缩容
你可以通过更改资源需求和限制(CPU 和存储)来垂直扩展集群。例如,可通过垂直扩容将资源类别从 1C2G 调整为 2C4G。
开始之前
确保集群处于 Running
状态,否则以下操作可能会失败。
kbcli cluster list pulsar
步骤
更改配置。
配置参数
--components
、--memory
和--cpu
,并执行以下命令。kbcli cluster vscale pulsar --cpu=3 --memory=10Gi --components=broker,bookies
--components
表示可进行垂直扩容的组件名称。--memory
表示组件请求和限制的内存大小。--cpu
表示组件请求和限制的 CPU 大小。
验证垂直扩缩容。
kbcli cluster list pulsar
STATUS=VerticalScaling 表示正在进行垂直扩容。
STATUS=Running 表示垂直扩容已完成。
STATUS=Abnormal 表示垂直扩容异常。原因可能是正常实例的数量少于总实例数,或者 Leader 实例正常运行而其他实例异常。
你可以手动检查是否由于资源不足而导致报错。如果 Kubernetes 集群支持 AutoScaling,系统在资源充足的情况下会执行自动恢复。或者你也可以创建足够的资源,并使用
kubectl describe
命令进行故障排除。备注垂直扩容不会同步与 CPU 和内存相关的参数,需要手动调用配置的 OpsRequest 来进行更改。详情请参考配置。
检查资源是否已经发生更改。
kbcli cluster describe pulsar
水平扩缩容
水平扩缩容会改变 Pod 的数量。例如,你可以应用水平扩容将 Pod 的数量从三个增加到五个。
从 v0.9.0 开始,KubeBlocks 支持指定实例水平扩缩容,可参考 API 文档,查看详细介绍及示例。
开始之前
- Zookeeper 建议固定 3 节点,无需扩缩容,其他可以针对多个或单个组件进行水平扩缩容。
- 谨慎扩缩容 Bookies 节点。其数据复制与 EnsembleSize、Write Quorum 和 Ack Quorum 配置有关,扩缩容可能导致数据丢失。详细信息请查阅 Pulsar 官方文档。
步骤
更改配置。
配置参数
--components
和--replicas
,并执行以下命令。kbcli cluster hscale pulsar --replicas=5 --components=broker,bookies Running Jan 29,2023 14:29 UTC+0800
--components
表示准备进行水平扩容的组件名称。--replicas
表示指定组件的副本数。
验证水平扩缩容。
检查集群状态,确定水平扩容的情况。
kubectl get ops
>
NAME TYPE CLUSTER STATUS PROGRESS AGE
pulsar-horizontalscaling-9lfvc HorizontalScaling pulsar Succeed 3/3 8m49s检查相关资源规格是否已变更。
kbcli cluster describe pulsar
处理快照异常
如果在水平扩容过程中出现 STATUS=ConditionsError
,你可以从 cluster.status.condition.message
中找到原因并进行故障排除。如下所示,该例子中发生了快照异常。
Status:
conditions:
- lastTransitionTime: "2023-02-08T04:20:26Z"
message: VolumeSnapshot/pulsar-pulsar-scaling-dbqgp: Failed to set default snapshot
class with error cannot find default snapshot class
reason: ApplyResourcesFailed
status: "False"
type: ApplyResources
原因
此异常发生的原因是未配置 VolumeSnapshotClass
。可以通过配置 VolumeSnapshotClass
解决问题。
但此时,水平扩容仍然无法继续运行。这是因为错误的备份(volumesnapshot 由备份生成)和之前生成的 volumesnapshot 仍然存在。需删除这两个错误的资源,KubeBlocks 才能重新生成新的资源。
步骤:
配置 VolumeSnapshotClass。
kubectl create -f - <<EOF
apiVersion: snapshot.storage.k8s.io/v1
kind: VolumeSnapshotClass
metadata:
name: csi-aws-vsc
annotations:
snapshot.storage.kubernetes.io/is-default-class: "true"
driver: ebs.csi.aws.com
deletionPolicy: Delete
EOF删除错误的备份(volumesnapshot 由备份生成)和 volumesnapshot 资源。
kubectl delete backup -l app.kubernetes.io/instance=pulsar
kubectl delete volumesnapshot -l app.kubernetes.io/instance=pulsar
结果
删除备份和 volumesnapshot 后,水平扩容继续进行,集群恢复到运行状态。