在Kubernetes集群中通过LocalVolume Provisioner使用本地盘

本文涉及的产品
容器镜像服务 ACR,镜像仓库100个 不限时长
简介: 介绍阿里云在部分ECS类型中提供了本地盘配置,本地盘具有低时延、高随机IOPS、高吞吐量和高性价比的优势,在一些对性能要求很高的应用中有很大优势。在Kubernetes系统中使用本地盘可以通过HostPath、LocalVolume等类型的PV使用:HostPath: 卷本身不带有调度信息,如果想对每个pod固定在某个节点上,就需要对pod配置nodeSelector等调度信息;LocalVolume: 卷本身包含了调度信息,使用这个卷的pod会被固定在特定的节点上,这样可以很好的保证数据的连续性。

介绍

阿里云在部分ECS类型中提供了本地盘配置,本地盘具有低时延、高随机IOPS、高吞吐量和高性价比的优势,在一些对性能要求很高的应用中有很大优势。

在Kubernetes系统中使用本地盘可以通过HostPath、LocalVolume等类型的PV使用:

HostPath: 卷本身不带有调度信息,如果想对每个pod固定在某个节点上,就需要对pod配置nodeSelector等调度信息;

LocalVolume: 卷本身包含了调度信息,使用这个卷的pod会被固定在特定的节点上,这样可以很好的保证数据的连续性。

本文介绍一种通过LocalVolume方式使用阿里云本地盘的方法。

通过LocalVolume Provisioner自动创建LocalVolume,PV附带所属的节点信息;

创建pvc消费LocalVolume, 使用这个pvc的pod都会调度到pv所指定的节点;

Provisioner工作原理

1)本地盘介绍:

https://help.aliyun.com/document_detail/63138.html

本地盘不支持挂载、卸载;

本地盘必须与ECS共存,在创建ecs的时候就确定了本地盘数量;

一种类型的机器决定了本地盘的数量,并可以通过api获取;

默认情况下本地盘从/dev/vdb开始挂载,自定义镜像可能会有不同;

2)挂载原理:

localvolume

Provisioner会在启动的时候把本地盘挂载到目标目录:

通过api查询本机器有本地盘的个数;

从起始设备(默认/dev/vdb)开始挂载,依次挂载到目标目录(起始设备可以配置);

设备会进行文件系统检测,如果设备没有格式化文件系统,则会创建一个文件系统;

Provisioner会实时的轮询检查目标目录,根据目标目录列表创建PV:

创建PV时,StorageClass可以支持reclaimPolicy、volumeBindingMode的配置;

LocalVolume PV删除后会自动重新创建;

PV的名字:local-pv-{节点名}-{设备名}, PV Name会加到label中;

部署Alibaba LocalVolume Provisioner

1)创建ConfigMap:

Provisioner的配置参数放在local-provisioner-config这个configmap中:

vendor: 可选,为alibabacloud时,启动阿里云本地盘功能;
hostDir: Local Disk在主机上的挂载目录;
mountDir: Local Disk在主机挂载目录,再次挂载到容器中的目录;
volumeMode: 挂载模式,支持文件系统、Block;
fsType: 文件系统类型,默认ext4;
deviceStartWith: 可选,默认vdb,本地盘的起始名称;
mkFSOptions:可选,默认空,表示进行“mkfs.*” 后面的参数;
mountOptions:可选,默认空,表示进行“mount -o”的参数;

apiVersion: v1
kind: ConfigMap
metadata:
  name: local-provisioner-config
  namespace: kube-system
data:
  storageClassMap: |
    local-volume:
       vendor: alibabacloud
       hostDir: /mnt/disks
       mountDir: /mnt/disks
       blockCleanerCommand:
         - "/scripts/shred.sh"
         - "2"
       volumeMode: Filesystem
       fsType: ext4
       deviceStartWith: vdb
       mkFSOptions: ""
       mountOptions: "nodelalloc"

2)创建StorageClass

LocalVolume的StorageClass不会真正去Provisioner PV,而是用来定义reclaimPolicy、volumeBindingMode等配置细节;

reclaimPolicy: 支持Retain、Delete;

volumeBindingMode: 支持Immediate、WaitForFirstConsumer

kind: StorageClass
apiVersion: storage.k8s.io/v1
metadata:
  name: local-volume
provisioner: kubernetes.io/no-provisioner
reclaimPolicy: Retain
volumeBindingMode: WaitForFirstConsumer

3)创建Provisioner服务

通过Daemonset部署,需要配置hostPID、hostNetwork为true;

添加privileged 权限;

支持通过AK、或STS方式部署;

支持STS免AK功能:

节点需要配置RAM Role信息,且role具有访问云盘权限;

使用STS功能时,不需要配置ACCESS_KEY_ID、ACCESS_KEY_SECRET参数;

配置STS可参考:https://help.aliyun.com/document_detail/86485.html

apiVersion: extensions/v1beta1
kind: DaemonSet
metadata:
  name: local-volume-provisioner
  namespace: kube-system
  labels:
    app: local-volume-provisioner
spec:
  selector:
    matchLabels:
      app: local-volume-provisioner
  template:
    metadata:
      labels:
        app: local-volume-provisioner
    spec:
      hostPID: true
      hostNetwork: true
      serviceAccountName: admin
      containers:
        - image: registry.cn-hangzhou.aliyuncs.com/plugins/local-volume-provisioner:v1.12-7802d35-aliyun
          imagePullPolicy: "Always"
          name: provisioner
          securityContext:
            privileged: true
          env:
          - name: MY_NODE_NAME
            valueFrom:
              fieldRef:
                fieldPath: spec.nodeName
          - name: ACCESS_KEY_ID
            value: ""
          - name: ACCESS_KEY_SECRET
            value: ""
          volumeMounts:
            - mountPath: /etc/provisioner/config
              name: provisioner-config
              readOnly: true
            - mountPath:  /mnt/disks
              name: local
              mountPropagation: "HostToContainer"
            - mountPath: /etc/kubernetes
              name: etc
      volumes:
        - name: provisioner-config
          configMap:
            name: local-provisioner-config
        - name: local
          hostPath:
            path: /mnt/disks
        - name: etc
          hostPath:
            path: /etc/kubernetes

消费LocalVolume

apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: myclaim
spec:
  accessModes:
  - ReadWriteOnce
  resources:
    requests:
      storage: 10Gi
  storageClassName: local-volume
kind: Pod
apiVersion: v1
metadata:
  name: mypod
spec:
  containers:
    - name: myfrontend
      image: nginx
      volumeMounts:
      - mountPath: "/data"
        name: mypd
  volumes:
    - name: mypd
      persistentVolumeClaim:
        claimName: myclaim
相关实践学习
Docker镜像管理快速入门
本教程将介绍如何使用Docker构建镜像,并通过阿里云镜像服务分发到ECS服务器,运行该镜像。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
目录
相关文章
|
3天前
|
Kubernetes 应用服务中间件 Docker
Kubernetes学习-集群搭建篇(二) 部署Node服务,启动JNI网络插件
Kubernetes学习-集群搭建篇(二) 部署Node服务,启动JNI网络插件
|
1天前
|
资源调度 Kubernetes 监控
Kubernetes 集群性能优化实践
【5月更文挑战第17天】在容器化和微服务架构日益普及的当下,Kubernetes 已成为众多企业的首选容器编排工具。然而,随着集群规模的增长和业务复杂度的提升,性能优化成为确保系统稳定性与高效运行的关键。本文将深入探讨 Kubernetes 集群性能优化的策略与实践,覆盖从节点资源配置到网络通信优化,再到高效的资源调度机制,旨在为运维人员提供系统的优化路径和具体的操作建议。
|
2天前
|
存储 Java Serverless
ACK One Argo 工作流集群:玩转容器对象存储
ACK One Argo 工作流集群:玩转容器对象存储
ACK One Argo 工作流集群:玩转容器对象存储
|
3天前
|
Kubernetes Ubuntu Docker
初始化k8s多结点集群
在Ubuntu22.04.3 LTS上设置k8s多节点集群,采用Docker v24.0.6、kubeadm v1.28和cir-dockerd v0.3.4。首先安装docker和cri-dockerd,更新k8s三件套至v1.28。然后,参照官方文档进行`kubeadm init`初始化集群,配置包括自定义镜像仓库、控制面端点等。成功初始化后,显示了相关证书和配置信息。最后,提供了一些额外的kubectl命令以管理节点。
12 1
|
3天前
|
存储 运维 Kubernetes
Kubernetes 集群的持续性能优化策略
【5月更文挑战第14天】 在动态且不断扩展的云计算环境中,保持 Kubernetes 集群的高性能运行是一个挑战。本文将探讨一系列实用的性能优化措施,旨在帮助运维专家确保其容器化应用能在资源受限的情况下仍保持高效与稳定。通过分析 Kubernetes 的资源调度机制、存储和网络配置,我们提出了一套综合的性能调优框架,并结合实际案例,展示如何实施这些策略以提升集群的整体性能。
|
3天前
|
运维 Prometheus 监控
Kubernetes 集群监控与性能优化实践
【5月更文挑战第14天】 在微服务架构日益普及的当下,Kubernetes 已成为容器编排的事实标准。然而,随着集群规模的扩大和业务复杂度的增加,监控系统的性能及稳定性变得至关重要。本文将深入探讨 Kubernetes 集群监控的重要性,介绍常用监控工具,并分享一系列针对集群性能优化的实践策略,帮助运维工程师确保服务的高可用性和优越性能。
|
3天前
|
Kubernetes 安全 API
Kubernetes学习-集群搭建篇(三) Node配置完善和API概述
Kubernetes学习-集群搭建篇(三) Node配置完善和API概述
Kubernetes学习-集群搭建篇(三) Node配置完善和API概述
|
3天前
|
存储 运维 Kubernetes
Kubernetes学习-集群搭建篇(一) 搭建Master结点
Kubernetes学习-集群搭建篇(一) 搭建Master结点
|
3天前
|
Kubernetes API 调度
Kubernetes学习-核心概念篇(二) 集群架构与组件
Kubernetes学习-核心概念篇(二) 集群架构与组件
|
3天前
|
存储 运维 监控
Kubernetes 集群的持续监控与性能优化策略
【5月更文挑战第11天】在微服务架构日益普及的当下,Kubernetes 已成为容器编排的事实标准。随着其在不同规模企业的广泛采用,如何确保 Kubernetes 集群的高效稳定运行变得至关重要。本文将探讨一套系统的 Kubernetes 集群监控方法,并结合实践经验分享针对性能瓶颈的优化策略。通过实时监控、日志分析与定期审计的结合,旨在帮助运维人员快速定位问题并提出解决方案,从而提升系统的整体表现。

相关产品

  • 容器服务Kubernetes版
  • 推荐镜像

    更多
    http://www.vxiaotou.com