中文
AzureDisk
根据配置的不同，Kubernetes 支持的 AzureDisk 可以分为以下几类
- Managed Disks: 由 Azure 自动管理磁盘和存储账户
- Blob Disks:
- Dedicated (默认)：为每个 AzureDisk 创建单独的存储账户，当删除 PVC 的时候删除该存储账户
- Shared：AzureDisk 共享 ResourceGroup 内的同一个存储账户，这时删除 PVC 不会删除该存储账户
注意：
使用 AzureDisk 推荐的版本：
Kubernetes version
Recommended version
1.12
1.12.9 或更高版本
1.13
1.13.6 或更高版本
1.14
1.14.2 或更高版本
>=1.15
>=1.15
1
kubectl get storageclass
2
NAME PROVISIONER AGE
3
default (default) kubernetes.io/azure-disk 45d
4
managed-premium kubernetes.io/azure-disk 53d
5
managed-standard kubernetes.io/azure-disk 53d
Copied!
AzureDisk 挂载失败
在 AzureDisk 从一个 Pod 迁移到另一 Node 上面的 Pod 时或者同一台 Node 上面使用了多块 AzureDisk 时有可能会碰到这个问题。这是由于 kube-controller-manager 未对 AttachDisk 和 DetachDisk 操作加锁从而引发了竞争问题（kubernetes#60101 acs-engine#2002 ACS#12）。
通过 kube-controller-manager 的日志，可以查看具体的错误原因。常见的错误日志为
1
Cannot attach data disk 'cdb-dynamic-pvc-92972088-11b9-11e8-888f-000d3a018174' to VM 'kn-edge-0' because the disk is currently being detached or the last detach operation failed. Please wait until the disk is completely detached and then try again or delete/detach the disk explicitly again.
Copied!
临时性解决方法为
（1）更新所有受影响的虚拟机状态
使用powershell：
1
$vm = Get-AzureRMVM -ResourceGroupName $rg -Name $vmname
2
Update-AzureRmVM -ResourceGroupName $rg -VM $vm -verbose -debug
Copied!
使用 Azure CLI：
1
# For VM:
2
az vm update -n <VM_NAME> -g <RESOURCE_GROUP_NAME>
3
4
# For VMSS:
5
az vmss update-instances -g <RESOURCE_GROUP_NAME> --name <VMSS_NAME> --instance-id <ID>
Copied!
（2）重启虚拟机
kubectl cordon NODE- 如果 Node 上运行有 StatefulSet，需要手动删除相应的 Pod
kubectl drain NODEGet-AzureRMVM -ResourceGroupName $rg -Name $vmname | Restart-AzureVMkubectl uncordon NODE
挂载新的 AzureDisk 后，该 Node 中其他 Pod 已挂载的 AzureDisk 不可用
在 Kubernetes v1.7 中，AzureDisk 默认的缓存策略修改为
ReadWrite，这会导致在同一个 Node 中挂载超过 5 块 AzureDisk 时，已有 AzureDisk 的盘符会随机改变（kubernetes#60344 kubernetes#57444 AKS#201 acs-engine#1918）。比如，当挂载第六块 AzureDisk 后，原来 lun0 磁盘的挂载盘符有可能从 sdc 变成 sdk：1
$ tree /dev/disk/azure
2
...
3
└── scsi1
4
├── lun0 -> ../../../sdk
5
├── lun1 -> ../../../sdj
6
├── lun2 -> ../../../sde
7
├── lun3 -> ../../../sdf
8
├── lun4 -> ../../../sdg
9
├── lun5 -> ../../../sdh
10
└── lun6 -> ../../../sdi
Copied!
这样，原来使用 lun0 磁盘的 Pod 就无法访问 AzureDisk 了
1
[[email protected] /]# ls /datadisk
2
ls: reading directory .: Input/output error
Copied!
临时性解决方法是设置 AzureDisk StorageClass 的
cachingmode: None，如1
kind: StorageClass
2
apiVersion: storage.k8s.io/v1
3
metadata:
4
name: managed-standard
5
provisioner: kubernetes.io/azure-disk
6
parameters:
7
skuname: Standard_LRS
8
kind: Managed
9
cachingmode: None
Copied!
AzureDisk 挂载慢
AzureDisk PVC 的挂载过程一般需要 1 分钟的时间，这些时间主要消耗在 Azure ARM API 的调用上（查询 VM 以及挂载 Disk）。#57432 为 Azure VM 增加了一个缓存，消除了 VM 的查询时间，将整个挂载过程缩短到大约 30 秒。该修复包含在v1.9.2+ 和 v1.10 中。
另外，如果 Node 使用了
Standard_B1s 类型的虚拟机，那么 AzureDisk 的第一次挂载一般会超时，等再次重复时才会挂载成功。这是因为在 Standard_B1s 虚拟机中格式化 AzureDisk 就需要很长时间（如超过 70 秒）。1
$ kubectl describe pod <pod-name>
2
...
3
Events:
4
FirstSeen LastSeen Count From SubObjectPath Type Reason Message
5
--------- -------- ----- ---- ------------- -------- ------ -------
6
8m 8m 1 default-scheduler Normal Scheduled Successfully assigned nginx-azuredisk to aks-nodepool1-15012548-0
7
7m 7m 1 kubelet, aks-nodepool1-15012548-0 Normal SuccessfulMountVolume MountVolume.SetUp succeeded for volume "default-token-mrw8h"
8
5m 5m 1 kubelet, aks-nodepool1-15012548-0 Warning FailedMount Unable to mount volumes for pod "nginx-azuredisk_default(4eb22bb2-0bb5-11e8-8
9
d9e-0a58ac1f0a2e)": timeout expired waiting for volumes to attach/mount for pod "default"/"nginx-azuredisk". list of unattached/unmounted volumes=[disk01]
10
5m 5m 1 kubelet, aks-nodepool1-15012548-0 Warning FailedSync Error syncing pod
11
4m 4m 1 kubelet, aks-nodepool1-15012548-0 Normal SuccessfulMountVolume MountVolume.SetUp succeeded for volume "pvc-20240841-0bb5-11e8-8d9e-0a58ac1f0
12
a2e"
13
4m 4m 1 kubelet, aks-nodepool1-15012548-0 spec.containers{nginx-azuredisk} Normal Pulling pulling image "nginx"
14
3m 3m 1 kubelet, aks-nodepool1-15012548-0 spec.containers{nginx-azuredisk} Normal Pulled Successfully pulled image "nginx"
15
3m 3m 1 kubelet, aks-nodepool1-15012548-0 spec.containers{nginx-azuredisk} Normal Created Created container
16
2m 2m 1 kubelet, aks-nodepool1-15012548-0 spec.containers{nginx-azuredisk} Normal Started Started container
Copied!
Azure German Cloud 无法使用 AzureDisk
MountVolume.WaitForAttach failed
1
MountVolume.WaitForAttach failed for volume "pvc-f1562ecb-3e5f-11e8-ab6b-000d3af9f967" : azureDisk - Wait for attach expect device path as a lun number, instead got: /dev/disk/azure/scsi1/lun1 (strconv.Atoi: parsing "/dev/disk/azure/scsi1/lun1": invalid syntax)
Copied!
在 mountOptions 中设置 uid 和 gid 时失败
默认情况下，Azure 磁盘使用 ext4、xfs filesystem 和 mountOptions，如 uid = x，gid = x 无法在装入时设置。 例如，如果你尝试设置 mountOptions uid = 999，gid = 999，将看到类似于以下内容的错误:
1
Warning FailedMount 63s kubelet, aks-nodepool1-29460110-0 MountVolume.MountDevice failed for volume "pvc-d783d0e4-85a1-11e9-8a90-369885447933" : azureDisk - mountDevice:FormatAndMount failed with mount failed: exit status 32
2
Mounting command: systemd-run
3
Mounting arguments: --description=Kubernetes transient mount for /var/lib/kubelet/plugins/kubernetes.io/azure-disk/mounts/m436970985 --scope -- mount -t xfs -o dir_mode=0777,file_mode=0777,uid=1000,gid=1000,defaults /dev/disk/azure/scsi1/lun2 /var/lib/kubelet/plugins/kubernetes.io/azure-disk/mounts/m436970985
4
Output: Running scope as unit run-rb21966413ab449b3a242ae9b0fbc9398.scope.
5
mount: wrong fs type, bad option, bad superblock on /dev/sde,
6
missing codepage or helper program, or other error
Copied!
可以通过执行以下操作之一来缓解此问题
1
apiVersion: v1
2
kind: Pod
3
metadata:
4
name: security-context-demo
5
spec:
6
securityContext:
7
runAsUser: 0
8
fsGroup: 0
Copied!
备注: 因为 gid 和 uid 默认装载为 root 或0。如果 gid 或 uid 设置为非根（例如1000），则 Kubernetes 将使用chown更改该磁盘下的所有目录和文件。此操作可能非常耗时，并且可能会导致装载磁盘的速度非常慢。
- 使用 initContainers 中的
chown设置 gid 和 uid。例如：
1
initContainers:
2
- name: volume-mount
3
image: busybox
4
command: ["sh", "-c", "chown -R 100:100 /data"]
5
volumeMounts:
6
- name: <your data volume>
7
mountPath: /data
Copied!
删除 pod 使用的 Azure 磁盘 PersistentVolumeClaim 时出错
如果尝试删除 pod 使用的 Azure 磁盘 PersistentVolumeClaim，可能会看到错误。例如：
1
$ kubectl describe pv pvc-d8eebc1d-74d3-11e8-902b-e22b71bb1c06
2
...
3
Message: disk.DisksClient#Delete: Failure responding to request: StatusCode=409 -- Original Error: autorest/azure: Service returned an error. Status=409 Code="OperationNotAllowed" Message="Disk kubernetes-dynamic-pvc-d8eebc1d-74d3-11e8-902b-e22b71bb1c06 is attached to VM /subscriptions/{subs-id}/resourceGroups/MC_markito-aks-pvc_markito-aks-pvc_westus/providers/Microsoft.Compute/virtualMachines/aks-agentpool-25259074-0."
Copied!
在 Kubernetes 版本1.10 及更高版本中，默认情况下已启用 PersistentVolumeClaim protection 功能以防止此错误。如果你使用的 Kubernetes 版本不能解决此问题，则可以通过在删除 PersistentVolumeClaim 前使用 PersistentVolumeClaim 删除 pod 来缓解此问题。
参考文档
最近更新 2yr ago