- 기술지원master 노드 네트워크 접근이 안되는 상황
-
김*진 2024-07-16 11:54:02- hits89
Unable to connect to the server: dial tcp 192.168.26.139:6443: connect: network is unreachable
vmware 환경 사용 중입니다.
pc를 종료하거나 vmware 상에서 노드를 재실행하고 난 뒤 portal을 설치하는 경우 클러스터 접근제한 오류가 생깁니다.
192.168.26.139:6443 는 master 노드의 ip입니다.
현재 master 1대 worker 1대 nfs 1대 구성해 사용 중입니다.
portal이 설치되고 난 뒤 pc 재실행해 포털에 접속하면 '클러스터에 접속할 수 없습니다' 와 같은 오류가 발생하는 경우도 있었습니다.
안녕하세요. 개방형 클라우드 플랫폼 센터입니다.
첨부하신 사진만으로는 정확한 원인을 파악하기 어렵습니다.
네트워크 연결 문제는 여러가지 원인이 있을 수 있습니다. VMware 네트워크 설정이 잘 되어있는지 확인해보시기 바랍니다.
방화벽이 네트워크 연결을 차단할 수 있고 6443포트가 열려있는지 확인 부탁드리며 VMware 재부팅 후 클러스터에 접속할 수 없는 오류도 네트워크 설정 문제일 가능성이 있으니 노드간(Master, Worker) 통신을 확인해 보시기바랍니다.
아래와 같이 로그를 조회하여 제공해 주시면 확인후 답변드리겠습니다.
*클러스터 구축 확인
$ kubectl get nodes
$ kubectl get pods -n kube-system
portal이 설치되고 난 뒤 pc 재실행해 포털에 접속하면 '클러스터에 접속할 수 없습니다' 와 같은 오류가 발생하는 경우는 다음과 같은 에러에 의해서 발생할 수 있습니다.
*1. 클러스터 노드 VM이 재구동 되면 파드의 상태가 불안정하게 됩니다. 'Erorr'가 발생한 파드를 삭제하여 주시고 모든 파드가 'Running' 상태로 뜨는지 확인 부탁드립니다.
$ kubectl get pods -A
(예시)
default nfs-pod-provisioner-66c75897fd-rh7kv 0/1 Error 2 2d
default vault-0 0/1 Completed 2 4d17h
harbor cp-harbor-chartmuseum-67d548dd85-ndhrg 0/1 Error 0 24h
harbor cp-harbor-core-7b64954d8b-5m5zh 0/1 Completed 0 24h
harbor cp-harbor-database-0 0/1 Completed 1 2d
harbor cp-harbor-jobservice-7d54c988fc-jzf27 0/1 Completed 0 23h
harbor cp-harbor-notary-server-6d66768b75-b4d25 0/1 Error 0 24h
harbor cp-harbor-notary-signer-6cb8679558-d2rvt 0/1 Error 0 24h
harbor cp-harbor-portal-776646487f-xlstf 0/1 Completed 0 24h
harbor cp-harbor-redis-0 0/1 Completed 0 24h
harbor cp-harbor-registry-7d594f8fb7-xtpsh 2/2 Running 46 29d
harbor cp-harbor-trivy-0 0/1 Completed 0 24h
ingress-nginx ingress-nginx-controller-6dc9c5fb7c-tr8fz 0/1 Running 32 43d
keycloak cp-keycloak-0 0/1 Error 0 24h
keycloak cp-keycloak-1 0/1 Error 0 24h
kube-system calico-kube-controllers-648dffd99-lttrv 0/1 Running 34 43d
kube-system calico-node-56495 1/1 Running 32 43d
kube-system calico-node-59hrj 1/1 Running 33 43d
kube-system calico-node-mgz75 1/1 Running 32 43d
kube-system calico-node-prbkt 1/1 Running 32 43d
kube-system coredns-77f7cc69db-6gznj 1/1 Running 33 43d
kube-system coredns-77f7cc69db-vv246 0/1 Running 32 43d
kube-system dns-autoscaler-8576bb9f5b-rdlf7 1/1 Running 33 43d
kube-system kube-apiserver-cp-dev-cluster1 1/1 Running 33 43d
kube-system kube-controller-manager-cp-dev-cluster1 1/1 Running 36 43d
kube-system kube-proxy-cjsl6 1/1 Running 32 43d
kube-system kube-proxy-rpwlf 1/1 Running 32 43d
kube-system kube-proxy-tchqf 1/1 Running 16 21d
kube-system kube-proxy-zzqr8 1/1 Running 32 43d
kube-system kube-scheduler-cp-dev-cluster1 1/1 Running 36 43d
kube-system metrics-server-bd6df7764-gz97n 0/1 Running 48 43d
kube-system nginx-proxy-cp-dev-cluster2 1/1 Running 32 43d
kube-system nginx-proxy-cp-dev-cluster3 1/1 Running 32 43d
kube-system nginx-proxy-cp-dev-cluster4 1/1 Running 32 43d
kube-system nodelocaldns-cpzx4 1/1 Running 40 (36s ago) 43d
kube-system nodelocaldns-h5l9q 1/1 Running 35 43d
kube-system nodelocaldns-hkmn2 1/1 Running 37 43d
kube-system nodelocaldns-tgcbl 1/1 Running 37 43d
mariadb cp-mariadb-0 0/1 Completed 12 24h
metallb-system controller-666f99f6ff-rsfk6 0/1 Error 58 43d
metallb-system speaker-5mrdd 0/1 Completed 0 24h
metallb-system speaker-67vnk 0/1 Completed 0 24h
metallb-system speaker-75xdz 0/1 Completed 0 24h
metallb-system speaker-lcrq9 0/1 Completed 0 24h
vault cp-vault-0 0/1 Completed 4 7d
vault cp-vault-agent-injector-7b84c58f45-nd97h 0/1 Error 0 24h
*2. 컨테이너 플랫폼 포털의 경우 Vault 파드가 재시작 되거나 클러스터 노드 VM이 재구동 되면 Vault가 Seal 상태(잠김상태)가 되며, Unseal 상태로 하기 위해서는 Unseal Key가 필요합니다.
$ kubectl get pods -n vault
vault cp-vault-0 0/1 Completed 4 7d
Vault Unseal Key는 아래 경로에 위치합니다.
경로 : ~/workspace/container-platform/cp-portal-deployment/vault/cp-vault-unseal-key
노드VM 재구동 후 Vault UI에 접속하시어 keys 또는 keys_base64 중 2개의 키 입력하여 Unseal 상태로 해제 바랍니다.
*3. cp-portal-metric-api-deployment 파드가 제대로 실행되고 있는지 확인 부탁드립니다.
$ kubectl get pods -n cp-portal
NAME READY STATUS RESTARTS AGE
cp-portal-metric-api-deployment-848d85866c-n9sbj 1/1 Running 0 32m
추가로 Kubernetes Cluster 환경을 구성하기 위한 VM환경은 Master VM: 1개, Worker VM: 3개 이상이 필요합니다.
워커노드 1개로 설치는 가능하나 클러스터의 가용성, 안정성, 확장성 등을 위해 컨테이너 플랫폼 설치시 워커 노드 3개 이상으로 Kubernetes Cluster 환경을 구성해야합니다.
감사합니다.