东莞市建设公共交易中心网站首页,网站源码上传图片出错,山东军辉建设集团有限公司 公司网站网址,响应式设计网站案例我们采用了二进制包搭建出的k8s集群#xff0c;本次我们采用更为简单的kubeadm的方式来搭建k8s集群。 二进制的搭建更适合50台主机以上的大集群#xff0c;kubeadm更适合中小型企业的集群搭建
主机配置建议#xff1a;2c 4G
主机节点 IP …我们采用了二进制包搭建出的k8s集群本次我们采用更为简单的kubeadm的方式来搭建k8s集群。 二进制的搭建更适合50台主机以上的大集群kubeadm更适合中小型企业的集群搭建
主机配置建议2c 4G
主机节点 IP 组件 master 20.0.0.101 docker、kubeadm、kubelet、kubectl、flannel node01 20.0.0.102 docker、kubeadm、kubelet、kubectl、flannel node02 20.0.0.103 docker、kubeadm、kubelet、kubectl、flannel Harbor节点 20.0.0.104 docker、docker-compose、harbor-offline-v1.2.2
在所有节点上安装Docker和kubeadm 部署Kubernetes Master 部署容器网络插件 部署 Kubernetes Node将节点加入Kubernetes集群中 部署 Dashboard Web 页面可视化查看Kubernetes资源 部署 Harbor 私有仓库存放镜像资源
环境准备:
//所有节点关闭防火墙规则关闭selinux关闭swap交换 systemctl stop firewalld systemctl disable firewalld setenforce 0 sed -i s/enforcing/disabled/ /etc/selinux/config iptables -F iptables -t nat -F iptables -t mangle -F iptables -X swapoff -a #交换分区必须要关闭 sed -ri s/.*swap.*/#/ /etc/fstab #永久关闭swap分区符号在sed命令中代表上次匹配的结果 #加载 ip_vs 模块 for i in $(ls /usr/lib/modules/$(uname -r)/kernel/net/netfilter/ipvs|grep -o ^[^.]*);do echo $i; /sbin/modinfo -F filename $i /dev/null 21 /sbin/modprobe $i;done //修改主机名 hostnamectl set-hostname master01 hostnamectl set-hostname node01 hostnamectl set-hostname node02 //所有节点修改hosts文件 vim /etc/hosts 20.0.0.101 master01 20.0.0.102 node01 20.0.0.103 node02 //调整内核参数 cat /etc/sysctl.d/kubernetes.conf EOF #开启网桥模式可将网桥的流量传递给iptables链 net.bridge.bridge-nf-call-ip6tables1 net.bridge.bridge-nf-call-iptables1 #关闭ipv6协议 net.ipv6.conf.all.disable_ipv61 net.ipv4.ip_forward1 EOF //生效参数 sysctl --system
所有节点安装docker
yum install -y yum-utils device-mapper-persistent-data lvm2 yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo yum install -y docker-ce docker-ce-cli containerd.io mkdir /etc/docker cat /etc/docker/daemon.json EOF { registry-mirrors: [https://pkm63jfy.mirror.aliyuncs.com], exec-opts: [native.cgroupdriversystemd], log-driver: json-file, log-opts: { max-size: 100m } } EOF
systemctl daemon-reload systemctl restart docker.service systemctl enable docker.service docker info | grep Cgroup Driver Cgroup Driver: systemd 所有节点安装kubeadmkubelet和kubectl
//定义kubernetes源 cat /etc/yum.repos.d/kubernetes.repo EOF [kubernetes] nameKubernetes baseurlhttps://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64 enabled1 gpgcheck0 repo_gpgcheck0 gpgkeyhttps://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg EOF yum install -y kubelet-1.20.15 kubeadm-1.20.15 kubectl-1.20.15 //开机自启kubelet systemctl enable kubelet.service #K8S通过kubeadm安装出来以后都是以Pod方式存在即底层是以容器方式运行所以kubelet必须设置开机自启
//查看初始化需要的镜像 kubeadm config images list --kubernetes-version 1.20.15 k8s.gcr.io/kube-apiserver:v1.20.15 k8s.gcr.io/kube-controller-manager:v1.20.15 k8s.gcr.io/kube-scheduler:v1.20.15 k8s.gcr.io/kube-proxy:v1.20.15 k8s.gcr.io/pause:3.2 k8s.gcr.io/etcd:3.4.13-0 k8s.gcr.io/coredns:1.7.0 pause镜像是 Kubernetes Pod 中一个特殊容器所使用的基础容器。这个容器的作用是保持 Pod 中其他容器的运行。
在 Kubernetes 中Pod 是最小的可部署单元通常包含一个或多个容器。pause 容器的主要作用是创建一个网络命名空间 并在该网络命名空间内创建一个网络命名空间隔离的 Linux 进程。其他容器将加入这个网络命名空间共享网络命名空间的网络栈。
这种设计的好处是即使 Pod 中的容器是用不同的编程语言或框架编写的 它们仍然可以在同一网络空间中通信。pause 容器充当了这种网络命名空间的主要协调者。 当 Pod 中的所有容器退出时pause 容器也退出从而释放 Pod 的网络命名空间
master节点
kubeadm init \ --apiserver-advertise-address20.0.0.101 \ --image-repository registry.aliyuncs.com/google_containers \ --kubernetes-versionv1.20.15 \ --service-cidr10.96.0.0/16 \ --pod-network-cidr10.244.0.0/16 \ --token-ttl0 -------------------------------------------------------------------------------------------- 初始化集群需使用kubeadm init命令可以指定具体参数初始化也可以指定配置文件初始化。 可选参数 --apiserver-advertise-addressapiserver通告给其他组件的IP地址 一般应该为Master节点的用于集群内部通信的IP地址0.0.0.0表示节点上所有可用地址
--apiserver-bind-portapiserver的监听端口默认是6443 --cert-dir通讯的ssl证书文件默认/etc/kubernetes/pki --control-plane-endpoint控制台平面的共享终端可以是负载均衡的ip地址或者dns域名高可用集群时需要添加 --image-repository拉取镜像的镜像仓库默认是k8s.gcr.io --kubernetes-version指定kubernetes版本 --pod-network-cidrpod资源的网段需与pod网络插件的值设置一致。Flannel网络插件的默认为10.244.0.0/16Calico插件的默认值为192.168.0.0/16 --service-cidrservice资源的网段 --service-dns-domainservice全域名的后缀默认是cluster.local --token-ttl默认token的有效期为24小时如果不想过期可以加上 --token-ttl0 这个参数 ---------------------------------------------------------------------------------------------
kubeadm join 20.0.0.101:6443 --token j7h4sa.yau6cfyzva2zk9ll \ --discovery-token-ca-cert-hash sha256:13b961db6119c69691992ef0e33b46a97339290d6ff19d8effe00329e543d28f 复制这一串到每个node节点 //设定kubectl kubectl需经由API server认证及授权后方能执行相应的管理操作 kubeadm 部署的集群为其生成了一个具有管理员权限的认证配置文件 /etc/kubernetes/admin.conf 它可由 kubectl 通过默认的 “$HOME/.kube/config” 的路径进行加载。 mkdir -p $HOME/.kube cp -i /etc/kubernetes/admin.conf $HOME/.kube/config chown $(id -u):$(id -g) $HOME/.kube/config
systemctl restart kubelet 初始化后需要修改 kube-proxy 的 configmap开启 ipvs kubectl edit cm kube-proxy -nkube-system 修改mode: ipvs kubectl get cs 发现集群不健康更改以下两个文件 vim /etc/kubernetes/manifests/kube-scheduler.yaml vim /etc/kubernetes/manifests/kube-controller-manager.yaml # 修改如下内容 把--bind-address127.0.0.1变成--bind-address20.0.0.101 #修改成k8s的控制节点master01的ip 把httpGet:字段下的hosts由127.0.0.1变成20.0.0.101有两处 #- --port0 # 搜索port0把这一行注释掉 systemctl restart kubelet //所有节点上传 flannel 镜像 flannel.tar 和网络插件 cni-plugins-linux-amd64-v0.8.6.tgz 到 /opt 目录master节点再多上传 kube-flannel.yml 文件
所有节点
cd /opt docker load flannel.tar mv /opt/cni /opt/cni_bak mkdir -p /opt/cni/bin tar zxvf cni-plugins-linux-amd64-v0.8.6.tgz -C /opt/cni/bin //在 master 节点创建 flannel 资源 kubectl apply -f kube-flannel.yml
#删除node节点 kubectl delete node master01 #证书有效期的问题,kubeadm默认只有1年 openssl x509 -in /etc/kubernetes/pki/ca.crt -noout -text | grep Not openssl x509 -in /etc/kubernetes/pki/apiserver.crt -noout -text | grep Not
拖入安装包 chmod 777 update-kubeadm-cert.sh ./update-kubeadm-cert.sh all
执行脚本即可
//在master节点查看节点状态 kubectl get nodes kubectl get pods -n kube-system //测试 pod 资源创建 kubectl create deployment nginx --imagenginx kubectl get pods -o wide //暴露端口提供服务 kubectl expose deployment nginx --port80 --typeNodePort
进入pod修改页面 kubectl get svc //测试访问 curl http://20.0.0.102:32698 node1的ip地址 //缩容副本 kubectl scale deployment nginx --replicas3 kubectl get pods -o wide 安装 部署与k8s集群对接的Harbor仓库
//上传 harbor-offline-installer-v2.8.1.tgz 和 docker-compose-linux-x86_64 文件到 /opt 目录 cd /opt mv docker-compose-linux-x86_64 docker-compose chmod 777 docker-compose mv docker-compose /usr/local/bin/ docker-compose version tar zxvf harbor-offline-installer-v2.8.1.tgz
cd harbor/
cp harbor.yml.tmpl harbor.yml
vim harbor.yml
hostname hub.test.com
https: # https port for harbor, default is 443 port: 443 # The path of cert and key files for nginx certificate: /data/cert/server.crt private_key: /data/cert/server.key
harbor_admin_password 123456 //生成证书 mkdir -p /data/cert cd /data/cert #生成私钥 openssl genrsa -des3 -out server.key 2048 输入两遍密码123456
openssl genrsa: 用于生成 RSA 密钥。 -des3: 使用 Triple DES 加密算法对生成的私钥进行加密。 -out server.key: 指定生成的私钥文件的名称为 server.key。 2048: 指定 RSA 密钥的位数为 2048 位。 #生成证书签名请求文件 openssl req -new -key server.key -out server.csr 输入私钥密码123456 输入国家名CN 输入省名BJ 输入市名BJ 输入组织名TEST 输入机构名TEST 输入域名hub.kgc.com 输入管理员邮箱admintest.com 其它全部直接回车 #备份私钥 cp server.key server.key.org #清除私钥密码 openssl rsa -in server.key.org -out server.key 输入私钥密码123456 #签名证书 openssl x509 -req -days 1000 -in server.csr -signkey server.key -out server.crt chmod x /data/cert/* cd /opt/harbor/ ./prepare
./install.sh
使用浏览器访问https://20.0.0.104
添加例外 - 确认安全例外 用户名admin 密码123456
node1节点 mkdir -p /etc/docker/certs.d/hub.test.com/
在harbor节点把密钥验证目录整个转给node节点 scp -r /data root20.0.0.102:/
所有节点
vim /etc/hosts 20.0.0.104 hub.test.com
node1节点
vim /lib/systemd/system/docker.service
ExecStart/usr/bin/dockerd -H fd:// --containerd/run/containerd/containerd.sock --insecure-registryhub.test.com
systemctl daemon-reload
systemctl restart docker
docker login -u admin -p 123456 https://hub.test.com
docker tag nginx:latest hub.test.com/library/nginx:v1
docker push hub.test.com/library/nginx:v1 //在master节点上删除之前创建的nginx资源 kubectl delete deployment nginx kubectl create deployment myapp-test --imagehub.test.com/library/nginx:v1 --port80 --replicas3 kubectl expose deployment myapp-test --port30000 --target-port80 kubectl get svc,pods
yum install ipvsadm -y
ipvsadm -Ln
#通过上图myapp-test的clusterip端口号 进行访问 curl curl 10.96.162.192:80 kubectl edit svc myapp-test 25 type: NodePort #把调度策略改成NodePort kubectl get svc 浏览器访问就是myapp-test的外部接口30977 http://20.0.0.101:30977/ http://20.0.0.102:30977/ http://20.0.0.103:30977/ #将cluster-admin角色权限授予用户system:anonymous kubectl create clusterrolebinding cluster-system-anonymous --clusterrolecluster-admin --usersystem:anonymous
部署 Dashboard
//在 master01 节点上操作 #上传 recommended.yaml 文件到 /opt/k8s 目录中
mkdir /opt/k8s
cd /opt/k8s vim recommended.yaml #默认Dashboard只能集群内部访问修改Service为NodePort类型暴露到外部 kind: Service apiVersion: v1 metadata: labels: k8s-app: kubernetes-dashboard name: kubernetes-dashboard namespace: kubernetes-dashboard spec: ports: - port: 443 targetPort: 8443 nodePort: 30001 #添加 type: NodePort #添加 selector: k8s-app: kubernetes-dashboard kubectl apply -f recommended.yaml #创建service account并绑定默认cluster-admin管理员集群角色 kubectl create serviceaccount dashboard-admin -n kube-system kubectl create clusterrolebinding dashboard-admin --clusterrolecluster-admin --serviceaccountkube-system:dashboard-admin kubectl describe secrets -n kube-system $(kubectl -n kube-system get secret | awk /dashboard-admin/{print $1}) #使用输出的token登录Dashboard https://NodeIP:30001
