【K8s】【笔记】----第七章：Kubernetes Service详解

【K8s】【笔记】----第一章Kubernetes 介绍【K8s】【笔记】----第二章Kubernetes 集群环境搭建【K8s】【笔记】----第三章Kubernetes 资源管理【K8s】【笔记】----第四章Kubernetes 实战入门【K8s】【笔记】----第五章Kubernetes Pod详解【K8s】【笔记】----第六章Kubernetes Pod控制器详解【K8s】【笔记】----第七章Kubernetes Service详解【K8s】【笔记】----第八章Kubernetes 数据存储【K8s】【笔记】----第九章Kubernetes 安全认证7. Service详解7.1 Service介绍在kubernetes中pod是应用程序的载体我们可以通过pod的ip来访问应用程序但是pod的ip地址不是固定的这也就意味着不方便直接采用pod的ip对服务进行访问。为了解决这个问题kubernetes提供了Service资源Service会对提供同一个服务的多个pod进行聚合并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。Service在很多情况下只是一个概念真正起作用的其实是kube-proxy服务进程每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息而kube-proxy会基于监听的机制发现这种Service的变动然后它会将最新的Service信息转换成对应的访问规则。# 10.97.97.97:80 是service提供的访问入口# 当访问这个入口的时候可以发现后面有三个pod的服务在等待调用# kube-proxy会基于rr轮询的策略将请求分发到其中一个pod上去# 这个规则会同时在集群内的所有节点上都生成所以在任何一个节点上访问都可以。[rootnode1 ~]# ipvsadm -LnIP Virtual Server version 1.2.1 (size4096) Prot LocalAddress:Port Scheduler Flags-RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 10.97.97.97:80 rr-10.244.1.39:80 Masq 1 0 0-10.244.1.40:80 Masq 1 0 0-10.244.2.33:80 Masq 1 0 0kube-proxy目前支持三种工作模式:userspace 模式userspace模式下kube-proxy会为每一个Service创建一个监听端口发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接以将请求转发到Pod上。 该模式下kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中在进行转发处理时会增加内核和用户空间之间的数据拷贝虽然比较稳定但是效率比较低。iptables 模式iptables模式下kube-proxy为service后端的每个Pod创建对应的iptables规则直接将发向Cluster IP的请求重定向到一个Pod IP。 该模式下kube-proxy不承担四层负责均衡器的角色只负责创建iptables规则。该模式的优点是较userspace模式效率更高但不能提供灵活的LB策略当后端Pod不可用时也无法进行重试。ipvs 模式ipvs模式和iptables类似kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外ipvs支持更多的LB算法。# 此模式必须安装ipvs内核模块否则会降级为iptables# 开启ipvs[rootk8s-master01 ~]# kubectl edit cm kube-proxy -n kube-system# 修改mode: ipvs[rootk8s-master01 ~]# kubectl delete pod -l k8s-appkube-proxy -n kube-system[rootnode1 ~]# ipvsadm -LnIP Virtual Server version 1.2.1 (size4096) Prot LocalAddress:Port Scheduler Flags-RemoteAddress:Port Forward Weight ActiveConn InActConn TCP 10.97.97.97:80 rr-10.244.1.39:80 Masq 1 0 0-10.244.1.40:80 Masq 1 0 0-10.244.2.33:80 Masq 1 0 07.2 Service类型Service的资源清单文件kind:Service# 资源类型apiVersion:v1# 资源版本metadata:# 元数据name:service# 资源名称namespace:dev# 命名空间spec:# 描述selector:# 标签选择器用于确定当前service代理哪些podapp:nginxtype:# Service类型指定service的访问方式clusterIP:# 虚拟服务的ip地址sessionAffinity:# session亲和性支持ClientIP、None两个选项ports:# 端口信息-protocol:TCPport:3017# service端口targetPort:5003# pod端口nodePort:31122# 主机端口ClusterIP默认值它是Kubernetes系统自动分配的虚拟IP只能在集群内部访问NodePort将Service通过指定的Node上的端口暴露给外部通过此方法就可以在集群外部访问服务LoadBalancer使用外接负载均衡器完成到服务的负载分发注意此模式需要外部云环境支持ExternalName 把集群外部的服务引入集群内部直接使用7.3 Service使用7.3.1 实验环境准备在使用service之前首先利用Deployment创建出3个pod注意要为pod设置appnginx-pod的标签创建deployment.yaml内容如下apiVersion:apps/v1kind:Deploymentmetadata:name:pc-deploymentnamespace:devspec:replicas:3selector:matchLabels:app:nginx-podtemplate:metadata:labels:app:nginx-podspec:containers:-name:nginximage:nginx:1.17.1ports:-containerPort:80[rootk8s-master01 ~]# kubectl create -f deployment.yamldeployment.apps/pc-deployment created# 查看pod详情[rootk8s-master01 ~]# kubectl get pods -n dev -o wide --show-labelsNAME READY STATUS IP NODE LABELS pc-deployment-66cb59b984-8p84h 1/1 Running 10.244.1.39 node1 appnginx-pod pc-deployment-66cb59b984-vx8vx 1/1 Running 10.244.2.33 node2 appnginx-pod pc-deployment-66cb59b984-wnncx 1/1 Running 10.244.1.40 node1 appnginx-pod# 为了方便后面的测试修改下三台nginx的index.html页面三台修改的IP地址不一致# kubectl exec -it pc-deployment-66cb59b984-8p84h -n dev /bin/sh# echo 10.244.1.39 /usr/share/nginx/html/index.htmlecho 10.244.1.40/usr/share/nginx/html/index.html echo 10.244.1.49/usr/share/nginx/html/index.html#修改完毕之后访问测试[rootk8s-master01 ~]# curl 10.244.1.3910.244.1.39[rootk8s-master01 ~]# curl 10.244.2.3310.244.2.33[rootk8s-master01 ~]# curl 10.244.1.4010.244.1.407.3.2 ClusterIP类型的Service创建service-clusterip.yaml文件apiVersion:v1kind:Servicemetadata:name:service-clusteripnamespace:devspec:selector:app:nginx-podclusterIP:10.97.97.97# service的ip地址如果不写默认会生成一个type:ClusterIPports:-port:80# Service端口targetPort:80# pod端口# 创建service[rootk8s-master01 ~]# kubectl create -f service-clusterip.yamlservice/service-clusterip created# 查看service[rootk8s-master01 ~]# kubectl get svc -n dev -o wideNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR service-clusterip ClusterIP 10.97.97.97 none80/TCP 13s appnginx-pod# 查看service的详细信息# 在这里有一个Endpoints列表里面就是当前service可以负载到的服务入口[rootk8s-master01 ~]# kubectl describe svc service-clusterip -n devName:service-clusteripNamespace:devLabels:noneAnnotations:noneSelector:appnginx-podType:ClusterIPIP:10.97.97.97Port:unset80/TCPTargetPort:80/TCPEndpoints:10.244.1.39:80,10.244.1.40:80,10.244.2.33:80Session Affinity:NoneEvents:none# 查看ipvs的映射规则[rootk8s-master01 ~]# ipvsadm -LnTCP 10.97.97.97:80 rr-10.244.1.39:80 Masq 1 0 0-10.244.1.40:80 Masq 1 0 0-10.244.2.33:80 Masq 1 0 0# 访问10.97.97.97:80观察效果[rootk8s-master01 ~]# curl 10.97.97.97:8010.244.2.33EndpointEndpoint是kubernetes中的一个资源对象存储在etcd中用来记录一个service对应的所有pod的访问地址它是根据service配置文件中selector描述产生的。一个Service由一组Pod组成这些Pod通过Endpoints暴露出来Endpoints是实现实际服务的端点集合。换句话说service和pod之间的联系是通过endpoints实现的。负载分发策略对Service的访问被分发到了后端的Pod上去目前kubernetes提供了两种负载分发策略如果不定义默认使用kube-proxy的策略比如随机、轮询基于客户端地址的会话保持模式即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上此模式可以使在spec中添加sessionAffinity:ClientIP选项# 查看ipvs的映射规则【rr 轮询】[rootk8s-master01 ~]# ipvsadm -LnTCP 10.97.97.97:80 rr-10.244.1.39:80 Masq 1 0 0-10.244.1.40:80 Masq 1 0 0-10.244.2.33:80 Masq 1 0 0# 循环访问测试[rootk8s-master01 ~]# while true;do curl 10.97.97.97:80; sleep 5; done;10.244.1.40 10.244.1.39 10.244.2.33 10.244.1.40 10.244.1.39 10.244.2.33# 修改分发策略----sessionAffinity:ClientIP# 查看ipvs规则【persistent 代表持久】[rootk8s-master01 ~]# ipvsadm -LnTCP 10.97.97.97:80 rr persistent 10800-10.244.1.39:80 Masq 1 0 0-10.244.1.40:80 Masq 1 0 0-10.244.2.33:80 Masq 1 0 0# 循环访问测试[rootk8s-master01 ~]# while true;do curl 10.97.97.97; sleep 5; done;10.244.2.33 10.244.2.33 10.244.2.33# 删除service[rootk8s-master01 ~]# kubectl delete -f service-clusterip.yamlservice service-clusterip deleted7.3.3 HeadLiness类型的Service在某些场景中开发人员可能不想使用Service提供的负载均衡功能而希望自己来控制负载均衡策略针对这种情况kubernetes提供了HeadLiness Service这类Service不会分配Cluster IP如果想要访问service只能通过service的域名进行查询。创建service-headliness.yamlapiVersion:v1kind:Servicemetadata:name:service-headlinessnamespace:devspec:selector:app:nginx-podclusterIP:None# 将clusterIP设置为None即可创建headliness Servicetype:ClusterIPports:-port:80targetPort:80# 创建service[rootk8s-master01 ~]# kubectl create -f service-headliness.yamlservice/service-headliness created# 获取service 发现CLUSTER-IP未分配[rootk8s-master01 ~]# kubectl get svc service-headliness -n dev -o wideNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR service-headliness ClusterIP None none80/TCP 11s appnginx-pod# 查看service详情[rootk8s-master01 ~]# kubectl describe svc service-headliness -n devName:service-headlinessNamespace:devLabels:noneAnnotations:noneSelector:appnginx-podType:ClusterIPIP:NonePort:unset80/TCPTargetPort:80/TCPEndpoints:10.244.1.39:80,10.244.1.40:80,10.244.2.33:80Session Affinity:NoneEvents:none# 查看域名的解析情况[rootk8s-master01 ~]# kubectl exec -it pc-deployment-66cb59b984-8p84h -n dev /bin/sh/# cat /etc/resolv.confnameserver 10.96.0.10 search dev.svc.cluster.local svc.cluster.local cluster.local[rootk8s-master01 ~]# dig 10.96.0.10 service-headliness.dev.svc.cluster.localservice-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.40 service-headliness.dev.svc.cluster.local. 30 IN A 10.244.1.39 service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.337.3.4 NodePort类型的Service在之前的样例中创建的Service的ip地址只有集群内部才可以访问如果希望将Service暴露给集群外部使用那么就要使用到另外一种类型的Service称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上然后就可以通过NodeIp:NodePort来访问service了。创建service-nodeport.yamlapiVersion:v1kind:Servicemetadata:name:service-nodeportnamespace:devspec:selector:app:nginx-podtype:NodePort# service类型ports:-port:80nodePort:30002# 指定绑定的node的端口(默认的取值范围是30000-32767), 如果不指定会默认分配targetPort:80# 创建service[rootk8s-master01 ~]# kubectl create -f service-nodeport.yamlservice/service-nodeport created# 查看service[rootk8s-master01 ~]# kubectl get svc -n dev -o wideNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) SELECTOR service-nodeport NodePort 10.105.64.191 none80:30002/TCP appnginx-pod# 接下来可以通过电脑主机的浏览器去访问集群中任意一个nodeip的30002端口即可访问到pod7.3.5 LoadBalancer类型的ServiceLoadBalancer和NodePort很相似目的都是向外部暴露一个端口区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备而这个设备需要外部环境支持的外部服务发送到这个设备上的请求会被设备负载之后转发到集群中。7.3.6 ExternalName类型的ServiceExternalName类型的Service用于引入集群外部的服务它通过externalName属性指定外部一个服务的地址然后在集群内部访问此service就可以访问到外部的服务了。apiVersion:v1kind:Servicemetadata:name:service-externalnamenamespace:devspec:type:ExternalName# service类型externalName:www.baidu.com#改成ip地址也可以# 创建service[rootk8s-master01 ~]# kubectl create -f service-externalname.yamlservice/service-externalname created# 域名解析[rootk8s-master01 ~]# dig 10.96.0.10 service-externalname.dev.svc.cluster.localservice-externalname.dev.svc.cluster.local. 30 IN CNAME www.baidu.com. www.baidu.com. 30 IN CNAME www.a.shifen.com. www.a.shifen.com. 30 IN A 39.156.66.18 www.a.shifen.com. 30 IN A 39.156.66.147.4 Ingress介绍在前面课程中已经提到Service对集群之外暴露服务的主要方式有两种NotePort和LoadBalancer但是这两种方式都有一定的缺点NodePort方式的缺点是会占用很多集群机器的端口那么当集群服务变多的时候这个缺点就愈发明显LB方式的缺点是每个service需要一个LB浪费、麻烦并且需要kubernetes之外设备的支持基于这种现状kubernetes提供了Ingress资源对象Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求。工作机制大致如下图表示实际上Ingress相当于一个7层的负载均衡器是kubernetes对反向代理的一个抽象它的工作原理类似于Nginx可以理解成在Ingress里建立诸多映射规则Ingress Controller通过监听这些配置规则并转化成Nginx的反向代理配置 , 然后对外部提供服务。在这里有两个核心概念ingresskubernetes中的一个对象作用是定义请求如何转发到service的规则ingress controller具体实现反向代理及负载均衡的程序对ingress定义的规则进行解析根据配置的规则来实现请求转发实现方式有很多比如Nginx, Contour, Haproxy等等Ingress以Nginx为例的工作原理如下用户编写Ingress规则说明哪个域名对应kubernetes集群中的哪个ServiceIngress控制器动态感知Ingress服务规则的变化然后生成一段对应的Nginx反向代理配置Ingress控制器会将生成的Nginx配置写入到一个运行着的Nginx服务中并动态更新到此为止其实真正在工作的就是一个Nginx了内部配置了用户定义的请求转发规则7.5 Ingress使用7.5.1 环境准备搭建ingress环境# 创建文件夹[rootk8s-master01 ~]# mkdir ingress-controller[rootk8s-master01 ~]# cd ingress-controller/# 获取ingress-nginx本次案例使用的是0.30版本[rootk8s-master01 ingress-controller]# wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/mandatory.yaml[rootk8s-master01 ingress-controller]# wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml# 修改mandatory.yaml文件中的仓库# 修改quay.io/kubernetes-ingress-controller/nginx-ingress-controller:0.30.0# 为quay-mirror.qiniu.com/kubernetes-ingress-controller/nginx-ingress-controller:0.30.0quay-mirror.qiniu.com/kubernetes-ingress-controller/nginx-ingress-controller:0.30.0# 创建ingress-nginx[rootk8s-master01 ingress-controller]# kubectl apply -f ./# 查看ingress-nginx[rootk8s-master01 ingress-controller]# kubectl get pod -n ingress-nginxNAME READY STATUS RESTARTS AGE pod/nginx-ingress-controller-fbf967dd5-4qpbp 1/1 Running 0 12h# 查看service[rootk8s-master01 ingress-controller]# kubectl get svc -n ingress-nginxNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE ingress-nginx NodePort 10.98.75.163 none80:32240/TCP,443:31335/TCP 11h准备service和pod为了后面的实验比较方便创建如下图所示的模型创建tomcat-nginx.yamlapiVersion:apps/v1kind:Deploymentmetadata:name:nginx-deploymentnamespace:devspec:replicas:3selector:matchLabels:app:nginx-podtemplate:metadata:labels:app:nginx-podspec:containers:-name:nginximage:nginx:1.17.1ports:-containerPort:80---apiVersion:apps/v1kind:Deploymentmetadata:name:tomcat-deploymentnamespace:devspec:replicas:3selector:matchLabels:app:tomcat-podtemplate:metadata:labels:app:tomcat-podspec:containers:-name:tomcatimage:tomcat:8.5-jre10-slimports:-containerPort:8080---apiVersion:v1kind:Servicemetadata:name:nginx-servicenamespace:devspec:selector:app:nginx-podclusterIP:Nonetype:ClusterIPports:-port:80targetPort:80---apiVersion:v1kind:Servicemetadata:name:tomcat-servicenamespace:devspec:selector:app:tomcat-podclusterIP:Nonetype:ClusterIPports:-port:8080targetPort:8080# 创建[rootk8s-master01 ~]# kubectl create -f tomcat-nginx.yaml# 查看[rootk8s-master01 ~]# kubectl get svc -n devNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE nginx-service ClusterIP None none80/TCP 48s tomcat-service ClusterIP None none8080/TCP 48s7.5.2 Http代理创建ingress-http.yamlapiVersion:extensions/v1beta1kind:Ingressmetadata:name:ingress-httpnamespace:devspec:rules:-host:nginx.itheima.comhttp:paths:-path:/backend:serviceName:nginx-serviceservicePort:80-host:tomcat.itheima.comhttp:paths:-path:/backend:serviceName:tomcat-serviceservicePort:8080# 创建[rootk8s-master01 ~]# kubectl create -f ingress-http.yamlingress.extensions/ingress-http created# 查看[rootk8s-master01 ~]# kubectl get ing ingress-http -n devNAME HOSTS ADDRESS PORTS AGE ingress-http nginx.itheima.com,tomcat.itheima.com 80 22s# 查看详情[rootk8s-master01 ~]# kubectl describe ing ingress-http -n dev...Rules:Host Path Backends----------------nginx.itheima.com / nginx-service:80 (10.244.1.96:80,10.244.1.97:80,10.244.2.112:80) tomcat.itheima.com / tomcat-service:8080(10.244.1.94:8080,10.244.1.95:8080,10.244.2.111:8080)...# 接下来,在本地电脑上配置host文件,解析上面的两个域名到192.168.109.100(master)上# 然后,就可以分别访问tomcat.itheima.com:32240 和 nginx.itheima.com:32240 查看效果了7.5.3 Https代理创建证书# 生成证书openssl req-x509-sha256-nodes-days 365-newkey rsa:2048-keyout tls.key-out tls.crt-subj /CCN/STBJ/LBJ/Onginx/CNitheima.com# 创建密钥kubectl create secret tls tls-secret--key tls.key--cert tls.crt创建ingress-https.yamlapiVersion:extensions/v1beta1kind:Ingressmetadata:name:ingress-httpsnamespace:devspec:tls:-hosts:-nginx.itheima.com-tomcat.itheima.comsecretName:tls-secret# 指定秘钥rules:-host:nginx.itheima.comhttp:paths:-path:/backend:serviceName:nginx-serviceservicePort:80-host:tomcat.itheima.comhttp:paths:-path:/backend:serviceName:tomcat-serviceservicePort:8080# 创建[rootk8s-master01 ~]# kubectl create -f ingress-https.yamlingress.extensions/ingress-https created# 查看[rootk8s-master01 ~]# kubectl get ing ingress-https -n devNAME HOSTS ADDRESS PORTS AGE ingress-https nginx.itheima.com,tomcat.itheima.com 10.104.184.38 80,443 2m42s# 查看详情[rootk8s-master01 ~]# kubectl describe ing ingress-https -n dev...TLS:tls-secret terminates nginx.itheima.com,tomcat.itheima.comRules:Host Path Backends----------------nginx.itheima.com / nginx-service:80 (10.244.1.97:80,10.244.1.98:80,10.244.2.119:80) tomcat.itheima.com / tomcat-service:8080(10.244.1.99:8080,10.244.2.117:8080,10.244.2.120:8080)...# 下面可以通过浏览器访问https://nginx.itheima.com:31335 和 https://tomcat.itheima.com:31335来查看了