Kubernetes--Service详解

1、Service概述

在kubernetes中，pod是应用程序的载体，我们可以通过pod的ip来访问应用程序，但是pod的ip地址不是固定的，这也就意味着不方便直接采用pod的ip对服务进行访问。

为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。

 Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息，而kube-proxy会基于监听的机制发现这种Service的变动，然后**它会将最新的Service信息转换成对应的访问规则**。

# 10.97.97.97:80 是service提供的访问入口
# 当访问这个入口的时候，可以发现后面有三个pod的服务在等待调用，
# kube-proxy会基于rr（轮询）的策略，将请求分发到其中一个pod上去
# 这个规则会同时在集群内的所有节点上都生成，所以在任何一个节点上访问都可以。
[root@node1 ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  10.97.97.97:80 rr
  -> 10.244.1.39:80               Masq    1      0          0
  -> 10.244.1.40:80               Masq    1      0          0
  -> 10.244.2.33:80               Masq    1      0          0

 kube-proxy目前支持三种工作模式:

● userspace 模式

        userspace模式下，kube-proxy会为每一个Service创建一个监听端口，发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上，kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接，以将请求转发到Pod上。  该模式下，kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中，在进行转发处理时会增加内核和用户空间之间的数据拷贝，虽然比较稳定，但是效率比较低。

 ● iptables 模式

        iptables模式下，kube-proxy为service后端的每个Pod创建对应的iptables规则，直接将发向Cluster IP的请求重定向到一个Pod IP。  该模式下kube-proxy不承担四层负责均衡器的角色，只负责创建iptables规则。该模式的优点是较userspace模式效率更高，但不能提供灵活的LB策略，当后端Pod不可用时也无法进行重试。

● ipvs模式

        ipvs模式和iptables类似，kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外，ipvs支持更多的LB算法。

# 此模式必须安装ipvs内核模块, 否则会降级为iptables
# 开启ipvs 将mode设置为 "ipvs" 并且删除kube-proxypod 使他重新创建
kubectl edit cm kube-proxy -n kube-system
configmap/kube-proxy edited
[root@master ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system
pod "kube-proxy-gtfkb" deleted
pod "kube-proxy-nzrf5" deleted
pod "kube-proxy-trd4z" deleted

[root@master ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  172.17.0.1:32233 rr
TCP  192.168.88.100:32233 rr
TCP  10.96.0.1:443 rr
  -> 192.168.88.100:6443          Masq    1      0          0         
TCP  10.96.0.10:53 rr
  -> 10.244.0.7:53                Masq    1      0          0         
  -> 10.244.0.9:53                Masq    1      0          0         
TCP  10.96.0.10:9153 rr
  -> 10.244.0.7:9153              Masq    1      0          0         
  -> 10.244.0.9:9153              Masq    1      0          0         
TCP  10.99.93.79:443 rr
  -> 192.168.88.102:443           Masq    1      0          0         
TCP  10.101.231.4:443 rr
  -> 10.244.36.113:9876           Masq    1      1          0         
  -> 10.244.169.141:9876          Masq    1      0          0         
TCP  10.111.65.221:80 rr
TCP  10.244.0.0:32233 rr
TCP  10.244.0.1:32233 rr
TCP  10.244.219.64:32233 rr
UDP  10.96.0.10:53 rr
  -> 10.244.0.7:53                Masq    1      0          0         
  -> 10.244.0.9:53                Masq    1      0          0         

基于rr（轮循）将请求转发到相应的地址上去 

2、Service类型

service的资源清单文件

kind: Service          # 资源类型
apiVersion: v1          # 资源版本
metadata:             # 元数据
  name: service             # 资源名称
  namespace: dev         # 命名空间
spec:                     # 描述
  selector:                 # 标签选择器，用于确定当前service代理哪些pod
    app: nginx
  type:                         # Service类型，指定service的访问方式
  clusterIP:                      # 虚拟服务的ip地址
  sessionAffinity:                 # session亲和性，支持ClientIP、None两个选项
  ports:                             # 端口信息
    - protocol: TCP 
      port: 3017                          # service端口
      targetPort: 5003                 # pod端口
      nodePort: 31122                     # 主机端口

session亲和性：倾向于将请求转发到某一个pod上去

● ClusterIP：默认值，它是Kubernetes系统自动分配的虚拟IP，只能在集群内部访问

● NodePort：将Service通过指定的Node上的端口暴露给外部，通过此方法，就可以在集群外部访问服务

● LoadBalancer：使用外接负载均衡器完成到服务的负载分发，注意此模式需要外部云环境支持

● ExternalName： 把集群外部的服务引入集群内部，直接使用

3、service使用

3.1 实验环境准备

        在使用Service之前，首先用Deployment创建出3个pod，注意要为pod设置app=nginx-pod的标签，创建deployment.yaml

apiVersion: apps/v1
kind: Deployment      
metadata:
  name: pc-deployment
  namespace: dev
spec:
  replicas: 3
  selector:
    matchLabels:
      app: nginx-pod
  template:
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
      - name: nginx
        image: nginx:1.17.1
        ports:
        - containerPort: 80

# 创建deployment，查看pod
[root@master ~]# kubectl get pod -n dev -o wide
NAME                             READY   STATUS    RESTARTS   AGE   IP           NODE        NOMINATED NODE   READINESS GATES
pc-deployment-6756f95949-6qnrx   1/1     Running   0          36m   10.244.2.6   k8s-node2   <none>           <none>
pc-deployment-6756f95949-966zf   1/1     Running   0          36m   10.244.2.5   k8s-node2   <none>           <none>
pc-deployment-6756f95949-jwhqd   1/1     Running   0          21m   10.244.2.3   k8s-node2   <none>           <none>

为了方便后面的测试，修改三台nginx的index.html页面

# 分别修改nginx的主页内容为ip地址
[root@master ~]# kubectl exec -it pc-deployment-6756f95949-6qnrx -n dev /bin/sh
kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
# echo "10.244.2.6" > /usr/share/nginx/html/index.html
[root@master ~]# curl 10.244.2.6
10.244.2.6
[root@master ~]# kubectl exec -it pc-deployment-6756f95949-966zf  -n dev /bin/sh
kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
# echo "10.244.2.5" > /usr/share/nginx/html/index.html
[root@master ~]# curl 10.244.2.5
10.244.2.5
[root@master ~]# kubectl exec -it pc-deployment-6756f95949-jwhqd  -n dev /bin/sh
kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
# echo "10.244.2.3" > /usr/share/nginx/html/index.html
[root@master ~]# curl 10.244.2.3
10.244.2.3

3.2 ClusterIP类型的Service

创建service-cluster.yaml文件

apiVersion: v1
kind: Service
metadata:
  name: service-clusterip
  namespace: dev
spec:
  selector:
    app: nginx-pod    
  clusterIP: 10.99.99.99         # service的ip地址，如果不写，默认会生成一个
  type: ClusterIP
  ports:
  - port: 80  # Service端口       
    targetPort: 80 # pod端口

# 创建service并查看
[root@master ~]# kubectl create -f service-cluster.yaml 
service/service-clusterip created
[root@master ~]# kubectl get svc -n dev -o wide
NAME                TYPE        CLUSTER-IP    EXTERNAL-IP   PORT(S)   AGE     SELECTOR
service-clusterip   ClusterIP   10.99.99.99   <none>        80/TCP    5m15s   app=nginx-pod

# 查看ipvs映射规则
[root@master ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn      
TCP  10.99.99.99:80 rr
  -> 10.244.2.3:80                Masq    1      0          0         
  -> 10.244.2.5:80                Masq    1      0          0         
  -> 10.244.2.6:80                Masq    1      0          0         

        放我们的一个请求发送到10.99.99.99这个地址的时候，会以rr(轮循)的策略转发到下面的三个地址上去，我们可以向这个地址发送请求看看返回的是什么结果：

[root@master ~]# curl 10.99.99.99
10.244.2.6
# 循环访问测试
[root@master ~]# while true; do curl 10.99.99.99;sleep 5;done;
10.244.2.5
10.244.2.3
10.244.2.6
10.244.2.5
10.244.2.3
10.244.2.6
10.244.2.5

Endpoint

        Endpoint是kubernetes中的一个资源对象，存储在etcd中，用来记录一个service对应的所有pod的访问地址，它是根据service配置文件中selector描述产生的。

        一个Service由一组Pod组成，这些Pod通过Endpoints暴露出来，Endpoints是实现实际服务的端点集合。换句话说，service和pod之间的联系是通过endpoints实现的。

负载分发策略

对Service的访问被分发到了后端的Pod上去，目前kubernetes提供了两种负载分发策略：

        ● 如果不定义，默认使用kube-proxy的策略，比如随机、轮询

        ● 基于客户端地址的会话保持模式，即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上：  此模式可以使在spec中添加`sessionAffinity: ClientIP`选项

# 为service添加亲和性选项
apiVersion: v1
kind: Service
metadata:
  name: service-clusterip
  namespace: dev
spec:
  sessionAffinity: ClientIP
  selector:
    app: nginx-pod
  clusterIP: 10.99.99.99         # service的ip地址，如果不写，默认会生成一个
  type: ClusterIP
  ports:
  - port: 80  # Service端口
    targetPort: 80 # pod端口

# 创建service并查看一下
[root@master ~]# kubectl create -f service-cluster.yaml 
service/service-clusterip created
[root@master ~]# vi service-cluster.yaml 
[root@master ~]# kubectl describe svc  service-cluster -n dev
Name:              service-clusterip
Namespace:         dev
Labels:            <none>
Annotations:       <none>
Selector:          app=nginx-pod
Type:              ClusterIP
IP Family Policy:  SingleStack
IP Families:       IPv4
IP:                10.99.99.99
IPs:               10.99.99.99
Port:              <unset>  80/TCP
TargetPort:        80/TCP
Endpoints:         10.244.2.3:80,10.244.2.5:80,10.244.2.6:80
Session Affinity:  ClientIP
Events:            <none>

现在已经被改为了持久化访问了：（persistent代表持久化访问后面加上时间）

[root@master ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn     
TCP  10.99.99.99:80 rr persistent 10800
  -> 10.244.2.3:80                Masq    1      0          0         
  -> 10.244.2.5:80                Masq    1      0          0         
  -> 10.244.2.6:80                Masq    1      0          0 

现在我们再来进行一次循环访问测试

[root@master ~]# while true; do curl 10.99.99.99;sleep 5;done;
10.244.2.6
10.244.2.6
10.244.2.6
10.244.2.6

最后看一下service的删除

[root@master ~]# kubectl delete -f service-cluster.yaml 
service "service-clusterip" deleted

3.3 HeadLiness类型的Service

        在某些场景中，开发人员可能不想使用Service提供的负载均衡功能，而希望自己来控制负载均衡策略，针对这种情况，kubernetes提供了HeadLiness Service，这类Service不会分配Cluster IP，如果想要访问service，只能通过service的域名进行查询。

        创建service-headliness类型的service

apiVersion: v1
kind: Service
metadata:
  name: service-headliness
  namespace: dev
spec:
  selector:
    app: nginx-pod
  clusterIP: None         # 将clusterIP设置为None，即可创建headliness Service
  type: ClusterIP
  ports:
  - port: 80    
    targetPort: 80


# 创建service并进行查看
[root@master ~]# vi service-headliness.yaml
[root@master ~]# kubectl create -f service-headliness.yaml 
service/service-headliness created
[root@master ~]# kubectl get svc -n dev -o wide
NAME                 TYPE        CLUSTER-IP   EXTERNAL-IP   PORT(S)   AGE   SELECTOR
service-headliness   ClusterIP   None         <none>        80/TCP    27s   app=nginx-pod

发现没有IP地址 但是依然和pod关联，用describe命令可以看到关联的pod信息

[root@master ~]# kubectl describe svc service-headliness -n dev
Name:              service-headliness
Namespace:         dev
Labels:            <none>
Annotations:       <none>
Selector:          app=nginx-pod
Type:              ClusterIP
IP Family Policy:  SingleStack
IP Families:       IPv4
IP:                None
IPs:               None
Port:              <unset>  80/TCP
TargetPort:        80/TCP
Endpoints:         10.244.2.3:80,10.244.2.5:80,10.244.2.6:80   #所关联的pod的ip
Session Affinity:  None
Events:            <none>

查看域名解析情况

[root@master ~]# kubectl exec -it pc-deployment-6756f95949-6qnrx -n dev /bin/sh
kubectl exec [POD] [COMMAND] is DEPRECATED and will be removed in a future version. Use kubectl exec [POD] -- [COMMAND] instead.
# cat /etc/resolv.conf
nameserver 10.96.0.10
search dev.svc.cluster.local svc.cluster.local cluster.local localdomain
options ndots:5


[root@master ~]# dig @10.96.0.10 service-headliness.dev.svc.cluster.local
service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.6
service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.5
service-headliness.dev.svc.cluster.local. 30 IN A 10.244.2.3

3.4 NodePort类型的Service

        在之前的样例中，创建的Service的ip地址只有集群内部才可以访问，如果希望将Service暴露给集群外部使用，那么就要使用到另外一种类型的Service，称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上，然后就可以通过`NodeIp:NodePort`来访问service了。

 创建service-nodeport.yaml

apiVersion: v1
kind: Service
metadata:
  name: service-nodeport
  namespace: dev
spec:
  selector:
    app: nginx-pod
  type: NodePort # service类型
  ports:
  - port: 80
    nodePort: 30002 # 指定绑定的node的端口(默认的取值范围是：30000-32767), 如果不指定，会默认分配
    targetPort: 80


[root@master ~]# kubectl create -f service-nodeport.yaml
service/service-nodeport created
[root@master ~]# kubectl get svc -n dev -o wide
NAME                 TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)        AGE     SELECTOR
service-nodeport     NodePort    10.108.75.190   <none>        80:30002/TCP   26s     app=nginx-pod

cluster ip用于集群内部访问，外部访问使用机器Ip加上端口：

 3.5 LoadBalancer类型的Service

        LoadBalancer和NodePort很相似，目的都是向外部暴露一个端口，区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备，而这个设备需要外部环境支持的，外部服务发送到这个设备上的请求，会被设备负载之后转发到集群中。

3.6 ExternalName类型的Service

        ExternalName类型的Service用于引入集群外部的服务，它通过`externalName`属性指定外部一个服务的地址，然后在集群内部访问此service就可以访问到外部的服务了。

 创建service-externalname.yaml的yaml文件

apiVersion: v1
kind: Service
metadata:
  name: service-externalname
  namespace: dev
spec:
  type: ExternalName # service类型
  externalName: hud9866  #改成ip地址也可以


[root@k8s-master01 ~]# dig @10.96.0.10 service-externalname.dev.svc.cluster.local
service-externalname.dev.svc.cluster.local. 30 IN CNAME www.baidu.com.
hud9866         30      IN      CNAME   www.a.shifen.com.
www.a.shifen.com.       30      IN      A       39.156.66.18
www.a.shifen.com.       30      IN      A       39.156.66.14