Kubernetes MetalLB 外部 IP 不可达

14

我无法访问由MetalLB负载均衡器分配的网络IP。

我在k3s中创建了一个Kubernetes集群,其中包括1个主节点和1个工作节点。每个节点都有自己的私有IP。

主节点192.168.0.13

工作节点192.168.0.13

我使用INSTALL_K3S_EXEC=" --no-deploy servicelb --no-deploy traefik"安装了k3s。

现在,我正在尝试使用MetalLB和nginx ingress部署应用程序。

  --set configInline.address-pools[0].name=default \
  --set configInline.address-pools[0].protocol=layer2 \
  --set configInline.address-pools[0].addresses[0]=192.168.0.21-192.168.0.30
helm install nginx-ingress stable/nginx-ingress --namespace kube-system \
    --set controller.image.repository=quay.io/kubernetes-ingress-controller/nginx-ingress-controller\
    --set controller.image.tag=0.30.0 \
    --set controller.image.runAsUser=33 \
    --set defaultBackend.enabled=false

我可以看到每个Pod都在运行

NAME                                             READY   STATUS    RESTARTS   AGE    IP             NODE             NOMINATED NODE   READINESS GATES
coredns-d798c9dd-lsdnp                           1/1     Running   5          37h    10.42.0.25     c271-k3s-ocrh    <none>           <none>
local-path-provisioner-58fb86bdfd-bcpl7          1/1     Running   5          37h    10.42.0.22     c271-k3s-ocrh    <none>           <none>
metrics-server-6d684c7b5-v9tmh                   1/1     Running   5          37h    10.42.0.24     c271-k3s-ocrh    <none>           <none>
metallb-speaker-4kbmw                            1/1     Running   0          4m7s   192.168.0.14   c271-k3s-agent   <none>           <none>
metallb-controller-75bf779d4f-nb47l              1/1     Running   0          4m7s   10.42.1.45     c271-k3s-agent   <none>           <none>
metallb-speaker-776p9                            1/1     Running   0          4m7s   192.168.0.13   c271-k3s-ocrh    <none>           <none>
nginx-ingress-default-backend-5b967cf596-554bq   1/1     Running   0          98s    10.42.1.46     c271-k3s-agent   <none>           <none>
nginx-ingress-controller-674675d5b6-blndp        1/1     Running   0          98s    10.42.1.47     c271-k3s-agent   <none>           <none>

获取IP地址的应用程序 192.168.0.21

❯ kubectl get services  -n kube-system -l app=nginx-ingress -o wide
NAME                            TYPE           CLUSTER-IP      EXTERNAL-IP    PORT(S)                      AGE    SELECTOR
nginx-ingress-default-backend   ClusterIP      10.43.170.195   <none>         80/TCP                       112s   app=nginx-ingress,component=default-backend,release=nginx-ingress
nginx-ingress-controller        LoadBalancer   10.43.220.166   192.168.0.21   80:31735/TCP,443:31566/TCP   111s   app=nginx-ingress,component=controller,release=nginx-ingress

我可以通过在主节点和工作节点上使用curl命令访问nginx控制器pod中的应用程序。

HTTP/1.1 200 OK
Server: nginx/1.17.8
Date: Sat, 21 Mar 2020 10:43:34 GMT
Content-Type: text/html
Content-Length: 153
Connection: keep-alive

但是这个IP地址无法从本地 192.168.0.21 访问。

诊断:DHCP已经打开,而且192.168.0.21-192.168.0.30绝对是空闲的。当我尝试通过netplan配置将192.168.0.21分配给master或者agent时,它们能够使用这个IP地址。

请指导我,我错过了什么。


1
找到解决方案了吗?我也在为同样的问题苦苦挣扎。我很想知道你的主节点和工作节点为什么有相同的IP地址... - Danielson
有没有人能提供一个可行的解决方案?我尝试了很多方法,但都无法使其正常工作。 - Maciej
3个回答

8

您需要确保源IP地址(由Metallb分配的外部IP)得以保留。为实现此目的,请将负载均衡器服务规范的externalTrafficPolicy字段值设置为Local。例如:

apiVersion: v1
kind: Service
metadata:
  name: my-app
  labels:
    helm.sh/chart: webapp-0.1.0
    app.kubernetes.io/name: webapp
    app.kubernetes.io/instance: my-app
    app.kubernetes.io/version: "1.16.0"
    app.kubernetes.io/managed-by: Helm
spec:
  type: ClusterIP
  ports:
    - port: 80
      targetPort: http
      protocol: TCP
      name: http
  selector:
    app.kubernetes.io/name: webapp
    app.kubernetes.io/instance: my-app
  externalTrafficPolicy: Local

外部流量策略字段的默认值为“Cluster”,所以将其更改为“Local”。

1
无效:spec.externalTrafficPolicy: 无效值:“Local”:只能在“type”为'NodePort'或'LoadBalancer'时设置。 - VocoJax

1

我在家庭实验室中使用MetalLB已经两年了,虽然我遇到了其他错误(例如,MetalLB无法从池中分配IP地址),但我没有遇到这个错误。

我想与那些仍在互联网上苦苦挣扎的人分享我的当前设置。

helm install --create-namespace metallb metallb/metallb -n metallb-system -f values.yaml

configInline:
  address-pools:
    - name: default
      protocol: layer2
      addresses:
        - 192.168.0.21/30
      # can use series like 192.168.0.21-24 too.

调试 - 尝试从命名空间 metallb 中的所有 pod 获取日志。

kail -n metallb

K8S 使用 https://github.com/geerlingguy/ansible-role-kubernetes 安装 calico。

Client Version: version.Info{Major:"1", Minor:"24", GitVersion:"v1.24.1", GitCommit:"3ddd0f45aa91e2f30c70734b175631bec5b5825a", GitTreeState:"clean", BuildDate:"2022-05-24T12:17:11Z", GoVersion:"go1.18.2", Compiler:"gc", Platform:"darwin/amd64"}
Kustomize Version: v4.5.4
Server Version: version.Info{Major:"1", Minor:"24", GitVersion:"v1.24.3", GitCommit:"aef86a93758dc3cb2c658dd9657ab4ad4afc21cb", GitTreeState:"clean", BuildDate:"2022-07-13T14:23:26Z", GoVersion:"go1.18.3", Compiler:"gc", Platform:"linux/amd64"}

也许将externalTrafficPolicy切换为local/cluster可能会有所帮助,但我没有尝试过。我的设置可以直接使用。

祝好运。


1
在最新的Helm Charts中,已经移除了configInline字段,现在地址池是通过CRDs进行配置的。请考虑更新答案。 - P....

0
在我的Cilium和HAProxy Ingress控制器设置中,我需要将externalTrafficPolicyLocal更改为Cluster
kubectl --namespace ingress-controller patch svc haproxy-ingress \
 -p '{"spec":{"externalTrafficPolicy":"Cluster"}}'

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接