k8s service nodePort无法访问的问题解决

k8s service nodeport nodeport外部无法访问 2023-01-28 06:01:56 678人浏览薄情痞子

摘要

目录0. 前言1、背景2、配置如下3、集群信息如下4、问题5、解决方案总结0. 前言本文主要针对的是：不在同一内网且机器的公网IP并未显示的绑定在机器网卡上（也就是云主机，比如

0. 前言

本文主要针对的是：不在同一内网且机器的公网IP并未显示的绑定在机器网卡上（也就是云主机，比如阿里云、腾讯云等等）出现的pod之间无法访问的问题，如果不是的话就可以撤退了，节约时间~~

1、背景

我有闲置的腾讯云两台服务器，最近想搭建个k8s集群玩玩，于是按照b站某教程搭建，出现了网络问题，具体如下。

2、配置如下

公网ip已打码，毕竟还在使用，见谅
master节点叫：k8s-master-q，worker节点叫：k8s-master

3、集群信息如下

应用部署在了 worker节点的pod上

4、问题

master节点：curl 10.244.1.3(podIP) 、curl 10.96.6.212都没法连通，且：在浏览器输入：Http://master公网IP:30002/也无法访问
worker：恰恰相反

翻遍整个网络，没找到解决方案，或者说自己没深刻理解k8s，无法根据关键信息搜索，也不知道问题发生的原因，导致一直没找解决方案，困扰好几天。经过不懈努力，偶然间发现了问题的关键，便是 master节点与worker节点不在同一内网内。
什么意思？其实也就是对k8s集群内网络转发模型的不了解，即下图：

这是k8s的flannel网络模型，具体原理与工作流程参考大佬博客，我也是看到这篇博客才得到解决

Kuberbetes Pod间无法通信问题处理

大概原因就是，数据包从节点A发给节点B的，但使用的目的IP却是节点B的内网IP，而节点A和B并不在同一内网，并无法直接访问，这就导致了数据包中途丢包而无法连接。

可以看下自己的节点是否是使用的内网IP

[root@k8s-master-q ~]# kubectl describe nodes k8s-master

可以发现，在flannel网络模型中，使用的都是各自节点的内网IP, 又不在同一网段，确实无法访问。

5、解决方案

目前看来，我只找到了上面博主写的方案，其他方案未知，即将 IP改为公网IP。

# master节点操作
# 修改为使用公网ip
# kubectl annotate node k8s-master-q flannel.alpha.coreos.com/public-ip-overwrite=各节点公网ip --overwrite
[root@k8s-master-q ~]# kubectl annotate node k8s-master flannel.alpha.coreos.com/public-ip-overwrite=1.12.xxx.xxxx --overwrite
node/k8s-master annotated

[root@k8s-master-q ~]# kubectl annotate node k8s-master-q flannel.alpha.coreos.com/public-ip-overwrite=43.139.xxx.xxxx --overwrite
node/k8s-master-q annotated

# 还需要配置内网ip转发到外网ip(内网IP是指服务器硬件本身的内网ip，不是flannel分配的)
# 因为flannel重启后会重新构建iptables规则，有可能把这几条就移除掉了，重启应用后如果不能访问，需要重新执行
# iptables -t nat -A OUTPUT -d 私网ip  -j DNAT --to-destination 公网ip
[root@k8s-master-q ~]# iptables -t nat -A OUTPUT -d 10.0.12.13  -j DNAT --to-destination 43.139.xxx.xxx

# worker 节点操作， 同样改变iptables规则
[root@k8s-master ~]# iptables -t nat -A OUTPUT -d 10.0.12.2  -j DNAT --to-destination 1.12.xxx.xxx

# 之后重启相关应用，master节点和worker节点都需要操作
# 重启应用
systemctl stop kubelet
systemctl stop Docker
systemctl stop docker
iptables --flush
iptables -tnat --flush
systemctl start kubelet
systemctl start docker

更改之后再次查询：