k8s中service自动为pod增加环境引起的bug

起因

今天为一个测试服务增加实例，发现启动不起来了，但原来的有的实例正常运行，把正常的pod删除后，所有pod都异常了。具体如图：

排查

查看pod日志：

1kubectl logs -f whoami-85f458667c-f5nw9
22023/06/02 02:24:31 listen tcp: address :tcp://10.101.156.195:8080: too many colons in address

发现是端口不对导致

查看部署文件：

1kubectl get deploy whoami -oyaml

发现并没有对env进行设置，查看whoami源码，发现port是受环境变量WHOAMI_PORT控制

https://github.com/freemesh/whoami/blob/main/main.go

查看问题pod的环境变量

进入问题pod所在机器，查看容器的详细信息，发现ENV下有很多环境变量，其中就包括WHOAMI_PORT：

 1docker inspect 0c842287ada4
 2
 3"Env": [
 4    "NGINX_SERVICE_PORT=8080",
 5    "NGINX_PORT_8080_TCP_PROTO=tcp",
 6    "NGINX_PORT_8080_TCP_PORT=8080",
 7    "MY_INGRESS_SERVICE_HOST=10.101.163.141",
 8    "KUBERNETES_SERVICE_PORT=443",
 9    "NGINX_PORT_8080_TCP_ADDR=10.105.237.147",
10    "MY_INGRESS_PORT_8080_TCP_PROTO=tcp",
11    "ENVTEST_SERVICE_PORT=8080",
12    "ENVTEST_PORT_8080_TCP_PORT=8080",
13    "KUBERNETES_PORT_443_TCP=tcp://10.96.0.1:443",
14    "KUBERNETES_PORT_443_TCP_PORT=443",
15    "WHOAMI_SERVICE_PORT=8080",
16    "WHOAMI_PORT_8080_TCP_ADDR=10.101.156.195",
17    "WHOAMI_PORT_8080_TCP=tcp://10.101.156.195:8080",
18    "WHOAMI_PORT_8080_TCP_PROTO=tcp",
19    "NGINX_SERVICE_HOST=10.105.237.147",
20    "MY_INGRESS_PORT=tcp://10.101.163.141:8080",
21    "MY_INGRESS_PORT_8080_TCP_ADDR=10.101.163.141",
22    "ENVTEST_PORT_8080_TCP_PROTO=tcp",
23    "KUBERNETES_SERVICE_PORT_HTTPS=443",
24    "WHOAMI_PORT=tcp://10.101.156.195:8080",  #这个就是程序里用到的环境变量
25    "MY_INGRESS_SERVICE_PORT=8080",
26    "MY_INGRESS_PORT_8080_TCP=tcp://10.101.163.141:8080",
27    "MY_INGRESS_PORT_8080_TCP_PORT=8080",
28    "ENVTEST_PORT=tcp://10.101.53.28:8080",
29    "KUBERNETES_SERVICE_HOST=10.96.0.1",
30    "KUBERNETES_PORT_443_TCP_ADDR=10.96.0.1",
31    "NGINX_PORT=tcp://10.105.237.147:8080",
32    "ENVTEST_SERVICE_HOST=10.101.53.28",
33    "ENVTEST_PORT_8080_TCP=tcp://10.101.53.28:8080",
34    "WHOAMI_SERVICE_HOST=10.101.156.195",
35    "WHOAMI_PORT_8080_TCP_PORT=8080",
36    "NGINX_PORT_8080_TCP=tcp://10.105.237.147:8080",
37    "ENVTEST_PORT_8080_TCP_ADDR=10.101.53.28",
38    "KUBERNETES_PORT=tcp://10.96.0.1:443",
39    "KUBERNETES_PORT_443_TCP_PROTO=tcp",
40    "PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
41],

原因

原来，我们创建servicer的时候，k8s会自动为pod增加svc的环境变量,我们可以在pod.spec增加 enableServiceLinks:false 来关闭这项特性。

参考 https://kubernetes.io/docs/tutorials/services/connect-applications-service/#accessing-the-service

pod配置详解见： k8s的pod.yaml文件配置详解

解决

1kubectl edit deploy whoami

在spec.template.spec下增加enableServiceLinks:false发现pod可以正常运行了。

PS

什么样的服务有会向pod添加env

对于无头服务clusterIP: None的service不会添加env

全局关闭

询问chatGPT，是否可以全局关闭：

修改apiservers配置

1vi /etc/kubernetes/manifests/kube-apiserver.yaml

按这个方法，apiserver启动报错：

1docker logs -f c5b494249fe3
2Error: unknown flag: --enable-service-links

查看kube-apiserver也没这个参数，gpt也会忽悠，估计是不能全局关闭了。

https://kubernetes.io/zh-cn/docs/reference/command-line-tools-reference/kube-apiserver/

发布日期：2023-06-01 19:31 字数：146 用时 1分钟

tags：K8s

一个简单的Java Spring Web Demo

Kubectl 常用命令大全

分类

标签云

alpine(1) api网关(1) async(1) await(1) centos(4) cli(1) client-go(1) debug(1) docker(10) docker-compose(1) dockerfile(1) embed(1) es6(1) etcd(1) etcdctl(1) freemesh(2) git(6) go(5) go-zeus(5) goland(2) golang(7) grafana(2) grpc(5) grpcurl(1) homebrew(1) homedir(1) http(2) hugo(1) java(2) javascript(3) job(1) js(1) json(1) k8s(16) k8s部署指南(1) kubebuilder(1) kubectl(4) kubernetes(1) linux(2) localecompare(1) lombok(1) metrics(2) mock(1) mysql(1) npm(1) nsenter(1) nvm(1) pnpm(2) pprof(1) prettier(1) prometheus(2) protobuf3(1) protoc(1) qiankun(1) request(1) scss(1) servicemesh(1) spring(1) springcloud->freemesh(1) ssh(2) systemctl(1) tcpdump(1) typescript(2) vite(2) vscode(2) vue(8) vue-admin(2) vue3(1) webssh(1) xtermjs(1) xxl-job(1) yarn(1) zookeeper(1) 云原生(4) 云原生框架(1) 介绍(1) 单体架构->freemesh(1) 单元化(1) 博客(1) 压缩(1) 可观测(1) 后台管理系统(1) 命名规范(1) 多云多活(1) 如水网(1) 安全(1) 安装(1) 容器(2) 开发联调神器(1) 微前端(1) 微服务(2) 微服务架构->freemesh(1) 微服务框架(1) 快速开始(1) 控制面(1) 数据面(1) 文集(2) 服务发现(1) 服务网格(1) 流量泳道(1) 流量管理(1) 监控告警(1) 端口映射(1) 证书(1) 负载均衡(1) 配置(1)