一键在本地搭建运行Istio 1.0的分布式Kubernetes集群

本项目开源地址：https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster，欢迎提交Issue和PR。

就在昨天0点，Istio 1.0发布，已生产就绪！很多同学都对Istio 1.0跃跃欲试但苦于没有运行环境。今天我提供给大家一个开箱即用又可以方便定制的分布式开发环境的方法，可用于对Istio、Kubernetes本身和应用进行更好的测试。现在我们使用Vagrant和VirtualBox来创建一个这样的环境。

注意：Istio 1.0、Kubernetes 1.11、kube-proxy使用ipvs模式，建议使用至少16G内存的Mac电脑运行。

准备环境

需要准备以下软件和环境：

• 8G以上内存

• Vagrant 2.0+

• VirtualBox 5.0 +

• 提前下载Kubernetes 1.9以上版本（支持最新的1.11.0）的release压缩包

• Mac/Linux，不支持Windows

集群

我们使用Vagrant和Virtualbox安装包含3个节点的kubernetes集群，其中master节点同时作为node节点。

注意：以上的IP、主机名和组件都是固定在这些节点的，即使销毁后下次使用vagrant重建依然保持不变。

容器IP范围：172.33.0.0/30

Kubernetes service IP范围：10.254.0.0/16

安装的组件

安装完成后的集群包含以下组件：

• flannel（ host-gw模式）

• kubernetes dashboard

• etcd（单节点）

• kubectl

• CoreDNS

• kubernetes（版本根据下载的kubernetes安装包而定，支持Kubernetes1.9+）

可选插件

• Heapster + InfluxDB + Grafana

• ElasticSearch + Fluentd + Kibana

• Istio service mesh

• Vistio

使用说明

将该repo克隆到本地，下载Kubernetes的到项目的根目录。

git clone https://github.com/rootsongjc/kubernetes-vagrant-centos-cluster.gitcd kubernetes-vagrant-centos-clusterwget https://storage.googleapis.com/kubernetes-release/release/v1.11.0/kubernetes-server-linux-amd64.tar.gz

注：您可以在这里找到Kubernetes的发行版下载地址。

使用vagrant启动集群。

vagrant up

如果是首次部署，会自动下载 centos/7的box，这需要花费一些时间，另外每个节点还需要下载安装一系列软件包，整个过程大概需要10几分钟。

如果您在运行 vagrant up的过程中发现无法下载 centos/7的box，可以手动下载后将其添加到vagrant中。

手动添加centos/7 box

wget -c http://cloud.centos.org/centos/7/vagrant/x86_64/images/CentOS-7-x86_64-Vagrant-1801_02.VirtualBox.boxvagrant box add CentOS-7-x86_64-Vagrant-1801_02.VirtualBox.box --name centos/7

这样下次运行 vagrant up的时候就会自动读取本地的 centos/7 box而不会再到网上下载。

访问kubernetes集群

访问Kubernetes集群的方式有三种：

• 本地访问

• 在VM内部访问

• Kubernetes dashboard

通过本地访问

可以直接在你自己的本地环境中操作该kubernetes集群，而无需登录到虚拟机中。

要想在本地直接操作Kubernetes集群，需要在你的电脑里安装 kubectl命令行工具，对于Mac用户执行以下步骤：

wget https://storage.googleapis.com/kubernetes-release/release/v1.11.0/kubernetes-client-darwin-amd64.tar.gztar xvf kubernetes/platforms/darwin/amd64/kubectl /usr/local/bin/

将 conf/admin.kubeconfig文件放到 ~/.kube/config目录下即可在本地使用 kubectl命令操作集群。

mkdir -p ~/.kubecp conf/admin.kubeconfig ~/.kube/config

我们推荐您使用这种方式。

在虚拟机内部访问

如果有任何问题可以登录到虚拟机内部调试：

vagrant ssh node1sudo -ikubectl get nodes

Kubernetes dashboard

还可以直接通过dashboard UI来访问：https://172.17.8.101:8443

可以在本地执行以下命令获取token的值（需要提前安装kubectl）：

kubectl -n kube-system describe secret `kubectl -n kube-system get secret|grep admin-token|cut -d " " -f1`|grep "token:"|tr -s " "|cut -d " " -f2

注意：token的值也可以在 vagrant up的日志的最后看到。

只有当你安装了下面的heapster组件后才能看到上图中的监控metrics。

组件

Heapster监控

创建Heapster监控：

kubectl apply -f addon/heapster/

访问Grafana

使用Ingress方式暴露的服务，在本地 /etc/hosts中增加一条配置：

172.17.8.102 grafana.jimmysong.io

访问Grafana：http://grafana.jimmysong.io

Traefik

部署Traefik ingress controller和增加ingress配置：

kubectl apply -f addon/traefik-ingress

在本地 /etc/hosts中增加一条配置：

172.17.8.102 traefik.jimmysong.io

访问Traefik UI：http://traefik.jimmysong.io

EFK

使用EFK做日志收集。

kubectl apply -f addon/efk/

注意：运行EFK的每个节点需要消耗很大的CPU和内存，请保证每台虚拟机至少分配了4G内存。

Helm

用来部署helm。

hack/deploy-helm.sh

Service Mesh

我们使用 istio 作为 service mesh。

安装

到Istio release 页面下载istio的安装包，安装istio命令行工具，将 istioctl命令行工具放到你的 $PATH目录下，对于Mac用户：

wget https://github.com/istio/istio/releases/download/1.0.0/istio-1.0.0-osx.tar.gztar xvf istio-1.0.0-osx.tar.gzmv bin/istioctl /usr/local/bin/

在Kubernetes中部署istio：

kubectl apply -f addon/istio/

运行示例

kubectl apply -n default -f <(istioctl kube-inject -f yaml/istio-bookinfo/bookinfo.yaml)istioctl create -f yaml/istio-bookinfo/bookinfo-gateway.yaml

在您自己的本地主机的 /etc/hosts文件中增加如下配置项。

172.17.8.102 grafana.istio.jimmysong.io172.17.8.102 servicegraph.istio.jimmysong.io

我们可以通过下面的URL地址访问以上的服务。

更多详细内容请参考Vistio—使用Netflix的Vizceral可视化Istio service mesh。

管理

除了特别说明，以下命令都在当前的repo目录下操作。

挂起

将当前的虚拟机挂起，以便下次恢复。

vagrant suspend

恢复

恢复虚拟机的上次状态。

vagrant resume

注意：我们每次挂起虚拟机后再重新启动它们的时候，看到的虚拟机中的时间依然是挂载时候的时间，这样将导致监控查看起来比较麻烦。因此请考虑先停机再重新启动虚拟机。

重启

停机后重启启动。

vagrant haltvagrant up# login to node1vagrant ssh node1# run the prosivision scripts/vagrant/hack/k8s-init.shexit# login to node2vagrant ssh node2# run the prosivision scripts/vagrant/hack/k8s-init.shexit# login to node3vagrant ssh node3# run the prosivision scripts/vagrant/hack/k8s-init.shsudo -icd /vagrant/hack./deploy-base-services.shexit

现在你已经拥有一个完整的基础的kubernetes运行环境，在该repo的根目录下执行下面的命令可以获取kubernetes dahsboard的admin用户的token。

hack/get-dashboard-token.sh

根据提示登录即可。

清理

清理虚拟机。

vagrant destroyrm -rf .vagrant

注意

仅做开发测试使用，不要在生产环境使用该项目。

参考

• Kubernetes Handbook——Kubernetes中文指南/云原生应用架构实践手册

• duffqiu/centos-vagrant

• coredns/deployment

• Kubernetes 1.8 kube-proxy 开启 ipvs

• Vistio—使用Netflix的Vizceral可视化Istio service mesh

欢迎大家在本公众号上踊跃投稿，投稿方式请访问：https://github.com/servicemesher/trans