33.云原生之Istio管理任何七层流量

云原生专栏大纲

文章目录

Istio存在的问题
Aeraki介绍
Aeraki 的解决方案
- 支持的协议
- 支持的特性
安装Aeraki
Aeraki教程
- 采用 ServiceEntry 的 Demo 应用
- 使用 Dubbo2Istio 对接 Dubbo 注册表的 Demo 应用（Interface 级流量治理）

Service Mesh 中有大量的七层协议流量，包括 RPC、Database、Cache、Messaging 等类型的七层协议，但 Istio 只提供了 HTTP 和 gRPC 的七层管理能力，对其他七层协议的支持非常有限。Aerkai 开源项目通过非侵入的方式为 Istio 提供了任意七层协议的支持能力，并提供了面向用户的高级配置 CRD，可以很方便地对这些协议的流量进行管理，实现灰度发布等高级流量管理能力。目前 Aeraki 已经支持了 Thrift、Dubbo、Redis、Kafka、Zookeeper，并即将支持更多的协议。Aeraki 的定位是做成一个非侵入式 Istio 功能增强工具集，除了协议扩展之外，还会关注解决在 Istio 使用过程中遇到的其他常见问题，包括效率优化、配置简化、第三方服务发现接入、功能扩展等。

Istio存在的问题

Istio 和其他流行的服务网格实现对 HTTP 和 gRPC 协议之外的7层协议的支持非常有限。
Envoy RDS (Route Discovery Service) 是专为 HTTP 设计的。而其他的协议，如 Dubbo 和 Thrift 等，只能使用监听器内联路由来进行流量管理，当路由改变时，需要重建监听器，导致存量链接上的请求被中断而出现错误。
在服务网格中引入一个专有协议需要花费很多精力。需要编写一个 Envoy 过滤器来处理网络层的流量，以及一个专有控制面来管理这些 Envoy 代理。

这些问题使得用户难以在服务网格中管理微服务中其他广泛使用的7层协议的流量。例如，在一个微服务应用中，我们可能使用以下协议。

RPC: HTTP, gRPC, Thrift, Dubbo, 私有 RPC 协议 …
消息队列: Kafka, RabbitMQ …
缓存: Redis, Memcached …
数据库: MySQL, PostgreSQL, MongoDB …

Aeraki介绍

https://github.com/aeraki-framework/aeraki
Aeraki 是一个开源的 Istio 外部服务网格扩展，专门设计用于支持异构服务和跨网格通信。它的目标是扩展 Istio，使其能够更好地支持多种不同类型的服务，包括 Dubbo、Spring Cloud、Thrift 等，以及不同的通信协议，如 gRPC、HTTP 和 TCP。
以下是 Aeraki 的一些主要特点和功能：

支持异构服务和协议：Aeraki 扩展了 Istio，使其能够与 Dubbo、Spring Cloud、Thrift 等异构服务框架进行集成，实现这些服务之间的流量管理和通信。
跨网格通信：Aeraki 支持不同 Istio 网格之间的通信，使得在多个 Istio 网格之间进行服务发现、流量控制和安全管理变得更加容易。
自动化配置：Aeraki 提供了自动化的配置功能，可以根据服务的类型和协议自动配置 Istio 的流量路由、策略和安全功能，简化了管理和维护工作。
可观测性：Aeraki 集成了 Istio 的监控和跟踪功能，可以帮助用户实时监控和诊断异构服务之间的通信和性能问题。

总的来说，Aeraki 扩展了 Istio 的功能，使其能够更好地适应复杂的微服务环境，支持不同类型和协议的服务，并提供跨网格通信的能力。这为用户提供了更灵活、可扩展和安全的微服务治理解决方案。

Aeraki 的解决方案

https://github.com/aeraki-mesh/aeraki/blob/master/README.zh-CN.md
为了解决这些问题，Aeraki Mesh 提供了一种非侵入性的、高度可扩展的方式来管理任何服务网中的7层流量。
Aeraki Mesh 由以下几部分组成。

Aeraki: Aeraki 为运维提供了高层次的、用户友好的流量管理规则，将规则转化为 envoy 代理配置，并利用 Istio 的EnvoyFilter API 将配置推送给数据面的 sidecar 代理。 Aeraki 还在控制面中充当了 MetaProtocol Proxy 的 RDS（路由发现服务）服务器。不同于专注于 HTTP 的 Envoy RDS，Aeraki RDS 旨在为所有七层协议提供通用的动态路由能力。
MetaProtocol Proxy: MetaProtocol Proxy 是一个七层代理框架，为七层协议提供了常用的流量管理能力，如负载均衡、熔断、路由、本地/全局限流、故障注入、指标收集、调用跟踪等等。我们可以基于 MetaProtocol Proxy 提供的通用能力创建自己专有协议的七层代理。要在服务网格中加入一个新的协议，唯一需要做的就是实现编解码器接口（通常只需数百行代码）和几行 yaml 配置。如果有特殊的要求，而内置的功能又不能满足，MetaProtocol Proxy 还提供了一个扩展机制，允许用户编写自己的七层过滤器，将自定义的逻辑加入 MetaProtocol Proxy 中。

MetaProtocol Proxy 中已经支持了 Dubbo， Thrift ，bRPC 和一系列私有协议。如果你正在使用一个闭源的专有协议，也可以在服务网格中管理它，只需为它编写一个 MetaProtocol 编解码器即可。
大多数请求/响应式的无状态协议和流式调用都可以建立在 MetaProtocol Proxy 之上。但是，由于有些协议的路由策略过于 “特殊”，无法在 MetaProtocol 中规范化。例如，Redis 代理使用 slot number 将客户端查询映射到特定的Redis服务器节点，slot number 是由请求中的密钥计算出来的。只要在 Envoy Proxy 中有一个可用的 TCP filter，Aeraki 仍然可以管理这些协议。目前，对于这一类的协议，Aeraki 支持 Redis 和 Kafka。

支持的协议

Aeraki 已经支持下述协议：

Dubbo (Envoy 原生过滤器）
Thrift (Envoy 原生过滤器)
Kafka (Envoy 原生过滤器)
Redis (Envoy 原生过滤器)
MetaProtocol-Dubbo
MetaProtocol-Thfirt
MetaProtocol-bRPC（百度开源 RPC 协议）
MetaProtocol-tRPC（腾讯内部 RPC 协议）
MetaProtocol-qza（腾讯音乐内部协议）
MetaProtocol-videoPacket（腾讯融媒体内部协议）
MetaProtocol-其他协议：灵雀云、腾讯游戏人生等的内部协议…
MetaProtocol-私有协议：需要在服务网格中接入你的私有协议？没有问题，几乎任何七层协议都可以基于 MetaProtocol 实现，并在 Aeraki Mesh 中进行流量管理

支持的特性

流量管理
- 请求级负载均衡/地域感知负载均衡（支持一致哈希算法/会话保持）
- 熔断
- 灵活的路由匹配条件（任何从7层数据包中提取的属性，都可作为匹配条件）
- 通过 Aeraki MetaRDS 实现动态路由更新
- 基于版本的路由
- 流量分流
- 本地流量限制
- 全局流量限制
- 消息修改
- 流量镜像
可观测性
- 请求级指标 (请求级延迟、计数、错误等)
- 分布式追踪
安全性
- 基于接口/方法的对等授权
- 授权请求

请注意: 建立在 MetaProtocol 之上的协议实现支持 Aeraki Mesh 的上述所有功能，Envoy 原生 filter 只支持部分上述功能，这取决于原生 filter 的能力。

安装Aeraki

参考：https://www.aeraki.net/docs/v1.x/install/

MetaProtocol 和 Istio 兼容性

确定要安装的版本，小编Istio版本为1.11.2，这种中间本部建议向下选择Aeraki版本
或者升级istio，参考https://istio.io/latest/zh/docs/setup/upgrade/helm/#canary-upgrade

修改 Istio 配置

请修改 istio ConfigMap 以添加以下内容。

启用 Istio DNS catpure
启用 Aeraki 托管协议的指标

kubectl edit cm istio -n istio-system

原始配置

defaultConfig:discoveryAddress: istiod-1-11-2.istio-system.svc:15012proxyMetadata: {}tracing:zipkin:address: jaeger-collector.istio-system.svc:9411
enablePrometheusMerge: true
rootNamespace: istio-system
trustDomain: cluster.local

添加配置

apiVersion: v1
data:mesh: |-defaultConfig:proxyMetadata:ISTIO_META_DNS_CAPTURE: "true"proxyStatsMatcher:inclusionPrefixes:- thrift- dubbo- kafka- meta_protocolinclusionRegexps:- .*dubbo.*- .*thrift.*- .*kafka.*- .*zookeeper.*- .*meta_protocol.*

安装 Aeraki

git clone https://github.com/aeraki-mesh/aeraki.git
cd aeraki
export AERAKI_TAG=1.3.0
make install

安装 AerakiCtl（可选）

git clone https://github.com/aeraki-mesh/aerakictl.git ~/aerakictl;
source ./aerakictl.shCommand
Aeraki Debugging
aerakictl_aeraki_log
Istiod Debugging
aerakictl_istiod_debug
aerakictl_istiod_config
aerakictl_istiod_registry
aerakictl_istiod_endpoint
aerakictl_istiod_instances
aerakictl_istiod_ads
aerakictl_istiod_logGateway Debugging
aerakictl_gateway_config
aerakictl_gateway_logSidecar Debugging
aerakictl_sidecar_log
aerakictl_sidecar_config
aerakictl_sidecar_route
aerakictl_sidecar_statsaerakictl_sidecar_enable_debug
aerakictl_sidecar_enable_traceaerakictl_sidecar_disable_debug
aerakictl_sidecar_admin
aerakictl_app_log

查看Aeraki安装情况

Aeraki教程

https://www.aeraki.net/zh/docs/v1.x/tutorials/

安装示例应用

git clone https://github.com/aeraki-mesh/aeraki.git
cd aeraki-mesh/demo
# 会安装Aeraki， Istio 和 demo 应用（此处不这样安装）
make demo
# 进入demo中相应目录进行安装

查看demo示例有那些

cd aeraki-mesh/demo
[root@ksmaster21 demo]# ll
总用量 76
drwxr-xr-x. 2 root root  4096 5月  11 2022 dubbo
drwxr-xr-x. 2 root root  4096 5月  11 2022 gateway
-rw-r--r--. 1 root root 28367 5月  11 2022 grafana-dashboard.json
-rwxr-xr-x. 1 root root   821 5月  11 2022 install-aeraki.sh
-rwxr-xr-x. 1 root root  1637 5月  11 2022 install-demo.sh
drwxr-xr-x. 2 root root  4096 5月  11 2022 kafka
drwxr-xr-x. 3 root root  4096 5月  11 2022 metaprotocol-dubbo
drwxr-xr-x. 2 root root  4096 5月  11 2022 metaprotocol-qza
drwxr-xr-x. 5 root root  4096 5月  11 2022 metaprotocol-thrift
drwxr-xr-x. 2 root root  4096 5月  11 2022 metaprotocol-trpc
drwxr-xr-x. 2 root root  4096 5月  11 2022 metaprotocol-videopacket
drwxr-xr-x. 2 root root  4096 5月  11 2022 thrift
-rwxr-xr-x. 1 root root  1312 5月  11 2022 uninstall-demo.sh

采用 ServiceEntry 的 Demo 应用

https://zhuanlan.zhihu.com/p/361811537

安装dubbo示例（Interface 级流量治理）

cd dubbo
# 修改其中install.sh脚本，自动注入改为如下内容
kubectl label namespace dubbo istio-injection=enabled --overwrite=true
kubectl label namespace dubbo istio.io/rev=1-11-2 --overwrite=true
# 安装示例dubbo应用
./install.sh

查看部署情况

访问测试

使用 Dubbo2Istio 对接 Dubbo 注册表的 Demo 应用（Interface 级流量治理）

部署

git clone https://github.com/aeraki-mesh/dubbo2istio.git
cd dubbo2istiokubectl create ns meta-dubbo
kubectl label namespace meta-dubbo istio-injection=enabled --overwrite=true
kubectl label namespace meta-dubbo istio.io/rev=1-11-2 --overwrite=true
kubectl apply -f demo/k8s/zk -n meta-dubbo
kubectl apply -f demo/traffic-rules/destinationrule.yaml -n meta-dubbo

上面的脚本安装的是 ZooKeeper 注册表，你也可以选择安装 nacos 或者 etcd 注册表。Dubbo Demo 应用程序源码可以从 https://github.com/aeraki-mesh/dubbo-envoyfilter-example 下载。

查看部署情况

kubectl get pod -n meta-dubbo
NAME                                        READY   STATUS    RESTARTS   AGE
dubbo-sample-consumer-5cf9f6f878-qxwwp      2/2     Running   0          97s
dubbo-sample-provider-v1-6b7cc9b6f8-j9dvl   2/2     Running   0          97s
dubbo-sample-provider-v2-7546478cbf-l2l74   2/2     Running   0          97s
dubbo2istio-5c4cf7f847-d7kf2                1/1     Running   0          97s
zookeeper-77c844c5b9-7p47v                  1/1     Running   0          96s