限时领|《AI 百问百答》专栏课+实体书(包邮)! 了解详情
写点什么

通过容器编排和服务网格来改进 Java 微服务的可测性

  • 2018-08-09
  • 本文字数:4774 字

    阅读完需:约 16 分钟

关键要点

  • 在企业测试中,测试软件的方式应该与软件在生产环境中运行的方式相同,以便确保软件能够按预期的方式运行。
  • 常见的挑战是微服务应用程序直接或间接依赖需要在测试场景中编排的其他服务。
  • 本文展示了容器编排如何在服务实例之上提供抽象,并使用模拟实例来替代真实实例。
  • 此外,服务网格让我们能够重新路由流量,并通过注入错误响应或延迟来验证服务的弹性。
  • 本文包含了一个示例代码,代码来自一个基于 Java 的咖啡店应用程序,该应用程序将被部署到 Kubernetes 和 Istio 上,并对其进行测试。

在企业测试中,测试软件的方式应该与软件在生产环境中运行的方式相同,以便确保软件能够按预期的方式运行。常见的挑战是微服务应用程序直接或间接依赖需要在测试场景中编排的其他服务。

本文展示了容器编排如何在服务实例之上提供抽象,并使用桩实例来替代真实实例。此外,服务网格让我们能够重新路由流量,并通过注入错误响应或延迟来验证服务的弹性。

我们将使用一个咖啡店示例应用程序,这个应用程序被部署在一个容器和服务网格集群中。我们选择Kubernetes 和Istio 作为实例运行环境。

测试场景

假设我们想要在不考虑其他外部服务的情况下测试应用程序的行为。应用程序的运行方式和配置方式应该与生产环境相同,以便确保以后它在生产环境中的行为是一致的。在测试中,我们将使用定义好的通信接口连接应用程序。

但是,外部服务不应成为测试场景的一部分。通常,在测试时我们应该关注被测试的对象,并忽略掉其他对象。因此,我们使用模拟服务器来替代外部服务。



容器编排

使用模拟服务器而不是真实实例与以与生产环境相同的方式运行微服务的想法相矛盾,因为到了生产环境配置会发生改变。但是,如果我们的应用程序部署到容器编排集群(例如 Kubernetes),就可以将抽象的服务名称用作配置,并让集群自己去解析后端服务实例。

以下示例是一个网关类,它是咖啡店应用程序的一部分,连接到端口 8080 上的 coffee-processor。

复制代码
public class OrderProcessor {
    // definitions omitted ...
    @PostConstruct
    private void initClient() {
        final Client client = ClientBuilder.newClient();
        target = client.target("http://coffee-processor:8080/processes");
    }
   @Transactional(Transactional.TxType.REQUIRES_NEW)
    public void processOrder(Order order) {
        OrderStatus status = retrieveOrderStatus(order);
        order.setStatus(status);
        entityManager.merge(order);
    }
    // ...
    private JsonObject sendRequest(final JsonObject requestBody) {
        Response response = target.request()
               .buildPost(Entity.json(requestBody))
                .invoke();
        // ...
        return response.readEntity(JsonObject.class);
    }
    // definitions omitted ...
}

主机名通过 Kubernetes 群集 DNS 解析,将流量引导到其中一个正在运行的处理器实例。然而,coffee-processor 的实例将成为一个模拟服务器,在我们的示例中使用了 WireMock 。这种替换对我们的应用来说是透明的。

在测试场景中,不仅会连接到应用程序来调用业务逻辑,还会与模拟服务器发生通信,在单独的管理界面上控制响应行为,并验证应用程序是否以正确的方式调用模拟服务器。这与类级别的单元测试类似,通常使用 JUnit 和 Mockito 实现。



外部服务

上述的设置可以让我们模拟和控制在容器编排集群内运行的服务。那么那些在集群之外的外部服务该怎么办呢?

通常,我们可以创建一个不带有选择器的Kubernetes 服务,让它指向一个外部IP,并重写我们的应用程序,让它始终使用由群集解析的服务名。这样一来,我们定义了一个单一的点,服务将被路由到这个点上。

以下的代码片段显示了一个外部 Kubernetes 服务和端点定义,它将 coffee-shop-db 路由到外部 IP 地址 1.2.3.4:

复制代码
kind: Service
apiVersion: v1
metadata:
  name: coffee-shop-db
spec:
  ports:
  - protocol: TCP
    port: 5432
---
kind: Endpoints
apiVersion: v1
metadata:
  name: coffee-shop-db
subsets:
  - addresses:
      - ip: 1.2.3.4
    ports:
      - port: 5432

在不同的环境中,服务可能会被路由到不同的数据库实例。

服务网格

服务网格能够帮助我们处理微服务间的通信问题。目前,Istio 是最常用的服务网格技术之一。它增加了与应用程序容器共存的边车代理容器,可以解决微服务间的通信问题,并且还可以用来操纵或减慢连接,以便进行弹性测试。

在端到端测试中,我们可以引入错误或缓慢的响应来验证应用程序是否能够正确处理这些问题场景。

以下的代码片段显示了一个 Istio 虚拟服务的定义,其中到 coffee-processor 的路由有 50% 的延迟为 3 秒,10%的响应是失败的。

复制代码
apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: coffee-processor
spec:
  hosts:
  - coffee-processor
  http:
  - route:
    - destination:
        host: coffee-processor
        subset: v1
    fault:
      delay:
        fixedDelay: 3s
        percent: 50
      abort:
        httpStatus: 500
        percent: 10
---
apiVersion: networking.istio.io/v1alpha3
kind: DestinationRule
metadata:
  name: coffee-processor
spec:
  host: coffee-processor
  subsets:
  - name: v1
    labels:
      version: v1

现在,我们可以运行其他测试,并验证应用程序将如何处理这些增加的响应时间和故障状况。

除了可以注入错误响应之外,服务网格技术还可以用来从环境中添加弹性。代理容器可以处理超时,实现断路器和隔板,而应用程序无需关心这些问题。

结论

容器编排和服务网格通过将应用程序的关注点转移到环境中来提高微服务应用程序的可测试性。有了服务抽象,我们就可以透明地替换服务或进行重新路由。服务网格不仅支持更复杂的路由,还允许我们注入故障或减慢响应,让应用程序处于压力之下,以此来验证其相应的行为。

更多资源

关于作者

 Sebastian Daschner 是一名自由 Java 顾问、作家和培训师,对编程和 Java 充满热情。他是“Architecting Modern Java EE Applications”一书的作者。Sebastian 正在参与 JCP,协助制定 Java EE 的未来标准,是 JAX-RS、JSON-P 和 Config 专家组的成员,并在各种开源项目上进行协作。由于在 Java 社区和生态系统中的贡献,他获得了 Java Champion、Oracle Developer Champion 和 2016 年 JavaOne Rockstar 的殊荣。除了 Java 之外,Sebastian 还是 Linux 和云原生技术的重要用户。他通过博客和Twitter(@DaschnerS)传播计算机科学实践。工作之余,他喜欢乘飞机或骑摩托车旅行。

查看英文原文 Improving Testability of Java Microservices with Container Orchestration and a Service Mesh

2018-08-09 18:272687
用户头像

发布了 731 篇内容, 共 469.5 次阅读, 收获喜欢 2008 次。

关注

评论

发布
暂无评论
发现更多内容

全网最新架构实战文档:高并发+分布式+微服务+SpringBoot+Nginx

三十而立

Java 分布式 java面试

瓴羊Quick BI的存在,让企业管理不再复杂繁琐

对不起该用户已成仙‖

RADIUS认证是什么意思?有什么用?

行云管家

radius 认证

ChatGPT软件技术栈解密

NineData

数据库 GitHub 技术架构 openai ChatGPT

【共创共赢】AntDB数据库合作伙伴交流会(北京站)顺利举办

亚信AntDB数据库

数据库 AntDB AntDB数据库 企业号 3 月 PK 榜

49天含泪苦学这些分布式技术文档,一不小心,吊打了字节跳动面试官

三十而立

Java 分布式 java面试

ShareSDK常见问题

MobTech袤博科技

CoordConv:给你的卷积加上坐标

华为云开发者联盟

人工智能 华为云 华为云开发者联盟 企业号 3 月 PK 榜

焱融 YRCloudFile 在海量小文件场景训练加速优化策略

焱融科技

文件存储 容器存储 分布式文件存储 高性能存储 全闪存储

精准水位在流批一体数据仓库的探索和实践

百度Geek说

大数据 数据仓库 实时计算 流批一体 企业号 3 月 PK 榜

Spring源码解析:自定义标签解析

Java你猿哥

Java spring Spring Boot ssm

进阶面试皆宜!阿里强推Java程序员进阶笔记,差距不止一点点

Java你猿哥

Java 面试 面经 八股文 Java八股文

滴滴 一面总结

Java你猿哥

Java 滴滴 java面试 面经

30s 就可以掌握的 Nginx 片段

Java你猿哥

Java nginx ssm Java工程师 nginx 开源版

面试造飞机?GitHub顶级“java面试手册2023”(面试通过率95%)

Java你猿哥

Java 面试 面经 Java工程师 春招

不同于Oracle:MySQL的insert会阻塞update

GreatSQL

MySQL oracle greatsql greatsql社区

Java8 Stream中如何对集合数据进行快速匹配和赋值

Java你猿哥

Java ssm java8 Java工程师

大数据上云存算分离演进思考与实践

阿里技术

大数据 存算分离

Go 语言基础语法

【新资讯】行云管家大动作-V7.0即将闪亮登场!

行云管家

网络安全 行云管家

软件工程高效学 | 软件工程基础

TiAmo

软件工程

解决90%面试问题!GitHub顶级"Java面试手册"了解下八股文天花板

Java你猿哥

Java 面经 校招 Java工程师 春招

公司刚来的阿里p8,看完我构建的分布式框架,甩给我一份文档

三十而立

Java 分布式 java面试

你还在为分布式系统数据一致性而烦恼吗,来来来!!!

Java你猿哥

Java 分布式 ssm 分布式架构

ACK Net Exporter 与 sysAK 出击:一次深水区的网络疑难问题排查经历

阿里巴巴云原生

阿里云 云原生 网络 容器w

阿里架构组分布式架构技术使用心得:全在这一份文档里面了

三十而立

Java java面试

通过容器编排和服务网格来改进Java微服务的可测性_Java_Sebastian Daschner_InfoQ精选文章