【AICon】AI 基础设施、LLM运维、大模型训练与推理,一场会议,全方位涵盖! >>> 了解详情
写点什么

如何提升微服务的幸福感

  • 2020-05-28
  • 本文字数:4290 字

    阅读完需:约 14 分钟

如何提升微服务的幸福感

前言

随着微服务的流行,越来越多公司使用了微服务框架,微服务以其高内聚、低耦合等特性,提供了更好的容错性,也更适应业务的快速迭代,为开发人员带来了很多的便利性。但是随着业务的发展,微服务拆分越来越复杂,微服务的治理也成了一个比较令人头疼的问题,我相信下面这些场景大家或多或少都遇到过。


场景一: 发布是天大的事情,每一次的发布,都会出现执行到一半的请求中断掉,上游继续调用已经下线的节点导致报错的现象。发布时收到各种报错,同时还影响用户的体验,发布后又需要修复执行到一半的脏数据。


上述场景还是在新版本没有任何问题的情况下,如果新版本有问题,则会导致大量业务直接请求到有问题的新版本,轻则修复数据,重则严重影响用户体验,甚至产生资损。最后不得不每次发版都安排在凌晨两三点发布,心惊胆颤,睡眠不足,苦不可言。


场景二: 大半夜某个服务节点出现异常,上游仍旧不断地调用,出现很多异常和各种报警短信。被报警吵醒后,想直接在线上修复,有点难,想保留现场又害怕拖垮整个应用,只好先重启为上。


但是这只是治标不治本的方式,因为很难复现从而无法有效定位,可能明天又被吵醒,继续重启。上述场景还是建立在报警系统比较完善的情况下,如果没有完善的报警系统,严重情况可能整个业务系统都被单机异常拖垮。


场景三: 公司业务壮大了,部门组织变复杂后,微服务模块越来越多。我不清楚发布的服务到底被谁调用了,所以我不知道能否安全地下线一个服务。我这个应用的这个接口是个敏感接口,我只希望得到我授权的应用才能调用,而不是直接从服务注册中心得到我的地址就能直接调用,但是目前好像还做不到。


以上三个场景确实是使用微服务之后带来的痛点,这时候有个人告诉你,这些问题,我都知道怎么搞定,我有着丰富的经验,知道怎么解决,你肯定很开心。


然后高薪请进来了,确实不错,各种架构图、框架原理,框架修改点都非常清晰而且功能确实完美。最后评估对当前系统的修改成本,需要搭建三套中间件服务端,增加 4 个中间件依赖,修改几万行代码和配置。


“打扰了,还是业务重要,产品经理给的需求还没完成呢,刚刚说的场景也没那么痛苦,不就几个小问题嘛,真的没事。”


这时候 EDAS 告诉你,EDAS 的微服务解决方案,不需要做任何的代码和配置的修改,就能完美地解决上面说的三个场景中的问题。


你,不心动吗?


是的,你没看错,只要你的应用是 基于 Spring Cloud 或 Dubbo 最近五年内的版本开发,就能直接使用完整的 EDAS 微服务治理能力,不需要修改任何代码和配置。

为什么 EDAS 用户可以轻松发布

传统的发布流程真的很容易出错


传统的发布流程中,服务提供者停止再启动,服务消费者感知到服务提供者节点停止的流程如下:



1、服务发布前,消费者根据负载均衡规则调用服务提供者,业务正常。


2、服务提供者 B 需要发布新版本,先对其中的一个节点进行操作,首先是停止 Java 进程。


3、服务停止过程,又分为主动注销和被动注销,主动注销是准实时的,被动注销的时间由不同的注册中心决定,最差的情况会需要 1 分钟。


如果应用是正常停止,Spring Cloud 和 Dubbo 框架的 Shutdown Hook 能正常被执行,这一步的耗时可以忽略不计。


如果应用是非正常停止,比如直接使用 kill -9 停止,或者 Docker 镜像构建的时候 Java 应用不是 1 号进程且没有把 kill 信号传递给应用。那么服务提供者不会主动去注销服务节点,而是在超过一段时间后由于心跳超时而被动地被注册中心摘除。


4、服务注册中心通知消费者,其中的一个服务提供者节点已下线。包含推送和轮询两种方式,推送可以认为是准实时的,轮询的耗时由服务消费者轮询间隔决定,最差的情况下需要 1 分钟。


5、服务消费者刷新服务列表,感知到服务提供者已经下线了一个节点,这一步对于 Dubbo 框架来说不存在,但是 Spring Cloud 的负载均衡组件 Ribbon 默认的刷新时间是 30 秒 ,最差情况下需要耗时 30 秒。


6、服务消费者不再调用已经下线的节点。


从第 2 步到第 6 步的过程中,Eureka 在最差的情况下需要耗时 2 分钟,Nacos 在最差的情况下需要耗时 50 秒。在这段时间内,请求都有可能出现问题,所以发布时会出现各种报错,同时还影响用户的体验,发布后又需要修复执行到一半的脏数据。最后不得不每次发版都安排在凌晨两三点发布,心惊胆颤,睡眠不足,苦不可言。


为什么 EDAS 用户不需要修数据


当您的应用部署到 EDAS 之后,EDAS 的无损下线功能会自动在发布新版本的时候做如下的增强,我们主要关注绿色部分的信息:



1、应用在发布前主动向注册中心注销应用,并将应用标记为已下线的状态。


2、在接收到服务消费者请求时,首先会正常处理本次调用,并通知服务消费者此节点已下线,服务消费者会立即从调用列表删除此节点。


3、在这之后,服务消费者不再调用已经下线的节点。


EDAS 的无损下线功能,将原来的从原来的 停止进程阶段 注销服务变成了 prestop 阶段注销服务,将原来的依赖于 注册中心推送,做到了服务提供者直接通知消费者从调用列表中摘除自己。使得下线感知的时间大大减短,从原来的分钟级别做到准实时,确保您的应用在下线时能做到业务无损。


金丝雀发布为 EDAS 用户再加一重保障


在普通的新版本发布场景中,默认情况下请求到各个节点的流量是均匀分布的。


假设服务提供者有 4 台,只要某个节点一发布新版本,就会有 25% 的流量打到新版本。如果新版本存在问题,就会影响线上 25% 的流量,轻则修复数据,重则严重影响用户体验,甚至产生资损。



EDAS 提供的金丝雀发布功能,支持 EDAS 用户在发布新版本之前就提前配置好金丝雀规则,使得只有符合流量特征的流量会调用到新版本,从而可以精准地控制调用到新版本的流量,进行新版本验证。



如图所示,EDAS 的用户可以在发布之前配置好金丝雀规则。


这里以 Dubbo 为例,下图中配置表明 调用


com.alibaba.edas.demo.EchoService.echo(String string) 的流量中,只有参数为 “helloworld” 的流量才会被路由到新版本。



在服务提供者的将服务注册到注册中心前,EDAS 已经将新版本对应的金丝雀规则推送到服务消费者端。服务消费者在调用的时候,会根据金丝雀规则对流量进行分析,并与服务提供者列表中的元数据进行比对,选择正确的调用地址。


除了上图中演示的简单参数比对之外,EDAS 也支持解析更复杂的结构体进行规则配置。当然,如果某个场景只需要控制流量百分比就能满足需求,EDAS 用户也可以直接按比例进行灰度。


EDAS 金丝雀发布 将路由到新版本的流量,从所占总节点数的百分比转变成了根据流量特征进行控制。您可以自由地控制路由到新版本的流量,比如只将内部测试账号的流量路由到新版本,从而做到小心发布、大胆验证。所以,赶紧来 EDAS 进行轻松发布吧。

为什么 EDAS 用户不需要半夜醒来重启机器

开源框架有可能被单点异常拖垮整个应用系统


在微服务架构中,当服务提供者的应用实例出现异常时,服务消费者无法及时感知,会影响服务的正常调用,进而影响消费者的服务性能甚至可用性。



在上图的示例场景中,系统包含 4 个应用,A、B、C 和 D,其中应用 A 会分别调用应用 B、C 和 D。当应用 B、C 或 D 的某些实例异常时(如图中应用 B、C 和 D 标识的各有 1 个和 2 个异常实例),如果应用 A 无法感知,会导致部分调用失败;如果业务代码写的不够优雅,有可能影响应用 A 的性能甚至整个系统的可用性。


离群实例摘除给业务系统的稳定性加把锁


为了保护应用的服务性能和可用性,EDAS 支持检测应用实例的可用性并进行动态调整,以保证服务成功调用,从而提升业务的稳定性和服务质量。


如下图所示,EDAS 用户可以在控制台上对应用 A 进行如下配置,从而保证 A 应用的稳定性。



1、 异常类型,网络异常指的是 IOException,业务异常在 Spring Cloud 框架中指的是返回值 http 状态码 为 500 ,Dubbo 框架中指的是返回值中包含 Exception。


2、 QPS 下限,为了避免调用次数太少,随机性较大从而影响判断的准确性,您可以设置 QPS 的下限,只有 QPS 达到一定值后才进行离群摘除判断。默认为 1 ,可以配置成 0。


3 、错误率下限,如果某台服务提供者返回值中,错误的比例超过了配置的这个值,会被判定成需要被摘除。


4、 摘除实例比例上限,为了避免摘除过多的机器节点,导致剩余的节点数流量过载,需要配置一个摘除比例的上限,建议不超过 50%。


5、 恢复检测单位时间,离群节点被摘除的动作是暂时性的,经过单位时间后,消费者侧会对此节点进行检测。如果节点已经恢复,会将其放回到节点中。如果节点持续被摘除,那么它被摘除的时间会线性增加到最大值。


基于离群实例摘除功能,EDAS 用户不会因为单机异常在半夜醒来重启机器,先安心地睡一觉吧,反正业务也不会受影响。醒来之后机器现场也还在,是拿着保留的现场进行分析,还是直接重启,任君选择。

为什么 EDAS 用户对自己的服务胸有成竹

服务查询一目了然


我们熟知的 zookeeper 组件并没有服务查询界面,Eureka 和 Nacos 这两个注册中心,虽然提供了网页版的控制台,但是在控制台上只能查询到服务的 IP 和 port 等基本的信息。


EDAS 用户在使用服务查询时,不仅能够查询到应用注册了哪些服务,对应的 IP 和 port 是什么,还能查询到服务包含的具体方法和参数类型,以及直观地看到服务被其他应用和节点的订阅情况。



即使部门组织再复杂、微服务模块再多,EDAS 的用户也可以清晰地查询出服务的被调用情况,做到心中有数,在梳理服务依赖以及评估影响面的时候可以做到胸有成竹。


精准地控制服务调用的权限


业务发展后,服务还会遇到权限控制的需求。比如优惠券部门的某个应用,同时包含了优惠券查询接口 和优惠券发放接口。对于优惠券查询接口来说,默认公司内部的所有应用都有权限调用的;但优惠券发放接口只有客服和运营部门的某些应用才有权限调用。


如下图所示,EDAS 用户可以对自己的服务进行权限管理,这里以 Dubbo 为例,下图中配置表明,应用 cartservice 发布的 com.alibaba.edas.demo.EchoService 服务的 addItemToCart 的方法,只允许 frontend 这个应用调用。



除了支持对指定的接口添加鉴权规则之外,服务鉴权也支持对整个应用添加鉴权规则,还支持根据调用方 IP 进行鉴权。


精准的权限管理,可以让你更好地管理微服务调用的权限,保证业务的合规性,保障数据的安全。

EDAS 微服务治理使用成本真的很低

使用 EDAS 微服务治理的成本真的已经低得不能再低,不需要修改任何代码和配置,直接将应用部署上来就可以享受完整的 EDAS 微服务治理能力。


只要你的应用是基于 Spring Cloud 或 Dubbo 最近五年内的版本开发,就能直接使用完整的 EDAS 微服务治理能力,赶快来体验吧!


本文转载自公众号阿里巴巴中间件(ID:Aliware_2018)。


原文链接


https://mp.weixin.qq.com/s/y0tsSbigbRe2AyqaAIzeSQ


2020-05-28 10:071736

评论

发布
暂无评论
发现更多内容

matic链佛萨奇系统开发源代码快速部署上线

开发微hkkf5566

软件测试丨基于Junit4,利用xUnit框架让你的测试用例可维护性大幅提升

测试人

软件测试 单元测试 自动化测试 测试框架 测试开发

掌握分布式环境缓存更新策略,提高缓存与数据库双写一致性!

C++后台开发

数据库 redis 分布式 中间件 后端开发

开发小游戏的流程及难点汇总

Onegun

小程序 小程序容器 小游戏 小游戏开发

聚焦人机交互智能应用领域,APISIX 在希沃网关的应用与实践

API7.ai 技术团队

api 网关 APISIX 用户案例

英特尔着眼系统工艺协同优化理念,推进摩尔定律新浪潮

科技之家

Karmada多云多集群生产实践专场圆满落幕

华为云开发者联盟

云原生 华为云 12 月 PK 榜

数字孪生可视化技术打造未来智慧码头系统

2D3D前端可视化开发

物联网 智慧港口 数字孪生 智慧码头 5G智慧港口

自助取数、即席分析...瓴羊Quick BI助力企业数字化转型

对不起该用户已成仙‖

如何在 towify 中使用组件切换器配置“点赞”功能?

Towify

微信小程序 编辑器 无代码

瓴羊Quick BI 权限管理:构建高效企业数据分析运行管理体系

夏日星河

如何使用Towify在小程序中配置微信登录

Towify

微信小程序 编辑器 无代码

服开与编排,老兵新传

鲸品堂

电信运营商 12 月 PK 榜

YMatrix 创始人姚延栋,获“最具发展潜力与创新影响力的创业者”称号

YMatrix 超融合数据库

创业 超融合数据库 YMatrix

小游戏开发者变现攻略

Onegun

小程序 超级app 小游戏

我们是如何追逐元宇宙、XR等“概念股”浪潮的?

阿里巴巴终端技术

3D渲染 3D vr

企业级大数据平台智能运维好帮手——星环科技多模数据平台监控软件Aquila Insight

星环科技

如何在Android安卓环境运行小程序游戏

Onegun

安卓 andiod 小游戏

性能达1.5+倍!昇腾AI助力分子动力学模拟研究

华为云开发者联盟

人工智能 华为云 昇腾AI 12 月 PK 榜

仅用5个小时纯Java版实现羊了个羊,来看源码吧,还送你108套皮肤

非喵鱼

Java swing 小游戏 羊了个羊

多样化数据看板,瓴羊Quick BI满足企业经营管理需求

对不起该用户已成仙‖

企业数字化转型关键路径:构建数据驱动的管控体系

元年技术洞察

数字化转型 数据驱动 方舟平台

2022年12月中国数据库排行榜:OceanBase立足创新登榜首,华为腾讯排名上升树雄心

墨天轮

数据库 opengauss TiDB oceanbase 国产数据库

DHorse打包原理

tiandizhiguai

maven 打包工具 构建

小游戏流量变现瓶颈,新增长点是超级App?

FinFish

小游戏 小程序游戏 微信小游戏 小游戏引擎 流量变现

开发小游戏都有哪些难点?

FinFish

小游戏 小游戏开发 小程序游戏 微信小游戏

GIithub/ipq4018/ipq4028/IPQ4019/IPQ4029/ipq4018/ipq4028/QSDK/wifi5 miniPIe/support openwrt

wallysSK

IPQ4019 ipq4029 IPQ4018 IPQ4028

Guitar Pro2023吉他软件最新版本安装包下载

茶色酒

Guitar Pro Guitar Pro8

什么是BPM系统?BPM流程管理系统介绍

优秀

BPM 业务流程管理

手动测试依然很重要

FunTester

MacBook2023免费的系统电脑优化软件CleanMyMac

茶色酒

CleanMyMac CleanMyMac X CleanMyMac X2023

如何提升微服务的幸福感_安全_亦盏_InfoQ精选文章