写点什么

互联网是如何把“原始人”逼成“机器人”

  • 2020-04-24
  • 本文字数:3229 字

    阅读完需:约 11 分钟

互联网是如何把“原始人”逼成“机器人”

互联网快速发展的这十多年,我们见证了企业软件架构的多次迭代和演变。初期阶段都使用 JSP+Servlet,工程师感觉代码直接写在 jsp 页面上不优雅,也不方便调试。后续发展为 JSP+Javabean,把业务代码封装到 JavaBean 里面,页面之间的跳转通过 JSP 来完成,有了真正意义上的代码逻辑封装。虽然架构简单,但是技术栈简单上手非常容易,虽原始但是很快乐,不脱发,也没有 996。Struts 的出现解决了所有的逻辑都在代码中跳转的弊端,通过配置化来解决跳转和代码的耦合。但人都是惰性动物,配置的地方太多了也感觉太麻烦,Spring 提倡减少配置或者不配置来让代码更快捷的运行,最终 Spring 接管了软件开发工程师的技术栈,同时单体应用的时代也有了一个飞跃的进步,我们进入了现代人的社会。


我们也是一个创业型公司,在创业阶段快乐的使用着 Spring 所提供的全家桶和便利性,随着业务规模和需求迭代频率的增加,单体应用也从原来的“美男子”变成“中年油腻大叔”反应迟钝了,也抗不住压力了,快也快不了,各种问题随之而来。

一、业务规模以及面临问题

流量为王、用户为王的互联网时代,随着投放广告力度的增大,以及私域流量的爆发,用户量也带来了爆炸式的增长。整个结束团队在“痛”并“快乐”的环境下一次又一次的交付着迭代。痛是因为现有的架构模式满足不了业务的需求,快乐是因为业务发展的好,大家的收益会更好。



随着研发队伍的壮大,项目以及迭代需求的增加,技术架构出现多种问题,这些问题极大的影响了交付速度和交付质量。主要包括如下:


代码冲突加剧:多个人或者一个团队一起维护一个模块,共同开发。当提交代码的时候发现大量冲突,每次提测或者发版的时候需要花大量的时间来解决冲突。随着团队规模的增大以及项目复杂程度增加,代码冲突的现象越严重;


模块耦合严重:模块之间通过接口或者 DB 相互依赖,耦合越来越严重。而且不同的人,写代码的风格不一样,代码质量也不一样,上线前需要协调多个团队,任何小模块的异常都会导致整个项目发布失败;


项目质量下降:由于所有的代码都是在一个服务里面,做一次改动,可能会牵一发而动全身,代码冲突以及耦合严重,导致测试覆盖范围不充分,经常会出现没有更改的模块在线上突然出现问题,查询后发现是由于工程师不小心做了某种改动,但是测试用例并没有覆盖;


团队效率下降:由于大量时间在处理代码冲突,消耗了研发人员大量的时间;而测试人员为了提高项目质量,不得不在每次发版之前做全方位的回归测试,本身一次小的迭代结果项目时间却很长;


性能达到瓶颈:QPS 以及达到天花板,增加硬件配置都没有办法来提升性能,导致运营同学不敢大规模的做活动,因为一旦用户量上升就会导致接口访问超时或者数据库 CPU 飙升到 100%;


运维手段乏力:当线上出现问题的时候,只能通过重启的方式来暂时缓解问题。



所以我们意识到系统架构必须要改变了,单体应用肯定不能满足当前以及后续业务的发展了,否则会被认定技术阻碍业务的发展,这种情况是大忌,有可能会被抓出去“祭天”的。但是在技术部门上方悬浮的标语“架构方案千万条,按时上线第一条”也提示着大家业务在发展,不会因为技术架构的变动而暂停前进。

二、平台架构演变过程

微服务的首要阶段是框架选型,在 Spring Cloud 和 Dubbo 的选型上团队中间出现了很多争论,经过多维度的考核最终选定 Dubbo 做微服务的框架。由于时间紧迫,团队一边做着需求迭代以及新功能上线,一边还得做新架构开发。然而,在大家辛苦半个月后第一个版本交付测试的时候却出现了问题,每个人负责的模块的代码风格不统一,框架结构不统一,其他人如果想参与到对应的模块却不清楚从哪里入手,培训成本过高,所以我们必须得造轮子,让车子跑到更快,更稳。



讨论最后一致认定,如果依赖制度和文档是不可能约束研发人员的,必须提供工具来快速的生成框架结构以及代码逻辑,完成常用的数据库以及缓存操作,程序员只需要往对应的伪代码中加入业务代码即可。本地测试通过提交 Jenkins 后自动编译,服务自动注册、自动发布 Dubbo 服务。同时,团队内部约定了新框架的调用流程,避免不规范的行为再次发生。



生成代码后的框架结构以及调用关系如下,以产品服务为例。



同时约定了系统的访问流程和服务之间的调用原则,由于服务之间通过接口调用,原则只要上发布出来的服务都可以被调用,会形成 A 调用 B,B 也有可能调用 A 的循环依赖调用。所以团队的约定如下:基础服务(basic)层主要做数据库的操作和一些简单的业务逻辑,不允许调用其他任何服务;聚合服务(back)层,允许调用基础服务层,完成复杂的业务逻辑聚合操作;不允许调用其他 back 层。



老系统逐步的往新架构来迁移,新平台的 TPS 有非常大的提升,平台运行的稳定性也有较大程度的提升。工程师的“痛”也逐步减轻,加班频率也降低了很多,惊喜的发现部分人员的发量竟然增加了不少。然而,平台是在一直演变的,没有哪一种架构能永远保持不变,随着时间的推荐,用户量还在不断的增加,同时新项目数量也逐步增加,新架构也逐步暴露出很多问题。



微服务架构提倡将单一应用程序划分成一组小的服务,服务之间通过 RPC 方式互相协调、互相配合,形成分布式调用,横向扩充服务的数量来提高整体的 QPS 量。然而在简单业务场景下并没有任何问题,当业务场景复杂的时候就会出现 A->B->C->D->E->F->G->H->I->J…N,会导致服务整体不稳定,稍微修改下业务逻辑影响一整条链路。或者上游需要同时通知多个下游的时候微服务的架构就会显得单薄乏力,所以需要使用 MQ 来缩短整个调用链或者解耦同步通知多个下游的场景。例如用户注册流程,在未使用 MQ 的时候,下游需要关注用户注册信息的时候,只有通知上游去调用接口。但是使用 MQ 后,上游只需要发送 MQ 即可,下游订阅 MQ 消费消息并处理,同时上游并不会关注下游的个数,最终整体的调用链缩短了,性能也有较大的提升。



每逢大促活动的时候,如何快速触达用户?之前的做法是先查询用户注册表,然后批量写入待发消息中心,消息中心收到请求后快速写入 DB 中,然后通过定时任务来扫描并调用短信、PUSH 接口。但是通过 MQ 可以大大提高系统的 QPS。

三、MQ 的选型

目前业内比较主流的 MQ 包括 RocketMQ、ActiveMQ、RabbitMQ、Kafka 等,关于性能、存储、社区活跃度等各方面的技术对比都相差不大,但我们发现通过简单的选型对比,很难抉择到底选择哪款 MQ 产品。因为金融行业对于数据一致性以及服务可用性的要求非常高,所以任何关于技术的选项都显得尤为重要。在做技术选型的时候,我们重点关注如下:



另外,在微服务中分布式事务是一个经典话题,如何简单、高效的完成分布式事务对于架构者来说非常重要,在众多的 MQ 中我们最终选定了商用版的 RocketMQ,对于分布式事务也能非常好的支持。



经过几次的重构后微服务中存在的问题也逐步消除,随着 MQ 的加入系统的 TPS 又有了较大的提升,同时通过本地缓存和远程缓存相结合的方式来高效实用缓存。对于非核心流程的 RPC 接口也梳理了降级和熔断的流程,目前稳定性提升的非常多。新版的微服务架构如下:



平台架构没有终点、优化没有终点,单体应用有单体应用的优势和亮点,分布式系统有分布式系统的不足,每一家互联网企业所面临的阶段不一样,所以做法也不一样。但是不要为了追求技术而使用技术,够用就好、解决问题就好。

四、总结

构建复杂的应用真的是非常困难,单体式的架构更适合轻量级的简单应用。如果你用它来开发复杂应用,那真的会很糟糕。微服务架构模式可以用来构建复杂应用,当然,这种架构模型也有自己的缺点和挑战。微服务实施过程中由于会引入各种中间件,所以会出现各种各样异常信息,对于开发人员和架构师来说都是一种挑战。目前“云”是趋势所在,如果条件允许的话,建议所有的中间件全部使用“云”上的产品,稳定性有保障、降低了维护成本。最后如果能真正成功实施微服务,无非是合理的组织架构、对于项目的认可、工具的合理化、持续集成过程。


本文转载自技术锁话公众号。


原文链接:https://mp.weixin.qq.com/s/nVqpG9c3OW0DtGQb61mHnw


2020-04-24 17:25708

评论

发布
暂无评论
发现更多内容

正则表达式.06 - 断言

insight

正则表达式 3月日更

醒一醒,讲到 ZooKeeper 的选举机制了

HelloGitHub

Java zookeeper ZooKeeper原理

Python 注释

HoneyMoose

《她说》——我们自出版的第一本书

张凯峰

马特量化交易机器人系统开发网格策略

薇電13242772558

使用 Flink 前需要知道的 10 个『陷阱』

Apache Flink

flink

Python 通过命令行安装包的时候 pip 提示错误

HoneyMoose

你的决定我做主——锚定效应

Justin

心理学 28天写作 游戏设计

问题剖析之消息队列的架构设计

Kylin

读书笔记 消息队列架构 3月日更

数据分析利器之Excel功能篇

小飞象@木木自由

Redis工具收费后新的开源已出现

happlyfox

学习 工具软件 28天写作 3月日更

第二届开发者社区【金码奖】,揭晓了!

京东科技开发者

开发者 开发者社区

有道 Kubernetes 容器API监控系统设计和实践

有道技术团队

Kubernetes 容器 分布式

法大大完成D轮9亿元融资,腾讯领投

人称T客

如何通过XMind 实践OKR 工作法

博文视点Broadview

“七大属性加持,三个全新升级组件”这个高性能利器有点厉害

华为云开发者联盟

数据库 数据湖 Clickhouse 华为云 集群

LeetCode题解:64. 最小路径和,动态规划,JavaScript,详细注释

Lee Chen

算法 大前端 LeetCode

PostgreSQL高校数据库课程改革系列活动

PostgreSQLChina

数据库 postgresql 开源 软件 开源社区

对象存储与HashData多云战略

酷克数据HashData

Python yaml 使用的包

HoneyMoose

深入分析mysql为什么不推荐使用uuid或者雪花id作为主键

xcbeyond

MySQL MySQL优化 3月日更

历史技术栈体系即将崩溃,我们如何应对?

VoltDB

数据库 5G 边缘计算 VoltDB

Everything is Serverless,从开源框架对比说起

华为云开发者联盟

云计算 开源 Serverless 云原生 无服务器

夺命剪刀脚(死锁)

鲁米

方法论 死锁

Midway Serverless 发布 2.0,一体化让前端研发再次提效

Serverless Devs

Serverless 云原生 大前端

(28DW-S8-Day19) 以太坊是什么

mtfelix

28天写作

硬核干货丨借助多容器Pod,轻松扩展K8S中的应用

Rancher

中国石油数字化转型提速 HashData助力梦想云建设

酷克数据HashData

makefile:带你了解一种常用于GNU gcc编译的工具语言

华为云开发者联盟

编译器 LiteOS makefile 语言 GNU

火爆!GitHub 标星 144k 的前后端学习路线

沉默王二

学习 后端

Superset 兼容ADB(AnalyticDB-MySQL)

data_y

Python MySQL Apache Superset

互联网是如何把“原始人”逼成“机器人”_行业深度_技术琐话_InfoQ精选文章