写点什么

Thoughtworks 技术雷达新变化:组织需及时适配 Kafka、康威定律仍然有效、ClickHouse 进入试验阶段

  • 2021-10-29
  • 本文字数:4296 字

    阅读完需:约 14 分钟

Thoughtworks技术雷达新变化:组织需及时适配Kafka、康威定律仍然有效、ClickHouse进入试验阶段

技术雷达是 Thoughtworks 每半年发布一次的技术趋势报告,它持续追踪有趣的技术是如何发展的,我们将其称之为条目。技术雷达使用象限和环对其进行分类,不同象限代表不同种类的技术,而环则代表我们对其作出的成熟度评估。


经过半年的追踪与沉淀,Thoughtworks TAB(Thoughtworks 技术咨询委员会)根据我们在多个行业中的实践案例,为技术者产出了第 25 期技术雷达。对百余个技术条目进行分析,阐述它们目前的成熟度,并提供了相应的技术选型建议。



本期主题


适配到 Kafka,还是改编自 Kafka


本期技术雷达的许多话题(其中一些并没有进入本期最终版本),都是有关我们团队正在使用工具,来适配到 Kafka,或改编自 Kafka。其中一些工具允许使用更传统的 kafka 接口(例如 ksqlDB、Confluent Kafka REST Proxy 和 Nakadi),而另一些则旨在提供额外的服务,如 GUI 前端界面和编排插件。我们猜测,存在大量这类工具的部分重要原因,来自 Kafka 某些组件深层的复杂性。组织越发需要及时改编 Kafka,来适应现有的架构和流程。一些团队最终将 Kafka 作为下一代企业级服务总线,而这正是“便利背后的陷阱”主题的一个例证。但另一些团队则使用 kafka 来全局性地访问所发生的业务事件。后者认识到,有时使用集中式的基础设施,能更容易地适应业务的复杂性。所以他们会通过仔细的设计和治理,来避免复杂性的蔓延。无论怎样,这些都表明 Kafka 会成为异步发布 / 订阅大批量消息事实上的标准。


便利背后的陷阱


下面这个软件开发的反模式,在技术雷达诞生之初就已经存在了——开发团队一般为了图方便,而在其技术生态系统的复杂环节中,引入一些不合理的行为,从而欠下长期存在的技术债务,并会引发更糟的问题。这种例子不胜枚举,包括将数据库作为集成点,使用 Kafka 作为全局编排器,以及将业务逻辑代码混杂到基础设施代码中。现代软件开发为开发人员提供了许多隐藏上述不当行为的场所,这样缺乏经验或考虑不周的团队,经常因为没有仔细考虑不当耦合的长期后果,而陷入困境。不适当的团队结构和对康威定律的偏离,也让问题雪上加霜。随着软件系统变得越来越复杂,开发团队必须勤于创建与维护经过深思熟虑的架构和设计,而不是为了图方便而做出草率的决定。通常,考虑特定方法的可测试性,会使团队降低做出有问题决策的机会。如果不加合理设计,软件会逐渐趋于复杂。精心设计,加上更为重要的持续治理,可以确保进度压力或其他众多破坏力,不会导致团队为图一时之便而做出不正确的决策。


康威定律仍然有效


许多架构师会引用康威定律——来自 1960 年代的观察:团队的沟通结构会影响到软件的设计,以证明团队组织的变化是合理的。我们对本期技术雷达中提名的几个条目的发现是,组织的团队结构在处理得当时,仍然是一个关键的推动因素,而在处理得不好时,则会变成严重的障碍。我们讨论的例子包括需要围绕平台团队进行产品思考,而不是将他们视为办公室文员;涉及效能的团队拓扑以及得到越来越多认可的团队认知负载;以及围绕程序员生产力而开发的新框架 SPACE。组织在工具上花费了大量资金,但许多组织通过关注构建软件的人,以及能让他们在特定组织内变得更高效的原因,发现了更好的生产力提升。


避免过度使用巧妙的技术


许多软件界人士都欣赏针对复杂问题的巧妙解法,但其实这些巧妙的解决方案往往都源于其自身引入的偶然复杂度。这种现象有很多例子。一种不幸但常见的实践是将用于编排或协调的代码藏到不合适的地方。例如,过度应用 Airflow、Prefect 等灵巧的工作流管理工具,以编排的方式管理复杂的数据流水线。也有很多 Nx 这样的工具用于解决单体式代码库导致的问题。团队通常不会意识到,这只是在两倍、三倍地增加偶然复杂度,而不会退后一步审视全局,想想当前的解决方案会不会比问题本身更糟糕。与其使用更多技术来解决问题,团队更应该分析根因,解决潜藏的本质复杂度并不断改进。例如数据网格就解决了关于组织及技术的基本假设,这些假设通常会导致过度复杂的数据流水线及工具。


雷达中平台相关条目变少


本期雷达中和平台相关的条目明显减少了,我们将其归因于一些行业标准的整合:大多数公司已经选择好了云供应商,他们几乎都基于 Kubernetes 和 Kafka 实现了容器编排和高性能消息系统的标准化。这是否意味着平台不再重要?或者说,我们是否正在经历一个盛衰周期?举个类似的例子,在数据库的发展史中,我们已经见证了一些飞速创新然后发展停滞的周期(如同 Stephen J. Gould 提出的“间断平衡”理论)。随着企业大规模地完成云迁移,行业或许已经进入了相对冷静期,等待着下一波颠覆式创新浪潮的到来。


部分象限亮点抢先看



交付核心四指标


采纳


为了度量软件交付的效能,越来越多的组织开始采用由 DORA 研究项目定义的交付核心四指标,即:更改前置时间、部署频率、平均修复时间( MTTR )和变更失败率。这项研究及其统计分析展示了高效能交付团队和这些指标的高度相关性,它们为衡量一个团队、甚至整个交付组织的表现提供了极佳的领先指标。


虽然我们仍是这些指标的支持者,但自从我们最早开始监控它们以来,也得到了一些教训。我们也持续看到被误导的度量方式,这些方式使用的工具仅基于持续交付( CD )流水线。在衡量稳定性指标( MTTR 和更改失败百分比)时,仅依赖 CD 流水线数据提供的信息并不足以确定部署失败对真实用户的影响。只有包含真实事故(如用户服务降级)的数据时,稳定性指标才有意义。


与其它所有指标一样,我们建议始终牢记度量这些指标的终极目的,并使用它们反复思考和学习。例如,在花费数周时间构建复杂仪表板工具之前,可以考虑定期在团队回顾会议当中进行 DORA 快速检查。这样的做法能够使团队有机会思考哪些能力应被提升以改进这些指标,这比过于详细的开箱即用工具更有效。


CBOR/JSON 双重协议


试验


尽管 CBOR 协议并不是什么新鲜事物,然而我们发现越来越多的数据交换场景都在使用它,尤其是在多种类型的应用程序需要互相通信的时候,比如服务与服务之间、浏览器与服务之间等等。Borer 是 CBOR 编码器 / 解码器的 Scala 实现,它允许互相通信的两端通过协商自由选择二进制或者传统 JSON 作为消息格式,这一点我们认为非常有用。同样的消息,既能够以普通文本在浏览器里显示,又能够表示为精简高效的二进制,这是非常实用的特性。在未来,随着物联网、边缘计算以及其他受限环境计算的逐渐兴起,我们认为 CBOR/JSON 混合协议会更加流行。



Comby


评估


本期技术雷达引入了两款使用抽象语法树表示进行搜索和替换代码的工具。它们与 jscodeshift 有相似的定位,但包含适用于多种编程语言的解析器。尽管它们有一些相似之处,但它们在某些方面还是有所不同。其中 Comby 工具的独特之处,在于其简单的命令行界面,该命令行界面是根据 awk 和 sed 等 Unix 工具的精神设计的。虽然 Unix 命令基于操作匹配文本的正则表达式,但 Comby 使用特定于编程语言结构的模式语法,并在搜索之前解析代码。这有助于开发人员在大型代码库中搜索结构模式。和 sed 一样,Comby 可以用新的结构替换它匹配的模式。这对于大型代码库进行自动批量更改,或在一组微服务存储库中进行重复更改非常有用。由于这些工具相当新,我们希望看到一系列尚未发现的创造性用途。


Vite


评估


快速反馈是优质开发体验的关键。代码更改后,得到反馈前等待的一两分钟可谓最影响开发流程的。可惜随着应用规模和复杂性的增长,流行的前端构建工具大多已经不够快了。之前我们介绍了 esbuild,它通过编译为本机语言而非 JavaScript 来实现,显著地改善了性能。Vite 基于 esbuild 构建,相比其他工具带来了重大改进。它主要由两个部分组成:一个开发服务器,基于原生 ES 模块提供了丰富的内建功能,如极快的模块热更新(HMR);以及一套构建指令,它使用 Rollup 打包你的代码。不同于大多数旧工具,Vite 依赖于 ES 模块,它不提供 shim 和 polyfills,这表示它不兼容那些不支持 ES 模块的旧浏览器。如果要支持旧浏览器,我们部分团队会在开发时使用 Vite,而生产构建时使用其他工具。



Konga


评估


用来管理 Kong API 网关 的 Konga,是一个开源 UI 平台。它曾在往期技术雷达中位于试验环。我们的团队喜欢它快捷的配置和丰富的功能,因为这可以使团队能轻松地试验和试用配置。另外它是开源的,这使团队不必担心软件使用许可成本。


GitHub Actions


试验


虽然曾在技术雷达中提出慎用的建议,但我们依然看到了用户对于 GitHub Actions 的持续热情。尽管如此,之前的建议依然有效——对于复杂工作流来说,GitHub Actions 还不算成熟的 CI/CD 工具。例如,它不能重新触发工作流中单独的一个 job,不能在 composite action 中调用其他的 action,也不支持共享库。另外,虽然 GitHub Marketplace 生态圈具备显著的优势,但让第三方的 Github Actions 访问自己的构建流水线,会带来以不安全的方式共享机密的风险(我们建议遵循 GitHub 的安全加固建议)。尽管有种种顾虑,但在 GitHub 源代码旁直接创建构建工作流的便利性,对很多团队还是有着不小的吸引力。另外,还可以使用 act 在本地运行 Github Actions。和以前一样,我们建议审慎地权衡 Github Actions 的优缺点。但我们的很多团队还是非常喜欢它的简单性。


ClickHouse


试验


ClickHouse 是用于实时分析的开源柱状在线分析处理(OLAP)数据库。它起始于 2009 年的一个实验项目。从那以后,它已经发展成一个高性能且可线性扩展的分析数据库。它兼备高效查询处理引擎和数据压缩功能,使其适合在不进行预聚合的情况下,运行交互式查询。我们已经使用过 ClickHouse,并且对它的高性能印象深刻。



lifelines


试验


lifelines 是一个用 Python 编写的进行生存分析的库。它最初是为出生和死亡事件而开发的,现在已演变成一个用来预测任何持续时间的完整的生存分析库。除了医疗使用案例(例如用来回答:这个人能活多久?),我们也已经在零售和制造业中用它来回答类似 用户对一个服务订阅了多久?或我们应该什么时候做下一个预防性的维护?这样的问题。


Three.js


试验


我们第一次提到 Three.js 是 2017 年,在雷达的“评估”环上。在这之后,这个 web 3D 渲染库得到了快速的改进和发展。随着 WebGL API 标准的改进,以及对 WebXR 的支持,Three.js 成为了一个可以用来营造沉浸式体验的工具。与此同时,浏览器对 3D 渲染和 WebXR 设备 API 的支持也得到提升,使得 web 成为一个越来越有吸引力的 3D 内容平台。尽管还有别的 3D 渲染库,我们团队还是更喜欢 Three.js,特别是和 react-three-fiber 一起用的时候,能抽象掉一些底层细节。不过,开发者仍然需要注意性能问题,有时还需要重构数据来优化渲染速度。


查看或下载完整技术雷达:https://www.thoughtworks.com/zh-cn/radar


2021-10-29 15:063893

评论 1 条评论

发布
用户头像
BSN区块链服务网络是全球性基础设施网络,有各类官方指定应用可以满足你的不同需求哦~
2021-11-03 17:41
回复
没有更多了
发现更多内容

新能力提升全面预算管理效率和效力

用友BIP

全面预算

TiDB v7.1.0 资源管控功能是如何降低运维难度和成本-实现集群资源最大化?

TiDB 社区干货传送门

实践案例 版本测评 性能测评 应用适配 7.x 实践

tidb之旅——tidb架构选择

TiDB 社区干货传送门

迁移 安装 & 部署 6.x 实践

干货满满!阿里、京东、网易等多位专家力荐的高并发编程速成笔记

小小怪下士

Java 编程 程序员 高并发

快速提效,便捷易用 | 嘉为蓝鲸数字化运营中心全方位体验升级

嘉为蓝鲸

运维 IT weops

数据库运维实操优质文章分享(含Oracle、MySQL等) | 2023年6月刊

墨天轮

MySQL 数据库 oracle postgresql 国产数据库

索引加速功能真能提升10倍吗?--TiDB V6.1.0-V7.1.0建索引速度对比

TiDB 社区干货传送门

版本测评 性能测评 7.x 实践

tidb之旅——资源管控

TiDB 社区干货传送门

新版本/特性解读 7.x 实践

云数据库是杀猪盘么,去掉中间商赚差价,aws数据库性能提升 10 倍!价格便宜十倍。

TiDB 社区干货传送门

数据库架构设计 7.x 实践

gRPC 接口调试利器,让你成为高效开发者

Apifox

程序员 gRPC RPC 开发 RPC 协议实现原理

华为开发者大会:软件开发小白的华为云云上初体验

华为云PaaS服务小智

云计算 软件开发 华为云 华为开发者大会2023

阿里云瑶池数据库出席2023可信数据库发展大会,PolarDB荣获多项评测证书

科技热闻

tidb之旅——dm工具篇

TiDB 社区干货传送门

迁移 安装 & 部署 6.x 实践

TiDB 7.1 资源管控验证测试

TiDB 社区干货传送门

版本测评 新版本/特性解读 7.x 实践

推荐!十个平台工程工具助力开发人员提升效率和体验

SEAL安全

成都堡垒机采购选择哪家好?具体功能有哪些?具体多少钱?

行云管家

网络安全 信息安全 成都 堡垒机

TiKV集群断电(灾难)恢复过程记录

TiDB 社区干货传送门

6.x 实践

tidb之旅——生成列

TiDB 社区干货传送门

新版本/特性解读 7.x 实践

《2022-2023年中国大数据市场研究年度报告》正式发布,腾讯云位列领导者行列

极客天地

科研类项目核算的“法、术、器”(一)

用友BIP

项目云

活动预告|7月29日 Streaming Lakehouse Meetup·北京站

Apache Flink

大数据 flink 实时计算 信息推送

亿级日活业务稳如磐石 华为云发布性能测试服务CodeArts PerfTest

华为云PaaS服务小智

云计算 软件开发 性能测试 华为云

简单三步完成离线升级TIDB v7.1(服务器无互联网环境)

TiDB 社区干货传送门

版本升级 7.x 实践

架构成长之路 | 图解分布式共识算法 Paxos 议会协议

阿里技术

分布式 PAXOS Paxos 议会协议

这10个强大的CSS属性,每个前端都要懂

伤感汤姆布利柏

TiDB v7.1.0 跨业务系统多租户解决方案

TiDB 社区干货传送门

实践案例 新版本/特性解读 应用适配 HTAP 场景实践 7.x 实践

aws上采用tidb和原生使用aws rds价格的比较。兼数据分析性能的测试

TiDB 社区干货传送门

TiDB 底层架构 性能测评 7.x 实践

# 文盘Rust -- FFI 浅尝

TiDB 社区干货传送门

开发语言

TiDB 7.1.0 LTS 特性解读 | 资源管控 (Resource Control) 应该知道的 6 件事

TiDB 社区干货传送门

版本测评 新版本/特性解读 7.x 实践

Thoughtworks技术雷达新变化:组织需及时适配Kafka、康威定律仍然有效、ClickHouse进入试验阶段_架构_Thoughtworks_InfoQ精选文章