【AICon】探索RAG 技术在实际应用中遇到的挑战及应对策略!AICon精华内容已上线73%>>> 了解详情
写点什么

Thoughtworks 技术雷达新变化:组织需及时适配 Kafka、康威定律仍然有效、ClickHouse 进入试验阶段

  • 2021-10-29
  • 本文字数:4296 字

    阅读完需:约 14 分钟

Thoughtworks技术雷达新变化:组织需及时适配Kafka、康威定律仍然有效、ClickHouse进入试验阶段

技术雷达是 Thoughtworks 每半年发布一次的技术趋势报告,它持续追踪有趣的技术是如何发展的,我们将其称之为条目。技术雷达使用象限和环对其进行分类,不同象限代表不同种类的技术,而环则代表我们对其作出的成熟度评估。


经过半年的追踪与沉淀,Thoughtworks TAB(Thoughtworks 技术咨询委员会)根据我们在多个行业中的实践案例,为技术者产出了第 25 期技术雷达。对百余个技术条目进行分析,阐述它们目前的成熟度,并提供了相应的技术选型建议。



本期主题


适配到 Kafka,还是改编自 Kafka


本期技术雷达的许多话题(其中一些并没有进入本期最终版本),都是有关我们团队正在使用工具,来适配到 Kafka,或改编自 Kafka。其中一些工具允许使用更传统的 kafka 接口(例如 ksqlDB、Confluent Kafka REST Proxy 和 Nakadi),而另一些则旨在提供额外的服务,如 GUI 前端界面和编排插件。我们猜测,存在大量这类工具的部分重要原因,来自 Kafka 某些组件深层的复杂性。组织越发需要及时改编 Kafka,来适应现有的架构和流程。一些团队最终将 Kafka 作为下一代企业级服务总线,而这正是“便利背后的陷阱”主题的一个例证。但另一些团队则使用 kafka 来全局性地访问所发生的业务事件。后者认识到,有时使用集中式的基础设施,能更容易地适应业务的复杂性。所以他们会通过仔细的设计和治理,来避免复杂性的蔓延。无论怎样,这些都表明 Kafka 会成为异步发布 / 订阅大批量消息事实上的标准。


便利背后的陷阱


下面这个软件开发的反模式,在技术雷达诞生之初就已经存在了——开发团队一般为了图方便,而在其技术生态系统的复杂环节中,引入一些不合理的行为,从而欠下长期存在的技术债务,并会引发更糟的问题。这种例子不胜枚举,包括将数据库作为集成点,使用 Kafka 作为全局编排器,以及将业务逻辑代码混杂到基础设施代码中。现代软件开发为开发人员提供了许多隐藏上述不当行为的场所,这样缺乏经验或考虑不周的团队,经常因为没有仔细考虑不当耦合的长期后果,而陷入困境。不适当的团队结构和对康威定律的偏离,也让问题雪上加霜。随着软件系统变得越来越复杂,开发团队必须勤于创建与维护经过深思熟虑的架构和设计,而不是为了图方便而做出草率的决定。通常,考虑特定方法的可测试性,会使团队降低做出有问题决策的机会。如果不加合理设计,软件会逐渐趋于复杂。精心设计,加上更为重要的持续治理,可以确保进度压力或其他众多破坏力,不会导致团队为图一时之便而做出不正确的决策。


康威定律仍然有效


许多架构师会引用康威定律——来自 1960 年代的观察:团队的沟通结构会影响到软件的设计,以证明团队组织的变化是合理的。我们对本期技术雷达中提名的几个条目的发现是,组织的团队结构在处理得当时,仍然是一个关键的推动因素,而在处理得不好时,则会变成严重的障碍。我们讨论的例子包括需要围绕平台团队进行产品思考,而不是将他们视为办公室文员;涉及效能的团队拓扑以及得到越来越多认可的团队认知负载;以及围绕程序员生产力而开发的新框架 SPACE。组织在工具上花费了大量资金,但许多组织通过关注构建软件的人,以及能让他们在特定组织内变得更高效的原因,发现了更好的生产力提升。


避免过度使用巧妙的技术


许多软件界人士都欣赏针对复杂问题的巧妙解法,但其实这些巧妙的解决方案往往都源于其自身引入的偶然复杂度。这种现象有很多例子。一种不幸但常见的实践是将用于编排或协调的代码藏到不合适的地方。例如,过度应用 Airflow、Prefect 等灵巧的工作流管理工具,以编排的方式管理复杂的数据流水线。也有很多 Nx 这样的工具用于解决单体式代码库导致的问题。团队通常不会意识到,这只是在两倍、三倍地增加偶然复杂度,而不会退后一步审视全局,想想当前的解决方案会不会比问题本身更糟糕。与其使用更多技术来解决问题,团队更应该分析根因,解决潜藏的本质复杂度并不断改进。例如数据网格就解决了关于组织及技术的基本假设,这些假设通常会导致过度复杂的数据流水线及工具。


雷达中平台相关条目变少


本期雷达中和平台相关的条目明显减少了,我们将其归因于一些行业标准的整合:大多数公司已经选择好了云供应商,他们几乎都基于 Kubernetes 和 Kafka 实现了容器编排和高性能消息系统的标准化。这是否意味着平台不再重要?或者说,我们是否正在经历一个盛衰周期?举个类似的例子,在数据库的发展史中,我们已经见证了一些飞速创新然后发展停滞的周期(如同 Stephen J. Gould 提出的“间断平衡”理论)。随着企业大规模地完成云迁移,行业或许已经进入了相对冷静期,等待着下一波颠覆式创新浪潮的到来。


部分象限亮点抢先看



交付核心四指标


采纳


为了度量软件交付的效能,越来越多的组织开始采用由 DORA 研究项目定义的交付核心四指标,即:更改前置时间、部署频率、平均修复时间( MTTR )和变更失败率。这项研究及其统计分析展示了高效能交付团队和这些指标的高度相关性,它们为衡量一个团队、甚至整个交付组织的表现提供了极佳的领先指标。


虽然我们仍是这些指标的支持者,但自从我们最早开始监控它们以来,也得到了一些教训。我们也持续看到被误导的度量方式,这些方式使用的工具仅基于持续交付( CD )流水线。在衡量稳定性指标( MTTR 和更改失败百分比)时,仅依赖 CD 流水线数据提供的信息并不足以确定部署失败对真实用户的影响。只有包含真实事故(如用户服务降级)的数据时,稳定性指标才有意义。


与其它所有指标一样,我们建议始终牢记度量这些指标的终极目的,并使用它们反复思考和学习。例如,在花费数周时间构建复杂仪表板工具之前,可以考虑定期在团队回顾会议当中进行 DORA 快速检查。这样的做法能够使团队有机会思考哪些能力应被提升以改进这些指标,这比过于详细的开箱即用工具更有效。


CBOR/JSON 双重协议


试验


尽管 CBOR 协议并不是什么新鲜事物,然而我们发现越来越多的数据交换场景都在使用它,尤其是在多种类型的应用程序需要互相通信的时候,比如服务与服务之间、浏览器与服务之间等等。Borer 是 CBOR 编码器 / 解码器的 Scala 实现,它允许互相通信的两端通过协商自由选择二进制或者传统 JSON 作为消息格式,这一点我们认为非常有用。同样的消息,既能够以普通文本在浏览器里显示,又能够表示为精简高效的二进制,这是非常实用的特性。在未来,随着物联网、边缘计算以及其他受限环境计算的逐渐兴起,我们认为 CBOR/JSON 混合协议会更加流行。



Comby


评估


本期技术雷达引入了两款使用抽象语法树表示进行搜索和替换代码的工具。它们与 jscodeshift 有相似的定位,但包含适用于多种编程语言的解析器。尽管它们有一些相似之处,但它们在某些方面还是有所不同。其中 Comby 工具的独特之处,在于其简单的命令行界面,该命令行界面是根据 awk 和 sed 等 Unix 工具的精神设计的。虽然 Unix 命令基于操作匹配文本的正则表达式,但 Comby 使用特定于编程语言结构的模式语法,并在搜索之前解析代码。这有助于开发人员在大型代码库中搜索结构模式。和 sed 一样,Comby 可以用新的结构替换它匹配的模式。这对于大型代码库进行自动批量更改,或在一组微服务存储库中进行重复更改非常有用。由于这些工具相当新,我们希望看到一系列尚未发现的创造性用途。


Vite


评估


快速反馈是优质开发体验的关键。代码更改后,得到反馈前等待的一两分钟可谓最影响开发流程的。可惜随着应用规模和复杂性的增长,流行的前端构建工具大多已经不够快了。之前我们介绍了 esbuild,它通过编译为本机语言而非 JavaScript 来实现,显著地改善了性能。Vite 基于 esbuild 构建,相比其他工具带来了重大改进。它主要由两个部分组成:一个开发服务器,基于原生 ES 模块提供了丰富的内建功能,如极快的模块热更新(HMR);以及一套构建指令,它使用 Rollup 打包你的代码。不同于大多数旧工具,Vite 依赖于 ES 模块,它不提供 shim 和 polyfills,这表示它不兼容那些不支持 ES 模块的旧浏览器。如果要支持旧浏览器,我们部分团队会在开发时使用 Vite,而生产构建时使用其他工具。



Konga


评估


用来管理 Kong API 网关 的 Konga,是一个开源 UI 平台。它曾在往期技术雷达中位于试验环。我们的团队喜欢它快捷的配置和丰富的功能,因为这可以使团队能轻松地试验和试用配置。另外它是开源的,这使团队不必担心软件使用许可成本。


GitHub Actions


试验


虽然曾在技术雷达中提出慎用的建议,但我们依然看到了用户对于 GitHub Actions 的持续热情。尽管如此,之前的建议依然有效——对于复杂工作流来说,GitHub Actions 还不算成熟的 CI/CD 工具。例如,它不能重新触发工作流中单独的一个 job,不能在 composite action 中调用其他的 action,也不支持共享库。另外,虽然 GitHub Marketplace 生态圈具备显著的优势,但让第三方的 Github Actions 访问自己的构建流水线,会带来以不安全的方式共享机密的风险(我们建议遵循 GitHub 的安全加固建议)。尽管有种种顾虑,但在 GitHub 源代码旁直接创建构建工作流的便利性,对很多团队还是有着不小的吸引力。另外,还可以使用 act 在本地运行 Github Actions。和以前一样,我们建议审慎地权衡 Github Actions 的优缺点。但我们的很多团队还是非常喜欢它的简单性。


ClickHouse


试验


ClickHouse 是用于实时分析的开源柱状在线分析处理(OLAP)数据库。它起始于 2009 年的一个实验项目。从那以后,它已经发展成一个高性能且可线性扩展的分析数据库。它兼备高效查询处理引擎和数据压缩功能,使其适合在不进行预聚合的情况下,运行交互式查询。我们已经使用过 ClickHouse,并且对它的高性能印象深刻。



lifelines


试验


lifelines 是一个用 Python 编写的进行生存分析的库。它最初是为出生和死亡事件而开发的,现在已演变成一个用来预测任何持续时间的完整的生存分析库。除了医疗使用案例(例如用来回答:这个人能活多久?),我们也已经在零售和制造业中用它来回答类似 用户对一个服务订阅了多久?或我们应该什么时候做下一个预防性的维护?这样的问题。


Three.js


试验


我们第一次提到 Three.js 是 2017 年,在雷达的“评估”环上。在这之后,这个 web 3D 渲染库得到了快速的改进和发展。随着 WebGL API 标准的改进,以及对 WebXR 的支持,Three.js 成为了一个可以用来营造沉浸式体验的工具。与此同时,浏览器对 3D 渲染和 WebXR 设备 API 的支持也得到提升,使得 web 成为一个越来越有吸引力的 3D 内容平台。尽管还有别的 3D 渲染库,我们团队还是更喜欢 Three.js,特别是和 react-three-fiber 一起用的时候,能抽象掉一些底层细节。不过,开发者仍然需要注意性能问题,有时还需要重构数据来优化渲染速度。


查看或下载完整技术雷达:https://www.thoughtworks.com/zh-cn/radar


2021-10-29 15:063398

评论 1 条评论

发布
用户头像
BSN区块链服务网络是全球性基础设施网络,有各类官方指定应用可以满足你的不同需求哦~
2021-11-03 17:41
回复
没有更多了
发现更多内容

案例分析:如何在企业飞速发展、研发团队快速增长中,快速解决研发管理和效率问题?

PingCode

产品经理 研发管理

AdGuard for Mac(广告拦截软件) 2.9.2 (1234) 中文激活版

mac

苹果mac Windows软件 AdGuard 广告拦截软件

混合专家模型 (MoE) 详解

不在线第一只蜗牛

前端 低代码 开发 框架

探索Web前端技术的新趋势与发展

不在线第一只蜗牛

互联网 前端 Web 前端技术

利用抖音商品详情API提升电商应用的市场份额

技术冰糖葫芦

NAT协议的实现方式

郑州埃文科技

PDF Expert for Mac(PDF编辑阅读转换器)v3.8.2中文激活版

iMac小白

万界星空科技数字化车间应用场景

万界星空科技

数字化 工业互联网 智能工厂 mes 数字化车间

面试官:说说MVCC的执行原理?

王磊

Java 面试

使用 extract + TextMapAdapter 实现了自定义 traceId

观测云

Trace 链路

软件测试/测试开发|Linux三剑客之——awk命令详解

霍格沃兹测试开发学社

程序员如何高效学习技术?

伤感汤姆布利柏

开源 程序员 低代码 Java技术提升程序员

海外云手机——跨境电商必备神器

Ogcloud

云服务 跨境电商

「悦数图数据库」获 2023 年度 IT168 创新解决方案奖

悦数图数据库

图数据库 图数据库实战

基于 KubeBlocks 的 PikiwiDB(原Pika) 云化下一站

小猿姐

数据库 云计算

为什么要运营海外社媒?海外云手机能发挥什么作用?

Ogcloud

短视频 社交媒体

什么是制造业的数字化车间

万界星空科技

数字化转型 数字化 MES系统 云mes 万界星空科技mes

克魔助手工具下载、注册和登录指南

雪奈椰子

IPQ9554 with QCN6224 WiFi network card: What kind of high-performance wireless network connection?

wifi6-yiyi

ipq9554 QCN6224

ERP系统与智能商品系统在供应链管理上的区别和优势在哪些方面?

第七在线

Charles for Mac(HTTP协议抓包工具)v5.0b12注册激活版

iMac小白

提升团队协作效率——SmartSVN for Mac的核心价值

iMac小白

AI 领域代币市场趋势:探索最热门投资领域的前沿动向

Footprint Analytics

区块链 AI

配置多网关/多网卡

纵歌

Angular 控制流与延迟视图揭秘

PingCode

研发

软件测试/测试开发|一篇文章带你入门HTML

霍格沃兹测试开发学社

平均性能提升50%以上,天翼云第八代升级款弹性云主机重磅上线

编程猫

中&美程序员,其实就差在这6点了

伤感汤姆布利柏

程序员 IT

软件测试/测试开发|关于bug,你需要了解的,全在这里了

霍格沃兹测试开发学社

程序员如何封装逻辑?

伤感汤姆布利柏

CSS 低代码

软件测试/测试开发|web基础知识介绍

霍格沃兹测试开发学社

Thoughtworks技术雷达新变化:组织需及时适配Kafka、康威定律仍然有效、ClickHouse进入试验阶段_架构_Thoughtworks_InfoQ精选文章