【AICon】AI 基础设施、LLM运维、大模型训练与推理,一场会议,全方位涵盖! >>> 了解详情
写点什么

拥抱故障,你可以吗?

  • 2013-04-18
  • 本文字数:1319 字

    阅读完需:约 4 分钟

4 月 14 日,百度工程师 @肖平 _Jacky 发布了一条微博,立刻引来大量的评论和转发,阿里、腾讯、百度、新浪等公司的运维工程师纷纷发表了自己的观点,微博内容如下:

看 google,twitter 的运维经验,其中强调一点#拥抱故障 (事故)#,不知道你们的运维团队是怎样#拥抱故障#的。出现故障时,整个团队的第一反应是要兴师问罪,还是集体齐心修复问题,又如何真正做到拥抱故障呢? @南非蜘蛛 @守住每一天 @sunli1223 @幸福山大 @wilbur 井源 请赐教。

讨论大致分为了几个部分:

  1. 遇到故障时的处理方式
  2. 故障事前与事后的工作
  3. 故障与 KPI 的关系
  4. 在故障中学习成长

新浪的高级运维工程师 @守住每一天表示,在遇到故障时应该做到沉着冷静,着急容易引起更多的问题,按照故障流程处理,判断故障级别并通知相关人员,一切以保证业务为最高优先级。待故障过去之后,再来分析故障的原因:

有成熟的模板,需要写明深层的原因,与改进建议,完成时间点。其实有故障对平台来说也算半个好事吧。其实最难的地方就是原因,有些不想写实际原因,这个可能会导致问题复发的。

事后分析的重要性不言而喻, @运维老周将其提升一个高度——“故障后的深入分析做得好坏,最能体现一个运维团队的责任心意识。”支付宝 @灵魂黑客 _ 舵主的一句“要做好故障分析而不是故障责任分析,同一问题不要再犯”道出了大家的心声,故障分析会之后,就应该做到避免同类故障再度发生,19 楼的 @幸福山大为大家分享了他眼中的预案:

这是预案的处理,预案不仅仅是故障预案,预案需要充分评估系统的设计和风险,需要分析各层依赖,需要考虑各种情况下面的应对方式,需要各方资源来协作,预案也需要不断地演习验证和改进,预案做好比故障更难。

在很多公司,故障都会与绩效挂钩,谈到故障,自然也免不了谈谈 KPI。去哪儿网的孙立就表示:

我们有统一的故障处理流程。出现故障第一步是要快速修复故障,把损失降到最低。故障处理完毕,需要参与的所有人一起 review,分析原因,监控,怎么避免这类问题等等。不能容忍的是同一个故障老出。处理故障的能力可以和 kpi 挂钩。

除了故障处理能力,故障本身也会和 KPI 有关联,故障 KPI 往往直接由运维团队承担,但其实开发团队也该来分担一部分压力,大家都注重线上故障。土豆网的 @老黄就认为这是“公司根儿上的问题”,不容易轻易被改变。公司越大,大家则越难真正“拥抱故障”。

谈完 KPI 这么沉重的话题,再来谈谈成长,大家都认同故障是个学习的好机会,从一次故障中获得的经验,也许能比得上日常工作中的无数个日日夜夜,在发生故障时,越是冲在第一线的人,就越可能收获更多的东西。 @幸福山大在微博中说到:

每次故障都是宝贵的改进机会。故障分故障前、中、后三个阶段,故障前预案充足,快速发现;故障中快速定位,恢复,止损,通告等;故障后深入分析,整理,回顾,改善预案,分享等。经常碰到故障的人往往成长的更快。

@CodeBox- 腾讯为大家形象的描绘了一幅故障处理的人物速写:

默默解决故障的人、站着说话不腰疼的人、搅混水逃避责任的人、不懂装懂搞无理头的人、追究责任的人、事后诸葛亮的人,最后还有把总结邮件弄成 CCTV 表彰晚会儿的人。

亲爱的读者朋友,您会对应上述哪种人呢?您能否做到“拥抱故障”呢?不妨来分享一下您的故障处理经验吧。

2013-04-18 00:542960
用户头像

发布了 135 篇内容, 共 58.8 次阅读, 收获喜欢 43 次。

关注

评论

发布
暂无评论
发现更多内容

听 GPT 讲 client-go 源代码 (5)

fliter

哎呀,当时怎么没有想到 | 京东云技术团队

京东科技开发者

Spring事务实现原理

京东科技开发者

你的新春照小红书包了!速来定制新春头像,技术让年味更浓

小红书技术REDtech

AI AIGC AI写真

MVP实战:再造一个“支付宝”

agnostic

软件架构 MVP 架构设计实战

从API到界面:如何将淘宝/天猫商品详情返回值转化为用户友好的展示

Noah

0-overlay和underlay,这两种容器网络你分得清吗

华为云开发者联盟

容器 开发 华为云 华为云开发者联盟 云容器网络

一文搞懂设计模式—观察者模式

Java随想录

Java 设计模式

快速部署MES源码/万界星空科技开源MES

万界星空科技

开源 mes 开源mes 万界星空科技

WorkPlus助力企业实现无缝沟通与协作的IM平台

WorkPlus

教育创新:全国高校软件测试峰会聚焦技术前沿

测吧(北京)科技有限公司

测试

为企业提供个性化的企业门户解决方案,让团队高效协同

WorkPlus

总结

大肚皮狒狒

打造安全可靠的阅后即焚聊天平台,保护你的隐私

WorkPlus

vben-admin 配置代理转发

麦兜

开放签电子签章2024年第一季度目标

开放签开源电子签章

Java集合篇之深入解析LinkedList

EquatorCoco

Java 前端 开发语言 集合运算

掌上新闻随心播控,HarmonyOS SDK助力新浪新闻打造精致易用的资讯服务新体验

HMS Core

HarmonyOS

糟糕,被SimpleDateFormat坑到啦!| 京东云技术团队

京东科技开发者

开工大吉!秀一下我们假期の战绩

王中阳Go

Java Go 程序人生 面试题 Go 面试题 面经 后端 大厂

solana生态市值机器人

区块链技术

选择轻量级低代码+定制,轻松打造小程序平台

天津汇柏科技有限公司

低代码开发 小程序开发

听 GPT 讲 client-go 源代码 (6)

fliter

Java Spi是如何找到你的实现的? ——Java SPI原理与实践

骑牛上青山

Java jdk spi

教你用Rust实现Smpp协议

华为云开发者联盟

rust 开发 华为云 华为云开发者联盟 华为云短信服务

VMware Workstation 17安装教程:轻松构建虚拟机

小魏写代码

activiti工作流代码整合流程详解及源码示例-低代码平台

金陵老街

Canvas库 fabric.js可以实现哪些功能? 动图介绍

秦少卫

开源项目 Fabric.js 图片编辑器 canvas库

Java并发编程基础(上)

FunTester

拥抱故障,你可以吗?_DevOps & 平台工程_丁雪丰_InfoQ精选文章