免费活动:声网/伴鱼/新东方技术大咖邀您参加实时音视频技术专场 了解详情
写点什么

百度举办第七届技术开放日,揭秘春晚红包技术支撑

2019 年 4 月 08 日

百度举办第七届技术开放日,揭秘春晚红包技术支撑

4 月 4 日,第七届百度技术开放日活动在京举办,在这次开放日中,百度分享了在刚刚过去的春节红包背后的技术支撑,百度高级副总裁、AI 技术平台体系(AIG)和基础技术体系(TG)总负责人王海峰到场致辞。


王海峰表示,百度于 2018 年 12 月份进行的组织架构调整中,将打造技术中台作为战略方向之一,打造技术中台的行动由王海峰直接带领,2019 春晚红包则是新成立的技术中台的第一场大考。


百度副总裁、春晚红包项目技术负责人侯振宇在分享中表示,春晚红包是在世界范围内都极为少见的极端并发场景,比双十一的流量更大更集中,在过去几年里,有几个公司挑战过这项活动,结果都遭遇了滑铁卢。百度临危受命,遭遇时间短、技术难、场景复杂、要求高四大挑战,最终,在全公司各部门通力协作,并组织 1000 多人进行专项攻关,最终平稳度过。


百度春晚红包具体的技术支撑包括:


全系统全链路的优化设计。这次春晚红包项目架构设计中,采用的是以大化小、隔离,弹性、智能、动态、自愈,同时高效控制总成本的设计理念。


春晚红包采用摇一摇、信息流、视频、语音、搜索等多样化参与形式。摇一摇红包系统采用 SET 化方案,将业务和存储层切割成多个中大型分布式系统。按用户条带化,形成多个单元化集群,对业务优化适配,可防止故障扩散,形成更可控的完整异常预案。基于 SET 化和高性能存储方案,实现同步实时读写,避免异步处理带来的延迟和不一致问题。并结合日志对帐,以保障安全性和用户体验。


Feed 信息流推荐系统采用弹性架构设计,以便高效的支撑更高的瞬间并发流量挑战。设置多级异常容忍能力,采用自适应,层级化自治架构;在资源固定,保稳定前提下,自动动态调整参数,给最好的推荐效果。


对于视频红包,采用开源的百度智能小程序方案,支持预加载,且采用多版本结合的形式,以灵活应对 CDN 巨大压力,且对视频全流程体验进化优化。


对于语音模块,专项定制高速模型+动态调度+GPU/FPGA 硬件优化。对于搜索,利用用户行为的热点特征,采用多级 Cache+漏斗控制,集群状态分级,以抵御突增的并发压力。


对登录系统面临瞬间海量用户涌入的压力,与百度云、运营商共建短信和一键登录的海量能力,包括互通登录在内的多种登录手段结合,多管齐下。采用自动感知、自动决策、自动恢复的自愈式的设计,以应对春晚极端并发和现场直播的压力。


对于春晚红包流量调度,由 BFE(百度统一前端)提供支撑。BFE 是百度早年研发的统一的七层流量转发平台。在春晚红包项目中,BFE 是 IDC 流量的统一入口,提供了流量调度、接入转发、限流、应用层防火墙等能力。


对于数据库,通过 set 化等关键技术方案达到对业务透明、且灵活扩展、故障最小化隔离能力;在流量管控上,基于流量画像能力,结合安全检测及拦截能力、多维度多层级流控能力,达到对整体服务的过载保护以及安全防护能力,能有效保障整体服务的可用性、数据的安全性,达到数据库千万级 QPS 处理能力;最后结合近百项的剧本及自动监控预案措施,进一步加固了春晚数据库服务保障能力。


服务混部与弹性供给。春晚期间,亿级别用户同时启动,上亿的用户同时与百度云服务发起建连;相较于以往简单的摇一摇,这次用户同时访问的业务覆盖搜索、推荐、语音、视频等复杂业务。两周时间内要实现数万服务器级别规模的资源快速筹备与使用方案制定。


技术方案上,重点通过百度云集群内部全混部,利用集群流转支持满足春晚活动资源需求。混部调度意味着选择合适资源,部署合适任务,并做好安全的隔离与服务保护机制。百度春晚活动服务混部调度采用 BestEffort 模式,弹性使用全百度云的集群资源。BE 模式对原正常业务实现了无侵入使用,并满足了春晚服务提前进场与快速便捷退场的需求,顺利通过了活动的多轮压测工作与最终的线上的效率与质量考验。同时围绕潜在问题场景,设计好秒级弹性伸缩的方案。


同时,百度 CDN 为了应对春晚,3 周内完成 CDN 近百个节点新建、新增数十 T 带宽储备,保障了这次历史上最大的突发量;技术方面,在核心的存储分发架构上,基于高可靠存储、链路加速、精准调度、高性能 Cache 等核心技术,中央调度系统通过实时计算的日志监控流来进行全局流控,通过分级分业务的流控对峰值进行合理调度和控制,同时保障柔性降级的安全预案,实现了春晚高峰流量的平稳承载。


大规模工程能力保障。春晚红包项目涉及数十个个产品和平台,110+种场景,280+个预案,百余团队参与,上千人协同,平均每天新增需求和任务千余个,自动化测试上万次。春晚红包项目能够高质量交付,离不开百度长期积累的技术文化和工程能力、集团统一的工程标准和研发规范、可靠高效的开发工具和协作平台。百度在内部沉淀并发布了《百度方法+白皮书》、《百度工程能力白皮书》。


另外,为了春晚红包保障,百度专门建立了临时的春晚蓝军团队,进行全要素全链路压测,模拟真实用户行为,构造大于春晚极限并发的压力洪峰,验证从供电、网络等基础设施,到上层软件架构的服务能力。


负责本次春晚总体架构设计的百度主任架构师吴永巍,将在 5 月 6 日的 QCon 北京站上分享《从高并发到极端并发:百度 Feed 与春晚红包的高可用实践》,欢迎关注。


2019 年 4 月 08 日 10:473443
用户头像

发布了 164 篇内容, 共 91.1 次阅读, 收获喜欢 381 次。

关注

评论

发布
暂无评论
发现更多内容

用eBPF/bcc分析系统性能的一个简单案例

AI乔治

Java 编程 架构 前端

在线IDE开发入门之从零实现一个在线代码编辑器

徐小夕

Java ide H5 H5制作 代码编辑器

作业-第4周总结

arcyao

架构师训练营 - 第四周课后练习

joshuamai

面试官最常用小心思:说说你的项目并发量多大?负载均衡怎么做?

小Q

Java Linux 学习 面试 并发

架构师训练营第 8 周学习总结

netspecial

极客大学架构师训练营

目标检测-darknet 之模型初始化

Dreamer

JVM真香系列:图解垃圾回收器

田维常

JVM 垃圾回收

架构师训练营第 8 周作业

netspecial

极客大学架构师训练营

第八章作业

alpha

极客大学架构师训练营

fastJson与一起堆内存溢出'血案'

AI乔治

Java 架构 JVM Fastjson 内存溢出

基于f2从零实现移动端可视化编辑器

徐小夕

Java H5 数据可视化 h5编辑器 H5制作

作业-第4周

arcyao

家谱链亮相高交会,点亮“区块链+文化”融合发展之路

WX13823153201

家谱链亮相高交会

python+requests进行get、post方法接口测试

测试人生路

Python 接口测试

《Web应用安全权威指南》.pdf

田维常

大招落地:MySQL 插入更新死锁源码分析

AI乔治

Java MySQL 编程 架构

C++的智能指针你了解吗?

良知犹存

c++

极客大学 - 架构师培训 -ch3 作业

bing5tui3

极客大学架构师训练营

如何正确的关闭线程池

Rayjun

Java 线程池

ARTS Week14

丽子

Flutter 开发从 0 到 1(二)框架与网络

吴小龙同学

flutter ios android 跨平台

你以为只是简单的排序?(一)

书旅

golang 数据结构与算法

java是如何调用native方法?hotspot源码分析必会技能

诸葛小猿

Java jdk JVM jni hotspot

架构师训练营 - 第四周学习总结

joshuamai

Flutter 开发从 0 到 1(一)需求与准备

吴小龙同学

flutter ios android 跨平台

极客大学架构师训练营第一期第八周总结

睡不着摇一摇

架构师一期

架构师训练营第 1 期 - 第 8 周课后练习

Anyou Liu

极客大学架构师训练营

极客时间 - 架构师一期 - 第八周作业

_

极客大学架构师训练营 第八周作业

架构师训练营第1期 - week08 - 作业

lucian

极客大学架构师训练营

我用 Python 找出了删除我微信的所有人并将他们自动化删除了

Python小二

Python 微信

边缘计算隔离技术的挑战与实践

边缘计算隔离技术的挑战与实践

百度举办第七届技术开放日,揭秘春晚红包技术支撑-InfoQ