【AICon】AI 大模型超全落地场景&最佳实践 了解详情
写点什么

打造工业级推荐系统(三):推荐系统的工程实现与架构优化

  • 2019-04-26
  • 本文字数:12326 字

    阅读完需:约 40 分钟

打造工业级推荐系统(三):推荐系统的工程实现与架构优化

AI 大模型超全落地场景&金融应用实践,8 月 16 - 19 日 FCon x AICon 大会联诀来袭、干货翻倍!

导读:个性化推荐系统,简单来说就是根据每个人的偏好推荐他喜欢的物品。互联网发展到现在,推荐系统已经无处不在,在各行各业都得到普遍都应用。亚马逊号称 40% 的收入是来自个性化推荐系统的,淘宝的个性化推荐系统也带来非常大的收益,新闻媒体的个性化推荐系统典型的是今日头条,直播平台给用户推荐喜欢的主播,金融网站给用户推荐需要的理财产品,社交网络给用户推荐大 V 或者其他朋友……越来越多的公司将推荐系统作为产品的标配。


大家接触推荐系统的概率会越来越大。作为程序员,了解推荐系统也越来越必要,甚至可以主动选择“推荐系统算法工程师”的相关职位。那大家一定会关心推荐算法工程师需要哪些知识储备,以及作为一个推荐算法工程师,未来的发展道路怎样?


本文是作者计划的一系列文章中的一篇。作者在上篇文章《推荐系统介绍》中简单对推荐系统做了一个较全面的介绍,相信大家对推荐系统有了初步的了解。本篇文章作者会结合多年推荐系统开发的实践经验粗略介绍推荐系统的工程实现,简要说明要将推荐系统很好地落地到产品中需要考虑哪些问题及相应的思路、策略和建议,其中有大量关于设计哲学的思考,希望对从事推荐算法工作或准备入行推荐系统的读者有所帮助。为了描述方便,本文主要基于视频推荐来讲解,作者这几年也一直在从事视频推荐系统开发的工作,其他行业的推荐系统工程实现思路类似。本篇文章主要从整体上来介绍推荐系统工程实现,以后发布的系列文章会逐步介绍工程实现的各个细节实现原理与策略。

推荐系统与大数据

推荐系统是帮助人们解决信息获取问题的有效工具,对互联网产品而也用户数和信息总量通常都是巨大的,每天收集到的用户在产品上的交互行为也是海量的,这些大量的数据收集处理就涉及到大数据相关技术,所以推荐系统与大数据有天然的联系,要落地推荐系统往往需要企业具备一套完善的大数据分析平台。


推荐系统与大数据平台的依赖关系如下图。大数据平台包含数据中心和计算中心两大抽象,数据中心为推荐系统提供数据存储,包括训练推荐模型需要的数据,依赖的其他数据,以及推荐结果,而计算中心提供算力支持,支撑数据预处理、模型训练、模型推断(即基于学习到的模型,为每个用户推荐)等。



推荐系统在整个大数据平台的定位


大数据与人工智能具有千丝万缕的关系,互联网公司一般会构建自己的大数据与人工智能团队,构建大数据基础平台,基于大数据平台构建上层业务,包括商业智能(BI),推荐系统及其他人工智能业务,下图是典型的基于开源技术的视频互联网公司大数据与人工智能业务及相关的底层大数据支撑技术。



大数据支撑下的人工智能技术体系(DS:数据源,DC:大数据中心,BIZ:上层业务)


在产品中整合推荐系统是一个系统工程,怎么让推荐系统在产品中产生价值,真正帮助到用户,提升用户体验的同时为平台方提供更大的收益是一件有挑战的事情,整个推荐系统的业务流可以用下图来说明,它是一个不断迭代优化的过程,是一个闭环系统。



有了上面这些介绍,相信读者对大数据与推荐系统的关系有了一个比较清楚的了解,下面会着重讲解推荐系统工程实现相关的知识。

推荐系统业务流及核心模块

先介绍一下构建一套完善的推荐系统涉及到的主要业务流程及核心模块,具体流程如下图,下面分别介绍各个模块:



  1. 数据收集模块


构建推荐模型需要收集很多数据,包括用户行为数据,用户相关数据及推荐“标的物”相关数据。如果将推荐系统比喻为厨师做菜,那么这些数据是构建推荐算法模型的原材料。巧妇难为无米之炊,要构建好的推荐算法收集到足够多的有价值的数据是非常关键和重要的。


  1. ETL 模块


收集到的原始数据一般是非结构化的,ETL 模块的主要目的是从收集到的原始数据中提取关键字段(拿视频行业来说,用户 id,时间,播放的节目,播放时长,播放路径等都是关键字段),将数据转化为结构化的数据存储到数据仓库中。同时根据一定的规则或策略过滤掉脏数据,保证数据质量的高标准。在互联网公司中,用户行为数据跟用户规模呈正比,所以当用户规模很大时数据量非常大,一般采用 HDFS、Hive、HBase 等大数据分布式存储系统来存储数据。


用户相关数据及推荐“标的物”相关数据一般是结构化的数据,一般是通过后台管理模块将数据存储到 MySQL、ProgreSQL 等关系型数据库中。


  1. 特征工程模块


推荐系统采用各种机器学习算法来学习用户偏好,并基于用户偏好来为用户推荐“标的物”,而这些推荐算法用于训练的数据是可以“被数学所描述”的,一般是向量的形式,其中向量的每一个分量/维度就是一个特征,所以特征工程的目的就是将推荐算法需要的,以及上述 ETL 后的数据转换为推荐算法可以学习的特征。


当然,不是所有推荐算法都需要特征工程,比如,如果要做排行榜相关的热门推荐,只需要对数据做统计排序处理就可以了。最常用的基于物品的推荐和基于用户的推荐也只用到用户 id,标的物 id,用户对标的物的评分三个维度,也谈不上特征工程。像 logistic 回归等复杂一些的机器学习算法需要做特征工程,一般基于模型的推荐算法都需要特征工程。


特征工程是一个比较复杂的过程,要做好需要很多技巧、智慧、行业知识、经验等,在这篇文章中作者不作详细介绍。


  1. 推荐算法模块


推荐算法模块是整个推荐系统的核心之一,该模块的核心是根据具体业务及可利用的所有数据设计一套精准、易于工程实现、可以处理大规模数据的(分布式)机器学习算法,进而可以预测用户的兴趣偏好。这里一般涉及到模型训练、预测两个核心操作。下面用一个图简单描述这两个过程,这也是机器学习的通用流程。



好的推荐工程实现,希望尽量将这两个过程解耦合,做到通用,方便用到各种推荐业务中,后面在推荐系统架构设计一节中会详细讲解具体的设计思路和哲学。


  1. 推荐结果存储模块


作者在最开始做推荐系统时由于没有经验,开始将推荐结果存储在 Mysql 中,当时遇到最大的问题是每天更新用户的推荐时,需要先找到用户存储的位置,再做替换,操作复杂,并且当用户规模大时,高并发读写,大数据量存储,Mysql 也扛不住,现在最好的方式是采用 CouchBase,Redis 等可以横向扩容的数据库,可以完全避开 MySQL 的缺点。


在计算机工程中有“空间换时间”的说法,对于推荐系统来说,就是先计算好每个用户的推荐,将推荐结果存储下来,通过预先将推荐结果存下来,可以更快的为用户提供推荐服务,提升用户体验。由于推荐系统会为每个用户生成推荐结果,并且每天都会(基本全量)更新用户的推荐结果,一般采用 NoSql 数据库来存储,并且要求数据库可拓展,高可用,支持大规模并发读写。


推荐结果一般不是直接在模型推断阶段直接写入推荐存储数据库,较好的方式是通过一个数据管道(如 kafka)来解耦,让整个系统更加模块化,易于维护拓展。


  1. Web 服务模块


该模块是推荐系统直接服务用户的模块,该模块的主要作用是当用户在 UI 上触达推荐系统时,触发推荐接口,为用户提供个性化推荐,该模块的稳定性、响应时长直接影响到用户体验。跟上面的推荐存储模块类似,Web 服务模块也需要支持高并发访问、水平可拓展、亚秒级(一般 200ms 之内)响应延迟。


下图是作者公司相似影片推荐算法的一个简化版业务流向图,供大家与上面的模块对照参考:



相似影片业务流

推荐系统支撑模块

推荐系统想要很好的稳定的发挥价值,需要一些支撑业务来辅助,这些支撑业务虽然不是推荐系统的核心模块,但却是推荐业务稳定运行必不可少的部分,主要包括如下 4 大支撑模块,下面分别简述各个模块的作用和价值。



推荐系统核心支撑模块


  1. 评估模块


推荐评估模块的主要作用是评估整个推荐系统的质量及价值产出。一般来说可以从两个维度来评估。


  • 离线评估:主要是评估训练好的推荐模型的“质量”,模型在上线服务之前需要评估该模型的准确度,一般是将训练数据分为训练集和测试集,训练集用于训练模型,而测试集用来评估模型的预测误差。

  • 在线评估:模型上线提供推荐服务过程中来评估一些真实的转化指标,比如转化率、购买率、点击率、播放时长等。线上评估一般会结合 AB 测试,先放一部分量,如果效果达到期望再逐步拓展到所有用户,避免模型线上效果不好严重影响用户体验和收益指标等。


  1. 调度模块


一个推荐业务要产生价值,所有依赖的任务都要正常运行。推荐业务可以抽象为有向无环图(第六节推荐系统架构设计会讲到将推荐业务抽象为有向无环图),因此需要按照该有向图的依赖关系依次执行每个任务,这些任务的依赖关系就需要借助合适的调度系统(比如 Azkaban)来实现,早期我们采用 Crontab 来调度,当任务量多的时候就不那么方便了,Crontab 也无法很好解决任务依赖关系。


  1. 监控模块


监控模块解决的是当推荐业务(依赖的)任务由于各种原因调度失败时可以及时告警,通过邮件或者短信通知运维或者业务的维护者,及时发现问题,或者可以在后台自动拉起服务。同时可以对服务的各种其他状态做监控,比如文件大小、状态变量的值、日期时间等与业务正常执行相关的状态变量,不正常时及时发现问题。


  1. 审查模块


审查模块是对推荐系统结果数据格式的正确性、有效性进行检查,避免错误产生,一般的处理策略是根据业务定义一些审查用例(类似测试用例),在推荐任务执行前或者执行阶段对运算过程做 check,发现问题及时告警。举两个例子,如果你的 DAU 是 100w,每天大约要为这么多用户生成个性化推荐结果,但是由于一些开发错误,只计算了 20w 用户的个性化推荐,从监控是无法发现问题的,如果增加推荐的用户数量跟 DAU 的比例控制在 1 附近这个审查项,就可以避免出现问题;在推荐结果插入数据库过程中,开发人员升级了新的算法,不小心将数据格式写错(如 Json 格式不合法),如果不加审查,会导致最终插入的数据格式错误,导致接口返回错误或者挂掉,对用户体验有极大负面影响。

推荐系统范式

推荐系统的目的是为用户推荐可能喜欢的标的物,这个过程涉及到用户、标的物两个重要要素,我们可以根据这两个要素的不同组合产生不同的推荐形态,即所谓的不同“范式(paradigm)”(数学专业的同学不难理解范式,如果不好理解可以将范式看成具备某种相似性质的对象的集合),根据我自己构建推荐系统的经验可以将推荐系统总结为如下 5 种范式,这 5 中范式可以应用到产品的各种推荐场景中,后面会拿视频 APP 举例说明具体的应用场景。


  • 范式 1:完全个性化范式:为每个用户提供个性化的内容,每个用户推荐结果都不同;



常见的猜你喜欢就是这类推荐,可以用于进入首页的综合类猜你喜欢推荐,进入各个频道(如电影)页的猜你喜欢推荐。下图是电视猫首页兴趣推荐,就是为每个用户提供不一样的个性化推荐;


  • 范式 2:群组个性化范式:首先将用户分组(根据用户的兴趣,将兴趣相似的归为一组),每组用户提供一个个性化的推荐列表,同一组的用户推荐列表一样,不同组的用户推荐列表不一样;



这里举一个在作者公司利用范式 2 做推荐的例子,我们在频道页三级列表中,会根据用户的兴趣对列表做个性化重排序,让与用户更匹配的节目放到前面,提升节目转化,但是在实现时,为了节省存储空间,先对用户聚类,同一类用户兴趣相似,对这一类用户,列表的排序是一样的,但是不同类的用户的列表是完全不一样的。见下图的战争风云 tab,右边展示的节目集合总量不变,只是在不同组的用户看到的排序不一样,排序是根据与用户的兴趣匹配度高低来降序排列的。


  • 范式 3:非个性化范式:为所有用户提供完全一样的推荐;


比如各类排行榜业务,既可以作为首页上的一个独立的推荐模块,方便用户发现新热内容,也可以作为猜你喜欢推荐新用户冷启动的默认推荐,下图是搜索模块当用户未输入搜索关键词时给出的热门内容,也是采用该范式的例子;



  • 范式 4:标的物关联标的物范式:为每个标的物关联一组标的物,作为用户在访问标的物详情页时的推荐,每个用户都是相同的标的物;



当用户浏览一个电影时,可以通过关联相似的电影,为用户提供更多的选择空间(下图就是电视猫电影详情页关联的相似影片);还可以当用户播放一个节目退出时,推荐用户可能还喜欢的其他节目;针对短视频,可以将相似节目做成连播推荐列表,用户播放当前节目直接连播相似节目,提升节目分发和用户体验;


  • 范式 5:笛卡尔积范式:每个用户跟每个标的物的组合产生的推荐都不相同,不同用户在同一个视频的详情页看到的推荐结果都不一样;


该范式跟 4 类似,只不过不同用户在同一个节目得到的关联节目不一样,会结合用户的兴趣,给出更匹配用户兴趣的关联节目;


由于每个用户跟每个标的物的组合推荐结果都不一样,往往用户数和标的物的数量都是巨大的,没有足够的资源事先将所有的组合的推荐结果先计算存储下来,一般是在用户触发推荐时实时计算推荐结果呈现给用户,计算过程也要尽量简单,在亚秒级就可以算完,比如利用用户的播放历史,过滤掉用户已经看过的关联节目;


下面给一个简单的图示来说明这 5 种范式,让读者有一个直观形象的理解。



推荐算法的 5 种范式


总之,推荐系统不是孤立存在的对象,它一定是要整合到具体的业务中,在合适的产品交互流程中触达用户,通过用户触发推荐行为。所以,推荐系统要应用到产品中需要嵌入到用户使用产品的各个流程(页面)中。当用户访问首页时,可以通过综合推荐(范式 1)来给用户提供个性化推荐内容,当用户访问详情页,可以通过相似影片(范式 4)提供相似标的物推荐,当用户进入搜索页尚未输入搜索内容时,可以通过热门推荐给用户推送新热节目(范式 3)。这样处处都有推荐,才会使产品显得更加智能。所有这些产品形态基本都可以用上面介绍的 5 种范式来概括。

推荐系统架构设计

作者在早期构建推荐系统时由于经验不足,而业务又比较多,当时的策略是每个算法工程师负责几个推荐业务(一个推荐业务对应一个推荐产品形态),由于每个人只对自己的业务负责,所以开发基本是独立的,每个人只关注自己的算法实现,虽然用到的算法是一样的,但前期在开发过程中没有将通用的模块抽象出来,每个开发人员从 ETL、算法训练、预测到插入数据库都是独立的,并且每个人在实现过程中整合了自己的一些优化逻辑,一竿子插到底,导致资源(计算资源,存储资源,人力资源)利用率不高,开发效率低下。经过几年的摸索,作者在团队内部构建了一套通用的算法组件 Doraemon 框架(就像机器猫的小口袋,有很多工具供大家方便构建推荐业务),尽量做到资源的节省,大大提升了开发效率。开发过程的蜕变,可以用下面的图示简单说明,从中读者也可以对 Doraemon 架构落地前后的推荐业务开发变化有个大致的了解。



Doraemon 框架前后开发方式对比


作者构建 Doraemon 框架的初衷是希望构建推荐业务就像搭积木一样(见下图),可以快速构建一套算法体系,快速上线业务。算法或者处理逻辑就像一块一块的积木,而算法依赖的数据(及数据结构)就是不同积木之间是否可以衔接的“接口”。


本着上面朴素的思想,下面作者详细说说构建这套体系的思路和策略。


为了支撑更多类型的推荐业务,减少系统的耦合,便于发现和追踪问题,节省人力成本,方便算法快速上线和迭代,需要设计比较好的推荐系统架构,而好的推荐系统架构应该具备 6 大原则:通用性,模块化,组件化,一致性,可拓展性,抽象性。下面分别对上述 6 大原则做简要说明,阐述清楚它们的目标和意义。


  1. 通用性:所谓通用,就是该架构具备包容的能力,业务上的任何推荐产品都可以用这一套架构来涵盖和实现。

  2. 模块化:模块化的目的在于将一个业务按照其功能做拆分,分成相互独立的模块,以便于每个模块只包含与其功能相关的内容,模块之间通过一致性的协议调用。将一个大的系统模块化之后,每个模块都可以被高度复用。模块化的目的是为了重用,模块化后可以方便重复使用和插拨到不同平台,不同推荐业务逻辑中。

  3. 组件化:组件化就是基于可重用的目的,将一个大的软件系统拆分成多个独立的组件,主要目的就是减少耦合。一个独立的组件可以是一个软件包、web 服务、web 资源或者是封装了一些函数的模块。这样,独立出来的组件可以单独维护和升级而不会影响到其他的组件。组件化的目的是为了解耦,把系统拆分成多个组件,分离组件边界和责任,便于独立升级和维护,组件可插拔,通过组件的拼接和增减提供更丰富的能力。


组件化和模块化比较类似,目标分别是为了更好的解耦和重用,就像搭积木一样构建复杂系统。


  1. 一致性:指模块的数据输入输出采用统一的数据交互协议,做到整个系统一致。

  2. 可拓展性:系统具备支撑大数据量,大并发的能力,并且容易在该系统中增添新的模块,提供更丰富的能力,让业务更加完备自治。

  3. 抽象性:将相似的操作和流程抽象为统一的操作,主要目的是简化系统设计,让系统更加简洁通用。针对推荐系统采用数学上的概念抽象如下:


操作/算法抽象:我们先对数据处理或者算法做一个抽象,将利用输入数据通过“操作”得到输出的的过程抽象为“算子”,按照这个抽象,ETL、机器学习训练模型、机器学习推断都是算子。其中输入输出可以是数据或者模型。



算法或者操作的算子抽象


业务抽象:任何一个推荐业务可以抽象为由数据/模型为节点,算子为边的“有向无环图”。下图是深度学习的算法处理流程,整个算法实现就是一个有向无环图。


下图是我们做的一个利用深度学习做电影猜你喜欢的推荐业务流程,整个流程是由各个算子通过依赖关系链接起来的,就像一个有向无环图。



推荐业务的有向无环图抽象


根据 Doraemon 系统的设计哲学及上面描述的推荐系统的核心模块,结合业内,一般将推荐系统分为召回(将用户可能会喜欢的标的物取出来)和排序(将取出的标的物按照用户喜好程度降序排列,最喜欢的排在前面)两个过程,推荐系统可以根据如下方式进行设计。


  1. 基础组件:业务枚举类型、常量、路径处理、配置文件解析等。

  2. 数据读入组件:包括从 HDFS、数据仓库、HBase、Mysql 等相关数据库读取数据的操作,将这些操作封装成通用操作,方便所有业务线统一调用;

  3. 数据流出组件:类似数据读入组件,将推荐结果插入最终存储(如 Redis,CouchBase 等)的操作封装成算子,我们一般是将推荐结果流入 Kafka,利用 Kafka 作为数据管道,最终再从 Kafka 将数据插入推荐存储服务器;

  4. 算法组件:这个是整个推荐系统的核心。在工程实现过程中,我们将推荐系统中涉及到的算子抽象为 3 个接口, AlgParameters(算子依赖的参数集合)、 Algorithm/AlgorithmEx (具体的算法实现,如果算法依赖模型,采用 AlgorithmEx,比如利用模型做推断)、Model(算法训练后的模型,包括模型的导入、导出等接口)。所有的算子实现实现上面 3 个接口的抽象方法。下图给出了这 3 个接口包含的具体方法以及 Spark mllib 中的矩阵分解基于该抽象的实现。



在我们的业务实践中,发现上述抽象很合理,基本推荐业务涉及到的所有算子(ETL、模型训练、模型推荐、排序框架、数据过滤,具体业务逻辑等)都可以采用该方式很好的抽象。


  1. 评估组件:主要是包括算法训练过程的离线评估等;

  2. 其他支撑组件:比如 AB 测试等,都可以整合到 Doraemon 框架中;


这里要特别说一下数据(模型),数据作为算子的输入输出,一定要定义严格的范式(具备固定的数据结构,比如矩阵分解训练依赖的数据有三列,一列用户 id,一列物品 id,一列用户对物品的评分),Spark 的 DataFrame 可以很好的支撑各种数据类型。数据格式定义好后,在算子读入或者输出时,可以对类型做校验,可以很好的避免很多由于业务开发疏忽导致的问题。这有点类似强类型编程语言,在编译过程(类似算子)可以检查出类型错误。


我们将上面的 6 类组件封装成一个 Doraemon 的 lib 库,供具体的推荐业务使用。


基于大数据的数据中心和计算中心的抽象,我们将所有推荐业务中涉及到的数据和算子分别放入数据仓库和算子仓库,开发推荐业务时根据推荐算法的业务流程从这两个仓库中拿出对应的“积木”来组装业务,参考下图。



基于 Doraemon 框架的算法组件化开发方式


基于上面的设计原则,推荐业务可以抽象为“数据流”和“算子流”两个流的相互交织,利用 Doraemon 框架构建一个完善的推荐业务流程如下图。



基于 Doraemon 框架开发的推荐业务,数据流与算子流相互交织,非常清晰


另外,如果公司做产品线的拓展,比如今日头条拓展新产品抖音、西瓜视频、火山小视频等,可以基于上面所提到的“推荐算法的范式”实现很多推荐业务(比如猜你喜欢、相似影片、热门推荐等),将这些业务封装到一个 DoraemonBiz.jar 的 jar 包,这样这些能力可以直接平移到新的产品线,赋能新业务。这种操作就是二次封装,具有极大的威力,下面给一个形象的图示来说明这种二次赋能的逻辑,让大家更好理解这种思想。



通过二次封装,构建推荐业务单元,赋能到新产品矩阵


从上面的介绍,相信大家已经感受到了 Doraemon 框架的威力了,有了这套框架,我们可以高效的开发算法了,如果有新的技术突破,我们可以将这些新算法实现并封装到 Doraemon 框架中,不断拓展 Doraemon 的能力,让 Doraemon 成长为具备更多技能(算子)的巨人!

推荐系统工程实现的设计哲学

要为推荐系统设计一套好用高效的工程框架并不容易,往往需要踩过很多坑,通过多年经验的积累才能深刻领悟。前面在“推荐系统架构设计”一节已经说了很多构建 Doraemon 框架的设计原则,本节试图从整个推荐业务工程实现的角度给出一些可供参考的设计哲学,以便大家可以更好的将推荐系统落地到业务中。


  1. 什么是好的推荐系统工程实现?


个人认为好的工程实现需要满足如下几个原则:


  • 别人很容易理解你的逻辑;

  • 按照业务流/数据流来组织代码结构;

  • 便于 debug;

  • 保证数据存储、代码模块、业务逻辑的一致性;


  1. 设计好的推荐系统工程架构的原则?


  • 尽量将逻辑拆解为独立的小单元;

  • 代码单元的输入输出定义清晰;

  • 设置合适的交互出入口;

  • 确定通用一致的数据交互格式;

  • 数据存储、业务功能点、代码单元保持一一对应;


  1. 怎么设计好的推荐系统工程架构?


  • 确定思考问题的主线:数据流 or 业务流;

  • 画出业务流或者数据流的架构图;

  • 确定核心功能模块;

  • 根据核心功能模块组织代码目录结构,数据存储结构;

  • 定义清晰明确的数据格式;


下图是作者团队开发的深度学习猜你喜欢推荐系统(基于 Tensorflow 开发)的业务流程图,对应的代码组织结构和对应的数据在本地文件系统中的存储结构,基本按照上述设计原则来做,看起来很清晰,方便理解和问题排查。



业务流,数据存储,代码工程结构保持对应

近实时个性化推荐

推荐系统在实际业务实现时一般是 T+1 推荐(每天更新一次推荐,今天利用昨天之前的数据计算用户的推荐结果),随着移动互联网的深入发展,特别是今日头条和快手等新闻,短视频 APP 的流行,越来越多的公司将 T+1 和实时策略相结合(比如采用流行的 lambda 架构,下图是一个采用 lambda 架构的推荐架构图,供参考)将推荐系统做到了近实时推荐,根据用户的兴趣变化实时为用户提供个性化推荐。像新闻、短视频这类满足用户碎片化时间需求的产品,做到实时个性化可以极大提升用户体验,这样可以更好地满足用户需求,提升用户在产品的停留时间。这里我们只是简单的介绍了一下实时个性化推荐,我在后续的系列文章中会详细讲解实时推荐系统。



推荐系统的 lambda 架构

推荐系统业务落地需要关注的问题

推荐系统要想很好的落地产生价值,除了算法实现、核心模块和支撑模块构建外,还有很多方面需要考虑,下面简单描述一下其他需要考虑的点,这些点都是非常重要的,深入理解这些问题,对真正发挥出推荐系统的价值有非常大的帮助。


  1. 二八定律:你的产品可能包含很多推荐模块,但是在投入精力迭代优化过程中,需要将核心精力放到用户触点多的产品(位置好,更容易曝光给用户的推荐产品)上,因为这些产品形态占整个推荐价值产出的绝大部分。这个道理看起来谁都懂,但在实际工作中一直坚守这个原则,还是很难的;

  2. 牛逼的算法与工程可实现性易用性之间的平衡:刚从事推荐算法开发的工程师会觉得算法的价值是巨大的,一个牛逼的算法可以让产品一飞冲天。殊不知很多在顶级会议上发表的绝大多数“高大上”的算法遇到工业级海量数据大规模的分布式计算难以在工程上落地。好的推荐算法一定要是易于工程实现,跟公司当前的技术架构、人员能力、可用资源是匹配的;

  3. 推荐系统冷启动:冷启动是推荐系统非常重要的一块,特别是对新产品,这块设计策略好不好直接影响用户体验, 冷启动有很多实现方案,作者以后会单独介绍冷启动的实现策略;

  4. 推荐系统的解释:给用户提供一个推荐理由有时会达到事半功倍的效果,能够提升用户体验,促进用户的点击购买。推荐理由又是很难做的,主要是因为现在很多推荐算法(特别是深度学习算法)可解释性不强,给你做出了推荐可能很精准,但是整个系统无法给你解释为什么给你推荐。拿推荐系统给你推荐了电影 A 来说明,我们可以从其他的途径来做解释, 比如“因为你喜欢 B”(电影 B 跟 A 有一定的相似性),“今天是国庆节,为你推荐 A”,“今天是雨天,为你推荐 A”,“跟你兴趣相似的人都喜欢 A”等等,只要可以挖掘出用户的行为,场景(时间,空间,上下文等),跟推荐的电影的某种联系,这种联系都可以作为推荐解释的理由,不必拘泥于一定要从推荐算法原理中寻找解释;

  5. 推荐系统 UI 设计和交互逻辑:好的产品 UI 和交互逻辑有时比好的算法更管用,推荐算法工程师一定要有这种意识,平时在做推荐系统时,也要往这方面多思考,当前的 UI 及交互是否合理,是否还有更好的方式,多参考或者咨询一下设计师的思路想法,多体验一下竞品,往往你会有新的收获。我不是这方面的专家,这里只给大家举一个电视猫产品的例子(见下图), 好的 UI 交互可以极大提升用户体验和点击。



好的 UI 和交互的价值甚至比好的算法大很多


  1. 推荐系统的价值度量:让推荐系统发挥价值,首先要度量出推荐系统的价值,我们需要将推荐系统的价值量化出来,只有量化出推荐系统的价值,推荐工程师的价值才能够被公司认可,老板才愿意在推荐系统上投入资源。这里我简单说一下推荐系统的价值产出方式(拿视频推荐举例说明)。


(1)推荐系统可以提升用户体验和留存,让用户更快更便捷找到想看的电影,减少找片时间:可以统计出推荐产生的播放量,总播放时长,人均播放时长,这些数值指标跟大盘的平均指标对比,可以体现推荐系统的优势,推荐系统的这些指标在大盘的占比也可以衡量推荐系统所占的分量;


(2)推荐系统可以创造收益:通过精准推荐会员节目,用户通过推荐的会员节目购买会员可以产生会员收益;在推荐的节目上做贴片广告,用户播放推荐的节目让广告曝光,可以产生广告收益;这两块收益需要量化出来,体现出推荐系统支撑商业变现的能力;

推荐系统的技术选型

根据第二节推荐系统与大数据的描述,推荐业务落地依赖大数据技术, 推荐系统的中间过程和结果的存储需要依赖数据库,推荐系统接口实现需要依赖 web 服务器。这些方面需要的软件和技术在前面基本都有简单介绍,也都有开源的软件供选择,对创业公司来说,没有资源和人力去自研相关技术,选择合适的开源技术是最好最有效的方案。


本节详细描述一下推荐系统算法开发所依赖的机器学习软件选型,方便大家在工程实践中参考选择。


由于推荐系统落地强依赖于大数据相关技术,而最流行的开源大数据技术基于 Hadoop 生态系统,所以推荐算法技术选型要围绕大数据生态系统来发展,可以无缝的将大数据和人工智能结合起来。


基于大数据生态系统有很多机器学习软件可以用来开发推荐系统,比如 Apache 旗下的工具 SparkMLlib、Flink-ML、Mahout、Storm、SystemML。以及可以运行在 Hadoop 生态系统上的 DeepLearning4J(Java 深度学习软件),TonY(TensorflowonYARN,LinkedIn 开源的),CaffeOnSpark(雅虎开源的),BigDL(基于 Spark 上的深度学习,Intel 开源的)等。


随着人工智能第三次浪潮的到来,以 Tensorflow,Pytorch,MXNet 等为代表的深度学习工具得到工业界的大量采用,Tensorflow 上有关于推荐系统、排序框架的模块和源代码,可供学习参考,通过简单修改可以直接用于推荐业务中。


另外像 xgboost,scikit-learn,H2O,gensim 等框架也是非常流行实用的框架,可以用于实际工程项目中。


国内也有很多开源的机器学习框架,腾讯开源的 Angel(基于参数服务器的分布式机器学习平台,可以直接运行在 yarn 上),百度开源的 PaddlePaddle(深度学框架),阿里开源的 Euler(图深度学习框架),X-DeepLearning(深度学习框架),也值得大家学习参考。


作者所在公司主要采用 SparkMllib,Tensorflow,gensim 等框架来实现推荐系统算法的开发。


至于开发语言,Hadoop 生态圈基本采用 Java/Scala,深度学习生态圈基本采用 Python(Tensorflow、Pytorch 都采用 python 作为用户使用软件的开发语言,但它们的底层还是用 C++开发的),所以采用 Java/Scala,Python 作为开发语言有很多开源框架可供选择,相关的生态系统也很完善。


随着大数据、云计算、深度学习驱动的人工智能浪潮的发展,越来越多的顶级科技公司开源出很多好用有价值的机器学习软件工具,可以直接用于工程中,也算是创业公司的福音。

推荐系统的未来发展

随着移动互联网、物联网的发展,5G 技术的商用,未来推荐系统一定是互联网公司产品的标配技术和标准解决方案,推荐系统会被越来越多的公司采用,用户也会越来越依赖推荐系统来做出选择。


在工程实现上,推荐系统会越来越采用实时推荐技术来更快的响应用户的兴趣(需求)变化,给用户强感知,提升用户体验,增加公司收益。


个人觉得未来会有专门的开源的推荐引擎出现,并且是提供一站式服务,让搭建推荐系统成本越来越低。同时随着人工智能的发展,越来越多的云计算公司会提供推荐系统的 PAAS 或者 SAS 服务(现在就有很多创业公司提供推荐服务,只不过还做的不够完善),创业公司可以直接购买推荐系统云服务,让搭建推荐系统不再是技术壁垒,到那时推荐系统的价值将会大放异彩!到那时,不是每个创业公司都需要推荐算法开发工程师了,只要你理解推荐算法原理,知道怎么将推荐系统引进产品中创造价值,就可以直接采购推荐云服务。就像李开复博士最新的畅销书《AI 未来》中所说的,很多工作会被 AI 取代,所以推荐算法工程师也要有危机意识,要不断培养对业务的敏感度,对业务的理解,短期是无法被机器取代的,到时候说不定可以做一个推荐算法商业策略师。

小结

本文是作者多年推荐系统学习、实践经验的总结,希望能够帮助到即将入行推荐系统开发的读者或者推荐系统开发人员,让大家少走弯路。由于作者才疏学浅,虽殚精竭虑,不当之处在所难免,欢迎大家评判指正,以便作者有所提高!


作者介绍:gongyouliu,有近 10 年大数据与 ai 相关项目经验,有 9 年推荐系统研究及实践经验,目前负责电视猫大数据与人工智能团队。喜欢读书,暴走,写作。业余维护“大数据与人工智能”公众号,ID:ai-big-data,持续输出推荐系统相关文章。个人微信:liuq4360


原文链接https://mp.weixin.qq.com/s/hccUo170_8lhdv6C3OzGzw


相关文章


打造工业级推荐系统(一):推荐算法工程师的成长之道


打造工业级推荐系统(二):无处不在的推荐系统


公众号推荐:

AGI 概念引发热议。那么 AGI 究竟是什么?技术架构来看又包括哪些?AI Agent 如何助力人工智能走向 AGI 时代?现阶段营销、金融、教育、零售、企服等行业场景下,AGI应用程度如何?有哪些典型应用案例了吗?以上问题的回答尽在《中国AGI市场发展研究报告 2024》,欢迎大家扫码关注「AI前线」公众号,回复「AGI」领取。

2019-04-26 08:0017903

评论 5 条评论

发布
用户头像
受益匪浅,比较详细,代买类都有,就是有两张图片显示不出来了,想看一下,不知道作者还能不能再重新上传下
2021-07-02 16:21
回复
这个文章好像不能修改了,你关注一下公众号「数据与智能」,回复 “推荐系统”,可与获得推荐系统所有文章。
2021-07-02 16:25
回复
用户头像
十分感谢,写得太好了,受益匪浅!!!
2021-04-07 11:53
回复
用户头像
受益匪浅
2020-06-06 23:37
回复
用户头像
厉害
2019-04-26 17:37
回复
没有更多了
发现更多内容

Nest.js JWT 验证授权管理

程序员海军

Node JWT nest

在 Python 中如何使用并发模型编程

江湖十年

Python 并发编程 多线程 协程 多进程

解密 Golang 哈希算法:深入了解 MD5、SHA-1 和 SHA-256

Java你猿哥

Java golang 算法 哈希算法 Go 语言

MySQL 8.0不再担心被垃圾SQL搞爆内存

GreatSQL

MySQL MySQL 数据库 greatsql greatsql社区

玩转Netty,从“Hello World”开始!

Java你猿哥

Java Netty ssm

如何使用Go语言实现ISP原则

Jack

Last Week in Milvus

Zilliz

非结构化数据 Milvus Zilliz 向量数据库

Nautilus Chain 或成未来最好的链上隐私生态

EOSdreamer111

首个支持RWA交易的订单簿DEX-PoseiSwap,即将开启IEO

西柚子

PoseiSwap缘何成DEX赛道新宠?POSE价值分析

股市老人

古鱼、恐龙和大众,相逢在百度百科的“彩虹桥”

脑极体

百科

Nautilus Chain 或成未来最好的链上隐私生态

鳄鱼视界

骨灰级技术大牛左耳朵耗子(陈皓)突发心梗离世。

福大大架构师每日一题

福大大

Java数据库项目之满汉楼

timerring

Java

对不起,您的访问次数已用尽!

为自己带盐

.net core 限流 AspNetCoreRateLimit

Django笔记二十九之中间件介绍

Hunter熊

Python django 中间件 middleware

首个支持RWA交易的订单簿DEX-PoseiSwap,即将开启IEO

EOSdreamer111

Java字节码 - ByteBuddy原理与使用(下)

骑牛上青山

Java bytebuddy 字节码

volatile 关键字与计算机底层的一些杂谈

Java你猿哥

Java volatile JVM ssm java知识点

Makefile基础教程:从零开始学习

小万哥

程序员 面试 后端 C/C++ makefile

Java字节码 - ByteBuddy原理与使用(上)

骑牛上青山

Java JVM bytebuddy 字节码

Nautilus Chain 或成未来最好的链上隐私生态

股市老人

PoseiSwap缘何成DEX赛道新宠?POSE价值分析

EOSdreamer111

PoseiSwap缘何成DEX赛道新宠?POSE价值分析

西柚子

2023-05-15:对于某些非负整数 k ,如果交换 s1 中两个字母的位置恰好 k 次, 能够使结果字符串等于 s2 ,则认为字符串 s1 和 s2 的 相似度为 k。 给你两个字母异位词 s1

福大大架构师每日一题

Go 算法 rust 福大大

面试官:断网了,还能 ping 通 127.0.0.1 吗?

Java你猿哥

Java 架构 ssm ping

GitHub万赞,不愧是腾讯大牛总结的操作系统笔记,面面俱到太全了

Java你猿哥

Java 面试 多线程 ssm 线程与进程

GitHub笔记疯抢竟崩溃!Redis完整开发实战居然包含大厂同款项目

Java你猿哥

Java redis ssm java面试 Redis 核心技术与实战

首个支持RWA交易的订单簿DEX-PoseiSwap,即将开启IEO

股市老人

首个支持RWA交易的订单簿DEX-PoseiSwap,即将开启IEO

BlockChain先知

C语言编程-基本语法

芯动大师

打造工业级推荐系统(三):推荐系统的工程实现与架构优化_开源_数据与智能_InfoQ精选文章