直播预约通道开启!2021腾讯数字生态大会邀您共探产业发展新机遇! 了解详情
写点什么

FATE 发布 1.3 版本,首次增加联邦推荐算法

2020 年 3 月 16 日

FATE发布1.3版本,首次增加联邦推荐算法

抗疫战场上的好消息不断传来,关于“数据免疫力”的话题也不断升温。企业和个人用户数据如何提高“免疫能力”,在越来越广泛的行业应用与合作中提升自身数据安全和防御能力?


近来,联邦学习进入行业视野。联邦学习在符合数据安全和政策法规的前提下,帮助各行各业实现多方协作训练 AI。FATE(Federated AI Technology Enabler)作为联邦学习首个工业级开源框架,实现了同态加密和多方计算(MPC)的安全计算协议,支持联邦学习架构,内置机器学习算法的联邦学习实现。


近日,FATE 发布了 2020 年的第一个版本更新 FATE v1.3。在这一版本中,FATE 首次增加联邦推荐算法模块 FederatedRec,该模块包含 6 大推荐场景中常用的算法,包括 5 种纵向联邦算法和 1 种横向联邦算法,可用于解决联邦学习场景下的推荐问题,比如评分预测,物品排序等。


此外,该团队与 VMware 中国研发开放创新中心云原生实验室的团队联合发布的 KubeFATE 也在这一版本中迎来更新,整体进行了重构,并引入了对最新版本的 FATE-Serving 支持,使得用户可以进行在线推理。最后,针对 FederatedML 等多个模块,新版本也进行了更新及优化。


项目 GitHub 地址:


https://ai.webankcdn.net/scvm/html/1579237806672.html


FederatedREC:提升算法预测效果,优化产品分发效率

在 FATE1.3 版本中,FATE 新增联邦推荐算法模块 FederatedRec,使得联邦推荐模块更加明确化,这一算法模块包含 6 大推荐场景的常用算法,主要有:


  • 纵向联邦算法 Hetero FM(Factorization Machine)

  • 横向联邦算法 Homo FM(Factorization Machine)

  • 纵向联邦算法 Hetero MF(Matrix Factorization)

  • 纵向联邦算法 Hetero SVD

  • 纵向联邦算法 Hetero SVD++

  • 纵向联邦算法 Hetero GMF(Generalized Matrix Factorization)


在这 6 类算法中,Hetero FM 和 Homo FM 分别是纵向联邦和横向联邦两种场景下的 FM(因式分解机)算法,该算法能够实现联合不同数据方的数据进行联合建模,对不同数据方直接进行显式的特征交叉和联合打分。


对于推荐场景下的算法,Hetero MF, Hetero SVD, Hetero SVD++和 Hetero GMF 提供了联邦建模下的协同过滤算法包。基于 FATE v1.3 提供的算法工具,能够实现不同数据方之间的 user-item,user-user 和 item-item 的矩阵分解。对开发者而言,通过联邦推荐这一模块,可以显著提升算法的预测效果及产品分发效率。


KubeFATE:支持 FATE-Serving 实现在线联邦推理,完全重构 Kubernetes

这一版本中,KubeFATE 也同步更新至 1.3,引入了对最新版本的 FATE-Serving 支持,使得用户可以进行在线推理,机器学习的常见功能进一步完善。对 KubeFATE 本身而言,这一版本也进行了彻底重构,主要有:


  • 支持完整的 FATE 集群生命周期管理,包括查询现在已部署的 FATE 集群列表,查看每个 FATE 集群的具体配置,对 FATE 集群配置进行更新,删除 FATE 集群等功能;

  • 实现 FATE 集群管理的任务框架,开发者可以细致追踪每个任务的子任务,方便定位基础设施层面的问题;

  • 分离 KubeFATE 的程序与 FATE 集群配置的关系,后续 FATE 更新版本后,开发者不需要每次都重新下载安装 KubeFATE 从而进行升级。理想网络状况下,KubeFATE 可以自动下载 FATE 集群的配置,开发者直接使用即可。如使用环境无网络支持,也可从 KubeFATE 的 Release 中下载 tgz 包,使用 KubeFATE 命令行直接上传到服务中,就可以实现部署发布新的集群支持。

  • 加强 FATE 模块化安装部署,这一版本中,KubeFATE 可以把 Exchange 或某几个模块单独部署为一个集群,通过 Kubernetes 联通起来。这一功能将有助于复杂 IT 环境的企业进行部署。


最后,在新版本中,KubeFATE 也会以服务的方式对外提供 RESTful API,对开发者而言,后续 KubeFATE 将以服务形式常驻对集群进行管理,命令行工具也可以在外网甚至 FATE 集群管理员的笔记本上运行。对外有 RESTful API 接口的功能如下图所示,都可以方便接入企业已有的云管系统。



FederatedML:训练稀疏数据效率提升,内存消耗再优化

除联邦推荐及 KubeFATE 的重点更新外,新版本针对 FederatedML 也做了进一步提升,在 1.3 中,纵向联邦广义线性模型(Hetero-LR、Hetero-LinR、Hetero-PoissonR)开始支持稀疏数据训练,开发者在训练稀疏数据时,能明显感到效率提升,内存消耗减少。解决分箱中 32M 限制,也使得特征分箱支持更高维度和更多样本的数据。纵向 SecureBoost 梯度直方图 32M 限制的解决,让 FATE 可以支持更高维度特征进行 secureboost 的训练。


总的来说,1.3 版本对 FATE 功能性及实践应用价值进行了强化,联邦推荐算法子模块 FederatedRec 的添加,对于用户而言,最明显的益处在于可以利用联邦推荐来提升自己算法的预测效果和产品的分发效率,使推荐服务的质量更上一个台阶。这对于第一方数据不够丰富,或者在业务的初始时期数据积累较少的用户方,是非常有帮助的。而 KubeFATE 也开启了 FATE 在生产环境,尤其是云原生环境上最优化管理使用的功能更新探索之路。后续,我们也将和 VMware 进一步合作,推出基于 FATE 的多方管理新项目。


2020 年 3 月 16 日 09:031031

评论

发布
暂无评论
发现更多内容

CloudIDE插件在手,按时下班不愁

华为云开发者社区

ide Cloud CloudIDE

低成本快速上链 智臻链开放联盟网络正式对外开放

京东科技开发者

区块链 京东

Seata是什么?一文了解其实现原理

vivo互联网技术

分布式 分布式事务 分布式架构

架构师训练营第 1 期第 11 周总结

du tiezheng

极客大学架构师训练营

第十一周 安全稳定总结

钟杰

极客大学架构师训练营

数据资产管理平台规划概要

马踏飞机747

数据治理 数据资产 大数据架构

智慧公安情报指挥合成作战管控平台开发

t13823115967

智慧公安情报研判系统开发 智慧公安 合成作战管控平台

话题讨论 |程序员35岁被裁,是真的吗?你离35岁还有几年?

Java_若依框架教程

话题讨论

探秘密码学:深入了解对称加密与密钥协商技术

京东科技开发者

网络安全 密码学

花火交易所APP软件系统开发(现成)

开發I852946OIIO

系统开发

第七周总结

小兵

线程上下文切换,这些是你需要掌握的

田维常

系统上下文

教你用Python自制拼图小游戏,轻松搞定熊孩子

华为云开发者社区

Python 游戏 拼图

第十一周 安全稳定作业

钟杰

极客大学架构师训练营

《写给大忙人看的JAVA核心技术》.pdf

田维常

电子书

阿里 双11 同款流控降级组件 Sentinel Go 正式 GA,助力云原生服务稳稳稳

阿里巴巴云原生

开发者 云原生 中间件 开源项目 双十一

Meet new Sentinel Go committers!

阿里巴巴云原生

开源 开发者 云原生 sentinel 中间件

阿里巴巴内部秘密培养的“Java架构师养成计划”图谱曝光,全是干货!

Java架构追梦

Java 学习 架构 面试 阿里巴巴人才培养计划

谁还不是凡尔赛了,LEARUN.NET框架,实力不容低调

力软.net/java开发平台

.net .net core learun

架构师训练营第 1 期第 11 周作业

du tiezheng

极客大学架构师训练营

突破容量极限:TiDB 的海量数据“无感扩容”秘籍

京东科技开发者

分布式数据库 #TiDB

基于区块链技术落地应用开发-食品溯源

13828808769

阿里云Lindorm与Intel、OSIsoft共建IT & OT超融合工业数据云

许力

数据库 大数据 IoT 工业互联网 工业物联网

我是程序员,我用这种方式铭记历史

kokohuang

Hexo GitHub Pages python 爬虫 中国历史 铭记历史

手撸一个在线css三角形生成器

徐小夕

CSS css3 前端 前端工程 CSS小技巧

公安情报研判管控分析平台建设解决方案

t13823115967

智慧公安情报研判系统开发 智慧公安 情报研判管控分析平台

云计算领域-杨明越加入InfoQ协作平台

杨明越

话题讨论 | 作为开发你是如何阅读源码的?

程序员小航

话题讨论

话题讨论 | 深入浅出Linux内存管理,图解物理内存和虚拟内存

程序员柠檬

话题讨论

年薪百万offer从何入手?这份“通关面试手册”带你轻松碾压字节面试官

比伯

Java 编程 架构 面试 计算机

警务信息综合应用平台建设,可视化研判系统开发

WX13823153201

警务信息综合应用平台建设

技术为帆,纵横四海- Lazada技术东南亚探索和成长之旅

技术为帆,纵横四海- Lazada技术东南亚探索和成长之旅

FATE发布1.3版本,首次增加联邦推荐算法-InfoQ