黑盒模型事后归因解析:SHAP方法

2020 年 5 月 13 日

黑盒模型事后归因解析:SHAP方法

近年来人工智能的浪潮越来越汹涌,以神经网络、集成模型为代表的机器学习模型在数据挖掘领域中发挥着不可替代的作用。在追求模型高精度的道路上,工业界和学术界也十分关注模型的可解释性,期待从复杂模型中得到更直观的理解。可解释机器学习作为索信达金融 AI 实验室的重要研究方向之一,包括了内在可解释模型和事后可解释方法。我们希望可以通过一系列文章来介绍解释不同模型的方法,并分享与实际场景相结合的业务与技术心得。

1.Shapley Value

在当今的金融、医疗等数据挖掘的应用领域中,模型的可解释性和精度是同等的重要。众所周知,精度较高的模型,如集成模型,深度学习模型等,内部结构复杂多变,不能直观理解。SHAP,作为一种经典的事后解释框架,可以对每一个样本中的每一个特征变量,计算出其重要性值,达到解释的效果。该值在 SHAP 中被专门称为 Shapley Value。因此 Shapley Value 是 SHAP 方法的核心所在,理解好该值背后的含义将大大有助于我们理解 SHAP 的思想。

1.1 Shapley value 起源

Shapley value 最早由加州大学洛杉矶分校(UCLA)的教授 Lloyd Shapley 提出, 主要是用来解决合作博弈论中的分配均衡问题。Lloyd Shapley 是 2012 年的诺贝尔经济学奖获得者,也是博弈论领域的无冕之王。

原文链接:【 https://www.infoq.cn/article/20dOi64Cfj8ONPUXL5zP 】。未经作者许可,禁止转载。

登录后可解锁全站优质内容

免费畅享技术公开课、顶尖技术团队访谈、一线互联网大厂技术实践

文章
视频
电子书
研究报告
立即登录
2020 年 5 月 13 日 07:00 1586

评论

发布
暂无评论
发现更多内容

架构师第三周作业

傻傻的帅

设计模式 极客大学架构师训练营

手写

AIK

第三周作业

小树林

代码重构能力体会总结

周冬辉

菜鸟的系统架构师如何应对交易系统激增的系统流量

阿里云原生团队

2020-06-20-第三周作业

路易斯李李李

分布式系统消息异常该何去何从

架构师修行之路

分布式 分布式锁

Java 字符串连接运算符干了什么?

阿亮

Java

面试难题:为什么HashMap加载因子默认值0.75?

Java小咖秀

hashmap 面试题 Java、

小师妹学JVM之:JIT中的PrintCompilation

程序那些事

JVM Java 25 周年 小师妹 性能调优 JIT

第三周作业一

潜默闻雨

设计模式(Dessert)

王鹏飞

什么是技术债,为什么要还技术债?

Phoenix

项目管理 架构 技术 管理 工作方式

如何科学的做体检?

石云升

体检 癌症筛查

本周学习总结

Geek_zhangjian

架构师训练营第 03 周—— 练习

李伟

极客大学架构师训练营

重学 Java 设计模式:实战迭代器模式「模拟公司组织架构树结构关系,深度迭代遍历人员信息输出场景」

小傅哥

设计模式 小傅哥 重构 代码规范 迭代器模式

软件设计之术-设计模式学习应用心得

旭东(Frank)

架构 设计模式 技术交流 架构师 极客大学架构师训练营

【架构师训练营】第三期作业

云064

软件设计原则 - 第三周作业

孙志平

第三周学习总结

傻傻的帅

设计思维 学习总结

架构师训练营第 0 期 - 第 3 周 - 学习总结

极客大学架构师训练营

架构师训练营第 03 周——总结

李伟

极客大学架构师训练营

week3

AIK

第三周总结

小树林

架构师训练营第 0 期 - 第 3 周 - 命题作业

极客大学架构师训练营

架构师的基本能力之代码重构

_MISSYOURLOVE

极客大学架构师训练营

面试官:CAP都搞不清楚,别跟我说你懂微服务!

码农神说

分布式 漫画 CAP

Week03 作业

极客大学架构师训练营

架构师训练营第三周命题作业

hifly

设计模式 单例模式 极客大学架构师训练营 组合模式 手写代码

Java反射与内省(参考小米内部资料)

知春秋

Java 反射 内省

黑盒模型事后归因解析:SHAP方法-InfoQ