写点什么

新机器学习库 TensorFlow Privacy 问世:旨在保护敏感数据

  • 2019-04-03
  • 本文字数:1252 字

    阅读完需:约 4 分钟

新机器学习库TensorFlow Privacy问世:旨在保护敏感数据

在最近的一篇博文中,TensorFlow 宣布推出TensorFlow Privacy。这是一个开源库,它允许研究人员和开发人员构建具有强大隐私保护功能的机器学习模型。基于强大的数学确定性(mathematical guarantees),使用本库可以确保用户数据无法通过训练过程被记住。


机器学习在如今的在线产品和服务中非常普遍。谷歌认为,为了保护用户隐私,把强大的隐私保护功能嵌入 TensorFlow 是非常重要的。为什么那么重要呢?谷歌大脑(Google Brain)的产品经理Carey Radebaugh对此进行了解释:


现代机器学习正越来越多地用于创造令人惊叹的新技术和用户体验,其中很多需要让训练机器负责地从敏感数据(例如个人照片或电邮)中学习。理想情况下,受过训练的机器学习模型的参数应该编码一般模式,而不是关于特定训练示例的事实。


TensorFlow Privacy 的引入符合谷歌去年发布的负责的AI实践承诺(Responsible AI Practices commitment),旨在“在这些[AI]系统中建立公平性、可解释性、隐私和安全性”。谷歌除了遵循负责的 AI 实践外,他们还希望让外部开发人员在其构建的应用程序和产品中应用同样的实践。


TensorFlow Privacy 的技术实现建立在差异化隐私理论(differentail privacy theory)之上,该理论通过提供一个衡量隐私保障的框架,以确保模型不会学习或记住用户的详细信息。


为了证明 TensorFlow Privacy 的有效性,谷歌提供了一个训练两个模型的例子,其中一个模型具有基于 TensorFlow Privacy 库的差异化隐私功能,而另一个没有。这两个模型是在标准 Penn Treebank 训练数据集上训练的。这两个模型在对英语建模中都表现良好。如对于以下的财经新闻句子,二者都能够获得好分数。


There was little turnover and nothing to stimulate the market

South korea and japan continue to be profitable

Merchant banks were stronger across the board


但是,在某些领域,这两个模型的得分天差地别。例如,使用传统的训练方法,以下这三个句子的得分都很高,也就是“在标准训练过程中,有效地记住了内容”。相反,差异性隐私模型在这些句子上的得分很低,并被拒绝了。


Aer banknote berlitz calloway … ssangyong swapo wachter

The naczelnik stands too

My god and i know i am correct and innocent


在财经新闻的语境中,这三个句子似乎不常见。因此,这三个罕见的句子可以用来识别或揭示个人信息,因而使用敏感数据训练就被拒绝了。Radebaugh 进行了额外的解释:


这两个模型的差异在于,有隐私保护的模型不能记住异常的罕见序列。我们可以利用我们先前在神经网络中测量无意识记忆的工作来量化这种影响。我们故意在训练数据中插入独特的、随机的罕见句子,并评估罕见句子对训练模型的影响。在这种情况下,单个随机罕见句子的插入就足够让无隐私保护模型完全记住它了。


TensorFlow Privacy 库和示例可以在它们的GitHub存储库中找到。此外,TensorFlow技术白皮书已经更新,包含了这些新隐私机制的详细信息。


阅读英文原文:Introducing TensorFlow Privacy, a New Machine Learning Library for Protecting Sensitive Data


2019-04-03 08:002469
用户头像

发布了 199 篇内容, 共 90.1 次阅读, 收获喜欢 295 次。

关注

评论

发布
暂无评论
发现更多内容

央行数字货币渐行渐近:未来金融竞争终极场所

CECBC

数字货币 银行

架构师训练营第三周课程笔记及心得

Airs

区块链治理为什么如此重要?

CECBC

区块链

Linux安装软件方法总结

MySQL从删库到跑路

Linux 源码 RPM安装 安装 yum

基于链表的有界阻塞队列 —— LinkedBlockingQueue

程序员小航

Java 源码 AQS 源码阅读 LinkedBlockingQueue

3.手写单例模式设计

博古通今小虾米

CSS 选择器 — 重学CSS

三钻

CSS 大前端

学习笔记:架构师训练营-第三周

四夕晖

设计模式 OOD

单例设计模式之枚举实现

A p7+

发展区块链技术 打造竞争新优势

CECBC

架构师训练营第 1 期第三周总结

Leo乐

极客大学架构师训练营

学习笔记:架构师训练营-第一周

四夕晖

4+1架构视图 通用设计模型

2020.09.28-2020.10.04 学习总结

icydolphin

极客大学架构师训练营

组合设计模式编写程序

石头

极客大学 极客大学架构师训练营

架构师训练营第一周作业

四夕晖

[架构师训练营第 1 期] 第三周命题作业

猫切切切切切

极客大学架构师训练营

架构师训练营第三周作业

xs-geek

极客大学架构师训练营

编程的本质和未来

小宋头

架构师训练营 1 期 - 第三周作业(vaik)

行之

极客大学架构师训练营

Mac 配置环境变量未生效

hepingfly

Mac 环境变量 配置文件不生效

[架构师训练营第 1 期] 第三周学习总结

猫切切切切切

极客大学架构师训练营

架构师训练营第三周总结

xs-geek

极客大学架构师训练营

架构师训练营第三周作业

四夕晖

设计模式 极客大学架构师训练营

【架构师训练营第 1 期 03 周】 作业

Bear

极客大学架构师训练营

SQL 是什么

Rayjun

sql

面试官:开发过Maven插件吗?我:开发过啊。。。

冰河

maven 插件开发 互联网工程

架构师训练营 1 期 -- 第三周作业

曾彪彪

极客大学架构师训练营

架构师训练营 1 期 - 第三周总结(vaik)

行之

极客大学架构师训练营

架构师训练营第 1 期第三周课后练习题

Leo乐

极客大学架构师训练营

第三周-代码重构-作业

刘希文

架构师训练营第 1 期 - 第三周作业提交

Todd-Lee

极客大学架构师训练营

新机器学习库TensorFlow Privacy问世:旨在保护敏感数据_AI&大模型_Kent Weare_InfoQ精选文章