写点什么

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

  • 2020-09-15
  • 本文字数:2431 字

    阅读完需:约 8 分钟

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

2020 年 9 月 14 日,北京智源人工智能研究院(以下简称“智源研究院”)联合北京大学人工智能研究院、清华大学人工智能研究院、中科院计算所、中科院自动化所、中科院心理所、清华大学人工智能国际治理研究院等高校院所,以及小米、旷视、好未来、高思、极客邦、奇虎 360、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织,共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。


当前,随着算法、算力、数据等关键要素的积累和突破,人工智能正在加速拓展更多应用场景,不断向各领域溢出渗透,带动人类社会全面进入智能时代。作为一种深刻改变世界的颠覆性技术,人工智能的研发和应用为社会的发展带来全新的机遇与挑战。如同传统伦理规范是人类文明数千年发展的稳定器,人工智能方面的伦理与规范将是未来智能社会有序展开的重要基石。



智源研究院常务副院长曹岗介绍道,作为支持北京国家新一代人工智能创新发展试验区建设的重要举措,2019 年 5 月 25 日,智源研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等单位,共同发布了《人工智能北京共识》,为规范和引领人工智能健康发展提供了“北京方案”,也是是北京作为第一个国家新一代人工智能创新发展试验区建设的代表性贡献之一。共识发布一年多来,已在疫情防控、安防等热点领域进行试点示范,对于实现北京人工智能“自律”“善治”“有序”起到了重要作用。


智源研究院人工智能伦理与可持续发展研究中心主任曾毅博士指出,在宏观人工智能伦理原则的前提下,探索实现人工智能伦理原则在细分领域、针对特定群体的落地技术与实践方法,持续推动人工智能治理工作,已经成为我国人工智能创新与治理的当务之急。



曾毅解释说,近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及,儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体,儿童在接受使用 AI 产品与解决方案时,存在一定的特殊性与被动性,可选择能力差,对风险和的隐患识别能力严重不足。此外,当下诸多人工智能产品在开发、使用和售后服务方面,针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升,对用户群体尤其是儿童用户的关爱与考虑不足,将对其健康成长产生一定程度的负面影响。在全球范围内,目前非常缺乏与儿童有关的人工智能伦理原则,因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制,帮助相关企业避免潜在风险、以保障未成年人的健康成长。


为有效降低人工智能技术与产品对儿童产生的不利影响,智源研究院组织专家制定了《面向儿童的人工智能北京共识》。作为我国首个针对儿童的人工智能发展原则,《面向儿童的人工智能北京共识》是《人工智能北京共识》针对儿童群体的实施细则,涵盖了“以儿童为中心”、“保护儿童权利”、“承担责任”和“多方治理”四大主题,共包括 19 条细化原则,呼吁社会各界高度重视人工智能对儿童的影响,人工智能的发展应保护和促进儿童的权益,避免剥夺和损害儿童的权利,助力实现儿童健康成长。



目前,《面向儿童的人工智能北京共识》已得到中科院幼儿园、北京大学附属小学、好未来、高思、极客邦、童行学院等教育机构的支持,将与这些机构深度协作探索共识落地和未来的不断演进。未来智源研究院希望在相关机构的支持下,推动《面向儿童的人工智能北京共识》在其他幼儿园、中小学,以及社会教育机构中的落地实施,为推动儿童及青少年的健康发展提供重要支撑。作为初步的探索与实施工作,好未来、高思、极客邦、童行学院等教育机构和旷视、小米、奇虎 360 等人工智能企业已经表示要借助“人工智能与儿童”工作组,结合自身 AI 产品与业务积极践行《面向儿童的人工智能北京共识》。


为更高效汇集智力资源,持续推动面向可持续发展人工智能,智源研究院发起成立国际组织“面向可持续发展的人工智能协作网络”,目前剑桥大学、新加坡管理大学、联合国机器人与人工智能中心等机构已经加入,共汇聚来自 15 个国家的专家学者。作为协作网络的重要组成部分,在本次发布会中,智源研究院也成立“人工智能与儿童”工作组,第一批工作组的成员由来自小米、旷视等人工智能企业,以及好未来、极客邦等智能教育企业的代表。联合国儿童基金会驻华办事处代表将任工作组观察员。



据曾毅博士介绍,面向可持续发展的人工智能协作网络“人工智能与儿童工作组”的下一步工作计划将包括:


(1)将组织工作组梳理面向儿童的人工智能案例,分析人工智能技术如何善用,并同时避免误用和滥用;


(2)将通过工作组帮助中国和全球的人工智能企业以技术落地的方式促进人工智能保护儿童权益,助力儿童发展;


(3)为国内和全球的相关政策制定提供有益参考;


(4)与全世界其他相关机构分享经验,共享成果,以促进全球范围内人工智能助力儿童的健康成长。


针对《面向儿童的人工智能北京共识》,联合国技术顾问、人工智能主任 Danit Gal 表示:“这是中国人工智能发展轨迹中的一份关键文件,也是中国在论述如何利用人工智能的力量造福全人类中受欢迎的补充。国际间在儿童与人工智能相关的研发、设计、使用与共存方面的努力会因为有了中国的参与而变得更加有效。现在,我们比以往任何时候都更加必须团结一致,以确保人工智能符合所有人的道德和安全要求,而中国在使人工智能成为全球共享的现实中可以发挥重要作用。”



本次发布会最后,由曾毅主任主持, 好未来副总裁李非、小米 AI 生态副总裁周力恒、旷视人工智能治理研究院院长徐云程、爱学习教育集团 AILab 主任王建超、中科院幼儿园园长王春菊、童行学院创始人郝景芳、牛津大学政策学者谢旻希、联合国大学澳门研究院院长黄京波等人围绕“发展面向儿童的人工智能”的话题,提供了自己的行业经历及专业性意见,探讨共识的技术和社会落地,并共同呼吁教育、科研、产业界协同创新,通过人工智能助力下一代健康成长。


《面向儿童的人工智能北京共识》中文版


《面向儿童的人工智能北京共识》英文版


2020-09-15 11:312959

评论

发布
暂无评论
发现更多内容

解析内存中的高性能图结构

NebulaGraph

数据结构 图数据库

最高等级!Apache RocketMQ 入选可信开源项目星云象限领导型象限

阿里巴巴云原生

阿里云 云原生 Apache RocketMQ

长三角生物医药产业加速跑,飞桨螺旋桨为创新药企、医药技术伙伴装上AI大模型引擎

飞桨PaddlePaddle

飞桨 生物医药

分享:两年两度升级数据库,我们经历了什么

OceanBase 数据库

数据库 oceanbase

DPDK与ScaleFlux CSD 3000:金融数据处理的创新组合

ScaleFlux

DPDK 存储技术 数据压缩 金融开源

专访顶象CEO: 新一代AI如何增强验证码安全性

极客天地

出海无从下手?看社交泛娱乐出海「第一趁手工具」怎么说

融云 RongCloud

互联网 社交 融云 泛娱乐 出海

精通Vue.js系列实例教程 │ Vue组件的数据监听

TiAmo

Vue Web Worker 监听 watche

轻量级思维导图工具:iMap Builder 免激活版

真大的脸盆

Mac 思维导图 Mac 软件

CCIG 2023 百度飞桨分论坛:大模型时代的图象图形技术变革与实践

飞桨PaddlePaddle

走进南京邮电大学!龙蜥导师面对面分享如何通过开源经历获得实习/工作机会?| 开源之夏 2023

OpenAnolis小助手

操作系统 实习 龙蜥社区 开源之夏 南京邮电大学

百度王海峰团队荣获吴文俊人工智能科技进步奖特等奖,成果已应用于文心一言

飞桨PaddlePaddle

ScaleFlux压缩存储产品通过 PolarDB-PG社区版和PolarDB-X 开源版认证

ScaleFlux

开源数据库 数据压缩 数据库技术 企业数据

【修复问题】HBuilder打包编译报错汇集(持续更新)

红泥

可计算存储技术全面升级CSD 3000存储体验

ScaleFlux

人工智能 机器学习 计算与存储 数据压缩

Spring Boot 单体应用一键升级成 Spring Cloud Alibaba

阿里巴巴云原生

阿里云 微服务 云原生 spring cloud alibaba

应用在虚机和容器场景下如何优雅上下线

华为云开源

微服务 云原生

IaaS预留实例在线交易策略详解

天翼云开发者社区

云计算 大数据 云服务

【自己更换模型】如何用 Serverless 一键部署 Stable Diffusion?

阿里巴巴云原生

阿里云 Serverless 云原生 动态模型

日常节省 30%计算资源:阿里云实时计算 Flink 自动调优实践

Apache Flink

大数据 flink 实时计算

您的数据可以压缩吗?

ScaleFlux

存储成本 存储技术 数据压缩

flutter系列之:做一个修改组件属性的动画

程序那些事

flutter 大前端 程序那些事

openEuler 社区 2023 年 4 月运作报告

openEuler

Linux 开源 操作系统 openEuler 资讯

【web 开发】快来给你的类定个标准 -PHP 的接口技术(64)

迷彩

php 接口 interface 三周年连更 类扩展

极狐(GitLab)重磅发布新产品「极狐星」,让研发效能看得清,算得准,成就企业精英效能管理

极狐GitLab

DevOps 研发管理 研发效能 极狐GitLab 研发效能度量

开源家装小程序

源字节1号

开源 软件开发 前端开发 后端开发 小程序发开

ChatGPT火了,客服产业怎么办?

创智荟

知识计算 客服 ChatGPT 数字员工

MobPush 创建应用

MobTech袤博科技

小程序:技术标准与生态的演变

没有用户名丶

解决centos7.0安装mysql后出现access defind for user@'localhost'的错误

北桥苏

MySQL

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》_大数据_北京智源人工智能研究院_InfoQ精选文章