【AICon】探索RAG 技术在实际应用中遇到的挑战及应对策略!AICon精华内容已上线73%>>> 了解详情
写点什么

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

  • 2020-09-15
  • 本文字数:2431 字

    阅读完需:约 8 分钟

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

2020 年 9 月 14 日,北京智源人工智能研究院(以下简称“智源研究院”)联合北京大学人工智能研究院、清华大学人工智能研究院、中科院计算所、中科院自动化所、中科院心理所、清华大学人工智能国际治理研究院等高校院所,以及小米、旷视、好未来、高思、极客邦、奇虎 360、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织,共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。


当前,随着算法、算力、数据等关键要素的积累和突破,人工智能正在加速拓展更多应用场景,不断向各领域溢出渗透,带动人类社会全面进入智能时代。作为一种深刻改变世界的颠覆性技术,人工智能的研发和应用为社会的发展带来全新的机遇与挑战。如同传统伦理规范是人类文明数千年发展的稳定器,人工智能方面的伦理与规范将是未来智能社会有序展开的重要基石。



智源研究院常务副院长曹岗介绍道,作为支持北京国家新一代人工智能创新发展试验区建设的重要举措,2019 年 5 月 25 日,智源研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等单位,共同发布了《人工智能北京共识》,为规范和引领人工智能健康发展提供了“北京方案”,也是是北京作为第一个国家新一代人工智能创新发展试验区建设的代表性贡献之一。共识发布一年多来,已在疫情防控、安防等热点领域进行试点示范,对于实现北京人工智能“自律”“善治”“有序”起到了重要作用。


智源研究院人工智能伦理与可持续发展研究中心主任曾毅博士指出,在宏观人工智能伦理原则的前提下,探索实现人工智能伦理原则在细分领域、针对特定群体的落地技术与实践方法,持续推动人工智能治理工作,已经成为我国人工智能创新与治理的当务之急。



曾毅解释说,近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及,儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体,儿童在接受使用 AI 产品与解决方案时,存在一定的特殊性与被动性,可选择能力差,对风险和的隐患识别能力严重不足。此外,当下诸多人工智能产品在开发、使用和售后服务方面,针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升,对用户群体尤其是儿童用户的关爱与考虑不足,将对其健康成长产生一定程度的负面影响。在全球范围内,目前非常缺乏与儿童有关的人工智能伦理原则,因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制,帮助相关企业避免潜在风险、以保障未成年人的健康成长。


为有效降低人工智能技术与产品对儿童产生的不利影响,智源研究院组织专家制定了《面向儿童的人工智能北京共识》。作为我国首个针对儿童的人工智能发展原则,《面向儿童的人工智能北京共识》是《人工智能北京共识》针对儿童群体的实施细则,涵盖了“以儿童为中心”、“保护儿童权利”、“承担责任”和“多方治理”四大主题,共包括 19 条细化原则,呼吁社会各界高度重视人工智能对儿童的影响,人工智能的发展应保护和促进儿童的权益,避免剥夺和损害儿童的权利,助力实现儿童健康成长。



目前,《面向儿童的人工智能北京共识》已得到中科院幼儿园、北京大学附属小学、好未来、高思、极客邦、童行学院等教育机构的支持,将与这些机构深度协作探索共识落地和未来的不断演进。未来智源研究院希望在相关机构的支持下,推动《面向儿童的人工智能北京共识》在其他幼儿园、中小学,以及社会教育机构中的落地实施,为推动儿童及青少年的健康发展提供重要支撑。作为初步的探索与实施工作,好未来、高思、极客邦、童行学院等教育机构和旷视、小米、奇虎 360 等人工智能企业已经表示要借助“人工智能与儿童”工作组,结合自身 AI 产品与业务积极践行《面向儿童的人工智能北京共识》。


为更高效汇集智力资源,持续推动面向可持续发展人工智能,智源研究院发起成立国际组织“面向可持续发展的人工智能协作网络”,目前剑桥大学、新加坡管理大学、联合国机器人与人工智能中心等机构已经加入,共汇聚来自 15 个国家的专家学者。作为协作网络的重要组成部分,在本次发布会中,智源研究院也成立“人工智能与儿童”工作组,第一批工作组的成员由来自小米、旷视等人工智能企业,以及好未来、极客邦等智能教育企业的代表。联合国儿童基金会驻华办事处代表将任工作组观察员。



据曾毅博士介绍,面向可持续发展的人工智能协作网络“人工智能与儿童工作组”的下一步工作计划将包括:


(1)将组织工作组梳理面向儿童的人工智能案例,分析人工智能技术如何善用,并同时避免误用和滥用;


(2)将通过工作组帮助中国和全球的人工智能企业以技术落地的方式促进人工智能保护儿童权益,助力儿童发展;


(3)为国内和全球的相关政策制定提供有益参考;


(4)与全世界其他相关机构分享经验,共享成果,以促进全球范围内人工智能助力儿童的健康成长。


针对《面向儿童的人工智能北京共识》,联合国技术顾问、人工智能主任 Danit Gal 表示:“这是中国人工智能发展轨迹中的一份关键文件,也是中国在论述如何利用人工智能的力量造福全人类中受欢迎的补充。国际间在儿童与人工智能相关的研发、设计、使用与共存方面的努力会因为有了中国的参与而变得更加有效。现在,我们比以往任何时候都更加必须团结一致,以确保人工智能符合所有人的道德和安全要求,而中国在使人工智能成为全球共享的现实中可以发挥重要作用。”



本次发布会最后,由曾毅主任主持, 好未来副总裁李非、小米 AI 生态副总裁周力恒、旷视人工智能治理研究院院长徐云程、爱学习教育集团 AILab 主任王建超、中科院幼儿园园长王春菊、童行学院创始人郝景芳、牛津大学政策学者谢旻希、联合国大学澳门研究院院长黄京波等人围绕“发展面向儿童的人工智能”的话题,提供了自己的行业经历及专业性意见,探讨共识的技术和社会落地,并共同呼吁教育、科研、产业界协同创新,通过人工智能助力下一代健康成长。


《面向儿童的人工智能北京共识》中文版


《面向儿童的人工智能北京共识》英文版


公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2020-09-15 11:311786

评论

发布
暂无评论
发现更多内容

Java基础入门——Java语言介绍

java易二三

Java

Spring 能解决所有循环依赖吗?

江南一点雨

Java spring

2023年中国(深圳)国际耐火材料产业展会

秋硕展览

Karmada:让跨集群弹性伸缩FederatedHPA突破新边界

华为云开发者联盟

云计算 后端 华为云 华为云开发者联盟 企业号 7 月 PK 榜

尝试7分钟内上线一个网站,这个工具太赞了!

互联网工科生

低代码 搭建平台 搭建网站

深开鸿与华秋达成生态共创合作,共同打造硬件生态

华秋电子

LeetCode题解:2618. 检查是否是类的对象实例,迭代和递归

Lee Chen

JavaScript LeetCode

@Import :Spring Bean模块装配的艺术

华为云开发者联盟

spring 开发 华为云 华为云开发者联盟 企业号 7 月 PK 榜

直播预告 | 博睿学院:让Arthas带你玩转jvm

博睿数据

JVM 可观测性 智能运维 博睿数据 博睿学院

融云「北极星」数据监控平台:数据可视通晓全局,精准分析定位问题

融云 RongCloud

监控 数据 IM RTC 融云

软件测试/测试开发丨Linux进程与线程学习笔记

测试人

Python Linux 程序员 软件测试

“芯”有灵“蜥” 融合·创新!龙蜥社区走进 Intel MeetUp 议程硬核剧透来了

OpenAnolis小助手

开源 操作系统 intel Meetup 龙蜥社区

开发微信公众号本地调试+-+cpolar内网穿透

程思扬

微信公众号 网络穿透

华秋慕尼黑上海电子展圆满收官,数字化赋能智能制造!

华秋电子

共筑信创生态!亚信科技AntDB数据库与用友、东方通、星辰天合达成兼容互认

亚信AntDB数据库

数据库 AntDB AntDB数据库

Github实时数据分析与可视化训练营火热开启!免费领取5000元云上资源

阿里云大数据AI技术

MySQL 开发者 分布式计算 数据可视化 大数据、

点云标注的未来发展与技术革新

来自四九城儿

2023中国老博会/2023西部养老辅具展会

秋硕展览

软件测试/测试开发丨Linux常用命令之性能统计

测试人

Python Linux 程序员 性能 软件测试

CST电磁仿真软件要怎么学?

思茂信息

操作 仿真软件 cst cst使用教程 cst仿真软件

智能分析云 | 穿透式数据分析赋能数智国资

用友BIP

数据分析

Eplan是什么软件?学习Eplan软件的几个关键要点

智造软件

汽车电气架构 CAE CAE软件 EPLAN 电气辅助设计

开鸿智谷与华秋达成生态共创合作,共同打造硬件生态

华秋电子

软通动力与华秋达成生态共创合作,共同推动物联网硬件创新

华秋电子

对线面试官 Redis | 十 Redis集群模式

派大星

Java 面试题

不懂代码也不用怕!10款无代码网站搭建平台

高端章鱼哥

前端 工具 开发工具 设计师

润和软件与华秋达成生态共创合作,共同推动物联网硬件创新

华秋电子

先楫半导体与华秋达成生态共创合作,共建技术生态社区

华秋电子

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》_大数据_北京智源人工智能研究院_InfoQ精选文章