写点什么

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

  • 2020-09-15
  • 本文字数:2431 字

    阅读完需:约 8 分钟

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

2020 年 9 月 14 日,北京智源人工智能研究院(以下简称“智源研究院”)联合北京大学人工智能研究院、清华大学人工智能研究院、中科院计算所、中科院自动化所、中科院心理所、清华大学人工智能国际治理研究院等高校院所,以及小米、旷视、好未来、高思、极客邦、奇虎 360、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织,共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。


当前,随着算法、算力、数据等关键要素的积累和突破,人工智能正在加速拓展更多应用场景,不断向各领域溢出渗透,带动人类社会全面进入智能时代。作为一种深刻改变世界的颠覆性技术,人工智能的研发和应用为社会的发展带来全新的机遇与挑战。如同传统伦理规范是人类文明数千年发展的稳定器,人工智能方面的伦理与规范将是未来智能社会有序展开的重要基石。



智源研究院常务副院长曹岗介绍道,作为支持北京国家新一代人工智能创新发展试验区建设的重要举措,2019 年 5 月 25 日,智源研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等单位,共同发布了《人工智能北京共识》,为规范和引领人工智能健康发展提供了“北京方案”,也是是北京作为第一个国家新一代人工智能创新发展试验区建设的代表性贡献之一。共识发布一年多来,已在疫情防控、安防等热点领域进行试点示范,对于实现北京人工智能“自律”“善治”“有序”起到了重要作用。


智源研究院人工智能伦理与可持续发展研究中心主任曾毅博士指出,在宏观人工智能伦理原则的前提下,探索实现人工智能伦理原则在细分领域、针对特定群体的落地技术与实践方法,持续推动人工智能治理工作,已经成为我国人工智能创新与治理的当务之急。



曾毅解释说,近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及,儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体,儿童在接受使用 AI 产品与解决方案时,存在一定的特殊性与被动性,可选择能力差,对风险和的隐患识别能力严重不足。此外,当下诸多人工智能产品在开发、使用和售后服务方面,针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升,对用户群体尤其是儿童用户的关爱与考虑不足,将对其健康成长产生一定程度的负面影响。在全球范围内,目前非常缺乏与儿童有关的人工智能伦理原则,因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制,帮助相关企业避免潜在风险、以保障未成年人的健康成长。


为有效降低人工智能技术与产品对儿童产生的不利影响,智源研究院组织专家制定了《面向儿童的人工智能北京共识》。作为我国首个针对儿童的人工智能发展原则,《面向儿童的人工智能北京共识》是《人工智能北京共识》针对儿童群体的实施细则,涵盖了“以儿童为中心”、“保护儿童权利”、“承担责任”和“多方治理”四大主题,共包括 19 条细化原则,呼吁社会各界高度重视人工智能对儿童的影响,人工智能的发展应保护和促进儿童的权益,避免剥夺和损害儿童的权利,助力实现儿童健康成长。



目前,《面向儿童的人工智能北京共识》已得到中科院幼儿园、北京大学附属小学、好未来、高思、极客邦、童行学院等教育机构的支持,将与这些机构深度协作探索共识落地和未来的不断演进。未来智源研究院希望在相关机构的支持下,推动《面向儿童的人工智能北京共识》在其他幼儿园、中小学,以及社会教育机构中的落地实施,为推动儿童及青少年的健康发展提供重要支撑。作为初步的探索与实施工作,好未来、高思、极客邦、童行学院等教育机构和旷视、小米、奇虎 360 等人工智能企业已经表示要借助“人工智能与儿童”工作组,结合自身 AI 产品与业务积极践行《面向儿童的人工智能北京共识》。


为更高效汇集智力资源,持续推动面向可持续发展人工智能,智源研究院发起成立国际组织“面向可持续发展的人工智能协作网络”,目前剑桥大学、新加坡管理大学、联合国机器人与人工智能中心等机构已经加入,共汇聚来自 15 个国家的专家学者。作为协作网络的重要组成部分,在本次发布会中,智源研究院也成立“人工智能与儿童”工作组,第一批工作组的成员由来自小米、旷视等人工智能企业,以及好未来、极客邦等智能教育企业的代表。联合国儿童基金会驻华办事处代表将任工作组观察员。



据曾毅博士介绍,面向可持续发展的人工智能协作网络“人工智能与儿童工作组”的下一步工作计划将包括:


(1)将组织工作组梳理面向儿童的人工智能案例,分析人工智能技术如何善用,并同时避免误用和滥用;


(2)将通过工作组帮助中国和全球的人工智能企业以技术落地的方式促进人工智能保护儿童权益,助力儿童发展;


(3)为国内和全球的相关政策制定提供有益参考;


(4)与全世界其他相关机构分享经验,共享成果,以促进全球范围内人工智能助力儿童的健康成长。


针对《面向儿童的人工智能北京共识》,联合国技术顾问、人工智能主任 Danit Gal 表示:“这是中国人工智能发展轨迹中的一份关键文件,也是中国在论述如何利用人工智能的力量造福全人类中受欢迎的补充。国际间在儿童与人工智能相关的研发、设计、使用与共存方面的努力会因为有了中国的参与而变得更加有效。现在,我们比以往任何时候都更加必须团结一致,以确保人工智能符合所有人的道德和安全要求,而中国在使人工智能成为全球共享的现实中可以发挥重要作用。”



本次发布会最后,由曾毅主任主持, 好未来副总裁李非、小米 AI 生态副总裁周力恒、旷视人工智能治理研究院院长徐云程、爱学习教育集团 AILab 主任王建超、中科院幼儿园园长王春菊、童行学院创始人郝景芳、牛津大学政策学者谢旻希、联合国大学澳门研究院院长黄京波等人围绕“发展面向儿童的人工智能”的话题,提供了自己的行业经历及专业性意见,探讨共识的技术和社会落地,并共同呼吁教育、科研、产业界协同创新,通过人工智能助力下一代健康成长。


《面向儿童的人工智能北京共识》中文版


《面向儿童的人工智能北京共识》英文版


2020-09-15 11:312863

评论

发布
暂无评论
发现更多内容

让生成式 AI 触手可及:火山引擎推出 NVIDIA NIM on VKE 最佳部署实践

极客天地

什么是 OpenSSL?

NGINX开源社区

https TLS ssl 开源安全 openssl

GreatSQL 并行Load Data加快数据导入

GreatSQL

4家手机云电脑玩游戏:ToDesk云电脑、易腾云、达龙云、青椒云实测对比

小喵子

云电脑 云游戏 ToDesk ToDesk云电脑 云电竞

助力人效提升!火山引擎数智平台助推头部新能源车企业务增长

字节跳动数据平台

大数据 云服务 BI 数据可视化 物化视图

全球首发!昆仑万维重磅推出AI流媒体音乐平台Melodio

新消费日报

阿里云Elasticsearch 企业级AI搜索方案发布

阿里云大数据AI技术

人工智能 elasticsearch 搜索 rag

企业建设零信任体系的核心思路

芯盾时代

身份安全 iam 业务层 零信任模型

LLM大模型部署实战指南:Ollama简化流程,OpenLLM灵活部署,LocalAI本地优化,Dify赋能应用开发

汀丶人工智能

人工智能 ollama localAI openllm

运维实战来了!如何构建适用于YashanDB的Prometheus Exporter

YashanDB

yashandb 崖山数据库 崖山DB

DeFi 协议应提供多类封装型比特币, wBTC 不应作为唯一选择

TechubNews

2024-08-14:用go语言,给定两个长度分别为n和m的整数数组nums和changeIndices,下标从1开始。初始时,nums 中所有下标均未标记。 从第1秒到第m秒,每秒可以选择以下四种操

福大大架构师每日一题

福大大架构师每日一题

宠物供应链服务平台如何实现云化架构升级改造?

华为云开发者联盟

数据库 存储 企业号 8 月 PK 榜 企业号2024年8月PK榜

望繁信科技邀您共赴2024数博会,开启数智经济新篇章

望繁信科技

大数据 数字化转型 流程挖掘 大数据博览会 流程智能

AI提问实现学习弯道超车!如何使用AI加速学习?

可信AI进展

人工智能

聊一聊 Netty 数据搬运工 ByteBuf 体系的设计与实现

bin的技术小屋

Netty java netty netty内存管理

etl 读写 elastic 同步数据

weigeonlyyou

hadoop elastic HBase ETL Go 语言

亚信安慧AntDB数据库与实在智能完成兼容性互认证,携手助力企业数据安全

亚信AntDB数据库

AntDB

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》_大数据_北京智源人工智能研究院_InfoQ精选文章