智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

2020 年 9 月 14 日，北京智源人工智能研究院（以下简称“智源研究院”）联合北京大学人工智能研究院、清华大学人工智能研究院、中科院计算所、中科院自动化所、中科院心理所、清华大学人工智能国际治理研究院等高校院所，以及小米、旷视、好未来、高思、极客邦、奇虎 360、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织，共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。

当前，随着算法、算力、数据等关键要素的积累和突破，人工智能正在加速拓展更多应用场景，不断向各领域溢出渗透，带动人类社会全面进入智能时代。作为一种深刻改变世界的颠覆性技术，人工智能的研发和应用为社会的发展带来全新的机遇与挑战。如同传统伦理规范是人类文明数千年发展的稳定器，人工智能方面的伦理与规范将是未来智能社会有序展开的重要基石。

智源研究院常务副院长曹岗介绍道，作为支持北京国家新一代人工智能创新发展试验区建设的重要举措，2019 年 5 月 25 日，智源研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等单位，共同发布了《人工智能北京共识》，为规范和引领人工智能健康发展提供了“北京方案”，也是是北京作为第一个国家新一代人工智能创新发展试验区建设的代表性贡献之一。共识发布一年多来，已在疫情防控、安防等热点领域进行试点示范，对于实现北京人工智能“自律”“善治”“有序”起到了重要作用。

智源研究院人工智能伦理与可持续发展研究中心主任曾毅博士指出，在宏观人工智能伦理原则的前提下，探索实现人工智能伦理原则在细分领域、针对特定群体的落地技术与实践方法，持续推动人工智能治理工作，已经成为我国人工智能创新与治理的当务之急。

曾毅解释说，近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及，儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体，儿童在接受使用 AI 产品与解决方案时，存在一定的特殊性与被动性，可选择能力差，对风险和的隐患识别能力严重不足。此外，当下诸多人工智能产品在开发、使用和售后服务方面，针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升，对用户群体尤其是儿童用户的关爱与考虑不足，将对其健康成长产生一定程度的负面影响。在全球范围内，目前非常缺乏与儿童有关的人工智能伦理原则，因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制，帮助相关企业避免潜在风险、以保障未成年人的健康成长。

为有效降低人工智能技术与产品对儿童产生的不利影响，智源研究院组织专家制定了《面向儿童的人工智能北京共识》。作为我国首个针对儿童的人工智能发展原则，《面向儿童的人工智能北京共识》是《人工智能北京共识》针对儿童群体的实施细则，涵盖了“以儿童为中心”、“保护儿童权利”、“承担责任”和“多方治理”四大主题，共包括 19 条细化原则，呼吁社会各界高度重视人工智能对儿童的影响，人工智能的发展应保护和促进儿童的权益，避免剥夺和损害儿童的权利，助力实现儿童健康成长。

目前，《面向儿童的人工智能北京共识》已得到中科院幼儿园、北京大学附属小学、好未来、高思、极客邦、童行学院等教育机构的支持，将与这些机构深度协作探索共识落地和未来的不断演进。未来智源研究院希望在相关机构的支持下，推动《面向儿童的人工智能北京共识》在其他幼儿园、中小学，以及社会教育机构中的落地实施，为推动儿童及青少年的健康发展提供重要支撑。作为初步的探索与实施工作，好未来、高思、极客邦、童行学院等教育机构和旷视、小米、奇虎 360 等人工智能企业已经表示要借助“人工智能与儿童”工作组，结合自身 AI 产品与业务积极践行《面向儿童的人工智能北京共识》。

为更高效汇集智力资源，持续推动面向可持续发展人工智能，智源研究院发起成立国际组织“面向可持续发展的人工智能协作网络”，目前剑桥大学、新加坡管理大学、联合国机器人与人工智能中心等机构已经加入，共汇聚来自 15 个国家的专家学者。作为协作网络的重要组成部分，在本次发布会中，智源研究院也成立“人工智能与儿童”工作组，第一批工作组的成员由来自小米、旷视等人工智能企业，以及好未来、极客邦等智能教育企业的代表。联合国儿童基金会驻华办事处代表将任工作组观察员。

据曾毅博士介绍，面向可持续发展的人工智能协作网络“人工智能与儿童工作组”的下一步工作计划将包括：

（1）将组织工作组梳理面向儿童的人工智能案例，分析人工智能技术如何善用，并同时避免误用和滥用；

（2）将通过工作组帮助中国和全球的人工智能企业以技术落地的方式促进人工智能保护儿童权益，助力儿童发展；

（3）为国内和全球的相关政策制定提供有益参考；

（4）与全世界其他相关机构分享经验，共享成果，以促进全球范围内人工智能助力儿童的健康成长。

针对《面向儿童的人工智能北京共识》，联合国技术顾问、人工智能主任 Danit Gal 表示：“这是中国人工智能发展轨迹中的一份关键文件，也是中国在论述如何利用人工智能的力量造福全人类中受欢迎的补充。国际间在儿童与人工智能相关的研发、设计、使用与共存方面的努力会因为有了中国的参与而变得更加有效。现在，我们比以往任何时候都更加必须团结一致，以确保人工智能符合所有人的道德和安全要求，而中国在使人工智能成为全球共享的现实中可以发挥重要作用。”

本次发布会最后，由曾毅主任主持， 好未来副总裁李非、小米 AI 生态副总裁周力恒、旷视人工智能治理研究院院长徐云程、爱学习教育集团 AILab 主任王建超、中科院幼儿园园长王春菊、童行学院创始人郝景芳、牛津大学政策学者谢旻希、联合国大学澳门研究院院长黄京波等人围绕“发展面向儿童的人工智能”的话题，提供了自己的行业经历及专业性意见，探讨共识的技术和社会落地，并共同呼吁教育、科研、产业界协同创新，通过人工智能助力下一代健康成长。

《面向儿童的人工智能北京共识》中文版

《面向儿童的人工智能北京共识》英文版