社会各界应高度重视人工智能对儿童的影响，发展对下一代负责任的人工智能。人工智能的发展应保护和促进儿童的权益，避免剥夺和损害儿童的权利，助力实现儿童健康成长。

以儿童为中心

  面向儿童的人工智能发展应符合以下价值观：

  尊严：人工智能的发展应维护儿童的尊严。人工智能的发展应重视并尊重儿童自身的思想、意愿、情感、兴趣爱好、自尊心等，避免对儿童的人格尊严造成伤害。

  成长：人工智能的发展应保护和促进儿童的自由发展与多元成长。人工智能应促进儿童的多元智能发展和个性成长，积极反馈儿童的好奇心，助力激发儿童的潜力，助力引导儿童形成科学的、正确的价值观。

  公平：人工智能的发展应公平对待和服务于所有儿童，不应对任何儿童造成歧视或伤害。人工智能的研究与应用，凡涉及儿童享有的基本权利，不应因儿童或其父母、法定监护人及其他看护人的种族、肤色、性别、语言、宗教、政治或其他见解、国籍或社会出身、财产、伤残、出生或其他身份等而有任何区别。

  儿童优先：人工智能的发展应优先考虑增进儿童的福祉。人工智能在研究、设计、开发、部署和使用时应优先考虑儿童的需求和权益，优先给予儿童充分保护，优先促进儿童的发展。

保护儿童权利

  人工智能的发展应保护以下儿童权利：

  安全保障：人工智能的发展应助力于保护和促进儿童的身心安全。人工智能应助力于保护儿童免受任何形式的身心摧残、伤害或凌辱，忽视或照料不周，虐待或剥削，包括性侵犯，助力打击对儿童的拐卖、猥亵等犯罪行为。

  身心健康：人工智能的发展应助力于保护和促进儿童的身心健康。如：助力增强诊断和治疗儿童疾病的能力，助力解决因贫穷、饥饿、环境污染等问题引发的儿童营养与健康问题，助力保护儿童正常的认知、性格、能力、健康习惯和行为等。

  隐私保护：人工智能的发展应更严格地保护儿童隐私。收集儿童信息应遵循合法正当必要的原则，确保监护人的知情与同意，避免对儿童信息的非法收集和滥用。人工智能系统应确保儿童、父母、法定监护人或其他看护人具有同意、拒绝、数据删除、授权撤销等权利。

  优质教育：人工智能的发展应助力于为儿童提供更包容、更公平、更优质的教育。人工智能的发展应助力保护儿童接受教育的权利，助力为儿童提供科学优质的、合乎伦理的教育，帮助儿童充分发展个性、才智和能力，避免导致危险的、强制灌输的、有害健康的、不道德的教育。

  意愿表达：人工智能的发展应助力于维护儿童自由表达意见与意愿的权利。人工智能研发者应当通过合适的渠道认真听取、重视并思考儿童的意见。儿童在与人工智能交互时，应被允许自由表达意见与意愿。父母、法定监护人或其他看护人可在考虑儿童意愿的情况下帮助儿童与人工智能交互。

承担责任

  面向儿童的人工智能应承担以下责任：

  负责任：人工智能的发展应秉承对下一代负责任的态度，充分考虑并尽力降低、避免人工智能可能给儿童带来的潜在伦理、法律、社会风险与隐患。人工智能的研究、设计、部署、使用应邀请儿童及其父母、法定监护人和其他看护人参与讨论，积极回应社会各界关注和重视的问题，建立及时有效的纠错机制。

  控制风险：人工智能的应用应秉承严格、审慎的原则，努力控制并最小化给儿童带来的潜在风险。目前关于人工智能对儿童心理、生理以及行为的影响仍有待研究，且儿童自身的思维与行为具有较高的不确定性，因此面向儿童的人工智能技术及产品应在成熟度、稳健性、安全性、可靠性、可控性等方面符合更高的标准和要求。

  适度解释：人工智能模型、产品、应用与服务应在不断致力于提高自身透明性与可解释性的基础上，进一步考虑不同阶段儿童的认知水平、自身需求和表达能力，提供相应的透明程度与解释水平，并为儿童提供有效的反馈与交互方式。

  确保知情：涉及人工智能技术的非人类交互对象或非真实内容，应以明确的、可理解的方式告知儿童及其父母、法定监护人或其他看护人，确保其认知不被误导、不受人工智能可能带来的负面影响。

  培训引导：应积极引导儿童、父母、法定监护人或其他看护人正确认识和理解人工智能服务。通过多途径、多方式的培训，引导儿童、父母、法定监护人或其他看护人形成合理的认识，避免出现对人工智能应用的盲信、沉迷、误解等。

  可持续：应将对儿童成长、发展的持续有利作为面向儿童的人工智能的发展目标。应关注人工智能长期应用中的不确定性，避免为追求短期利益而可能给儿童带来负面影响的短视行为。

多方治理

  面向儿童的人工智能治理应遵循以下原则：

  制定政策：应研究和制定保护儿童权益的人工智能发展政策、伦理规范等。应加强人工智能对儿童潜在影响的研究，制定前瞻性的行为准则、法律法规和技术规范，建立长期追踪研究和周期性评估机制。鼓励和推动人工智能向保护与促进儿童权益的方向健康发展。

  健全法治：人工智能的利益相关者应自觉严格遵守儿童相关的行为准则、法律法规和技术规范。人工智能立法应关注人工智能对儿童权益的影响，促使其在法律体系中得到明确有效的体现。应设立治理机构，建立严格的审查和追责机制，严厉惩处滥用人工智能侵害儿童权益的个人及组织。

  多方协作：应鼓励儿童、父母、法定监护人或其他看护人，以及政府、相关企业、民间团体等社会各界人士参与讨论人工智能对儿童的潜在影响，并倡导多方协作共担责任的治理模式，实施跨学科、跨领域、跨部门、跨机构的面向儿童的人工智能治理。

  开放共享：应建立跨地域、全球性、综合性的人工智能治理开放合作平台，共享面向儿童的人工智能治理经验和方法，促进全球面向儿童的人工智能治理共同发展，助力人工智能时代下的全球儿童健康成长。

注：

1．有关儿童的定义，建议参考联合国《儿童权利公约》及各个国家或地区的规定。
2．本共识中有关价值观和儿童权利的描述，部分参照了联合国《儿童权利公约》文本。

AI 时代保护儿童刻不容缓！

智源研究院发布我国首个儿童人工智能发展原则《面向儿童的人工智能北京共识》

  2020年9月14日，北京智源人工智能研究院（以下简称“智源研究院”）联合北京大学人工智能研究院、清华大学人工智能研究院、清华大学人工智能国际治理研究院、中科院自动化所、中科院计算所、中科院心理所等高校院所，以及小米、旷视、奇虎360、好未来、爱学习、极客邦、新一代人工智能产业技术创新战略联盟等人工智能企业和联盟组织，共同发布了我国首个针对儿童的人工智能发展原则《面向儿童的人工智能北京共识》。

  当前，随着算法、算力、数据等关键要素的积累和突破，人工智能正在加速拓展更多应用场景，不断向各领域溢出渗透，带动人类社会全面进入智能时代。作为一种深刻改变世界的颠覆性技术，人工智能的研发和应用为社会的发展带来全新的机遇与挑战。如同传统伦理规范是人类文明数千年发展的稳定器，人工智能方面的伦理与规范将是未来智能社会有序展开的重要基石。

  智源研究院常务副院长曹岗介绍道，作为支持北京国家新一代人工智能创新发展试验区建设的重要举措，2019年5月25日，智源研究院联合北京大学、清华大学、中科院自动化所、中科院计算所、新一代人工智能产业技术创新战略联盟等单位，共同发布了《人工智能北京共识》，为规范和引领人工智能健康发展提供了“北京方案”，也是北京作为首个国家新一代人工智能创新发展试验区建设的代表性贡献之一。共识发布一年多来，已在疫情防控、安防等热点领域进行试点示范，对于实现北京人工智能“自律”“善治”“有序”起到了重要作用。

  智源研究院人工智能伦理与可持续发展研究中心主任曾毅博士指出，在宏观人工智能伦理原则的前提下，探索实现人工智能伦理原则在细分领域、针对特定群体的落地技术与实践方法，持续推动人工智能治理工作，已经成为我国人工智能创新与治理的当务之急。

  曾毅解释说，近年来随着在线课程、游戏娱乐和社交软件等产品的日益普及，儿童能够接触并使用的人工智能的场景越来越多。作为特别需要关爱的群体，儿童在接受使用AI产品与解决方案时，存在一定的特殊性与被动性，可选择能力差，对风险和隐患识别的能力严重不足。此外，当下诸多人工智能产品在开发、使用和售后服务方面，针对数据保护、授权范围、隐私安全等问题的重视程度仍有待提升，对用户群体尤其是儿童用户的关爱与考虑不足，将对其健康成长产生一定程度的负面影响。在全球范围内，目前非常缺乏与儿童有关的人工智能伦理原则，因此有必要针对儿童这一特殊群体接触使用的人工智能技术产品加以伦理研究和规制，帮助相关企业避免潜在风险、以保障未成年人的健康成长。

  为有效降低人工智能技术与产品对儿童产生的不利影响，智源研究院组织专家制定了《面向儿童的人工智能北京共识》。作为我国首个针对儿童的人工智能发展原则，《面向儿童的人工智能北京共识》是《人工智能北京共识》针对儿童群体的实施细则，涵盖了“以儿童为中心”“保护儿童权利”“承担责任”和“多方治理”四大主题，共包括19条细化原则，呼吁社会各界高度重视人工智能对儿童的影响，人工智能的发展应保护和促进儿童的权益，避免剥夺和损害儿童的权利，助力实现儿童健康成长。

  目前，《面向儿童的人工智能北京共识》已得到中科院幼儿园、北京大学附属小学、好未来、爱学习、极客邦、童行学院等教育机构的支持，将与这些机构深度协作探索共识落地和未来的不断演进。未来智源研究院希望在相关机构的支持下，推动《面向儿童的人工智能北京共识》在其他幼儿园、中小学，以及社会教育机构中的落地实施，为推动儿童及青少年的健康发展提供重要支撑。作为初步的探索与实施工作，好未来、爱学习、极客邦、童行学院等教育机构和旷视、奇虎360、小米等人工智能企业已经表示要借助“人工智能与儿童”工作组，结合自身AI产品与业务积极践行《面向儿童的人工智能北京共识》。

  为更高效汇集智力资源，持续推动面向可持续发展人工智能，智源研究院发起成立国际组织“面向可持续发展的人工智能协作网络”，目前剑桥大学、新加坡管理大学、联合国机器人与人工智能中心等机构已经加入，共汇聚来自15个国家的专家学者。作为协作网络的重要组成部分，在本次发布会中，智源研究院也成立“人工智能与儿童”工作组，第一批工作组的成员由来自小米、旷视等人工智能企业的代表，以及好未来、极客邦等智能教育企业的代表组成。联合国儿童基金会驻华办事处代表将任工作组观察员。

  据曾毅博士介绍，面向可持续发展的人工智能协作网络“人工智能与儿童工作组”的下一步工作计划将包括（1）将组织工作组梳理面向儿童的人工智能案例，分析人工智能技术如何善用，并同时避免误用和滥用；（2）将通过工作组帮助中国和全球的人工智能企业以技术落地的方式促进人工智能保护儿童权益，助力儿童发展；(3) 为国内和全球的相关政策制定提供有益参考；（4）与全世界其他相关机构分享经验，共享成果，以促进全球范围内人工智能助力儿童的健康成长。

  针对《面向儿童的人工智能北京共识》，联合国技术顾问、人工智能主任Danit Gal表示：“这是中国人工智能发展轨迹中的一份关键文件，也是中国在论述如何利用人工智能的力量造福全人类中受欢迎的补充。国际间在儿童与人工智能相关的研发、设计、使用与共存方面的努力会因为有了中国的参与而变得更加有效。现在，我们比以往任何时候都更加必须团结一致，以确保人工智能符合所有人的道德和安全要求，而中国在使人工智能成为全球共享的现实中可以发挥重要作用。”

  麻省理工大学、阿西洛玛人工智能原则发起者Max Tegmark教授说：“儿童在很多方面都是易被人工智能系统操纵和利用的最弱势的群体，因此也应得到最强有力的保护。《面向儿童的人工智能北京共识》是人工智能伦理界受欢迎的贡献。”

  本次发布会最后，由曾毅主任主持，好未来副总裁李非、小米AI生态副总监周力恒、旷视人工智能治理研究院院长徐云程、爱学习教育集团AI Lab主任王建超、中科院幼儿园园长王春菊、童行学院创始人郝景芳、牛津大学政策学者谢旻希、联合国大学澳门研究院院长黄京波等人围绕“发展面向儿童的人工智能”的话题，分享了自己的行业经历及专业性意见，探讨共识的技术和社会落地，并共同呼吁教育、科研、产业界协同创新，通过人工智能助力下一代健康成长。

 
转载自：面向儿童的人工智能北京共识 - International Research Collaboration Information P