5月25日，北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟，共同发布《人工智能北京共识》。

AI产业发展方兴未艾，如何实现行业“自律”被提上日程。针对人工智能的研发、使用、治理三方面，《人工智能北京共识》提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。其中，研发方面，提倡要有益于增进社会与生态的福祉，服从人类的整体利益，设计上要合乎伦理，体现出多样性与包容性，尽可能地惠及更多人，要对潜在伦理风险与隐患负责，提升技术水平控制各种风险，并最大范围共享人工智能发展成果。

使用方面，提倡善用和慎用，避免误用和滥用，以最大化人工智能技术带来的益处、最小化其风险，应确保利益相关者对其权益所受影响有充分的知情与同意，并能够通过教育与培训适应人工智能发展带来的影响。在治理方面，对人工智能部分替代人类工作保持包容和谨慎态度，鼓励探索更能发挥人类优势和特点的新工作，广泛开展国际合作，共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度，并开展长远战略设计，以确保未来人工智能始终保持向对社会有益的方向发展。

同时，北京智源人工智能研究院人工智能伦理与安全研究中心揭牌成立。中国科学院自动化研究所曾毅研究员任研究中心主任。

关于这些原则确立的意义，曾毅称：“比如在使用阶段，我们构建一个人工智能平台，实际上并不知道用户最终会怎么去使用。一旦出现使用者滥用的情况时，平台能不能很快自动检测并进行规避，这是所有的研发者和企业应该注意到的问题。”

据了解，目前欧盟、英国、日本等国际组织和国家，均发布了人工智能的伦理准则。《人工智能北京共识》关注“服务于人”，将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，并强调促进人工智能相关准则的“落地”，为未来打造“负责任的、有益的”人工智能。

同时，据曾毅透露，未来还将开展符合人类伦理道德的智能自主学习模型研究，实现人工智能行为与人类价值观的校准；建设数据安全示范应用系统，最大限度防止数据，探索允许用户撤销个人数据授权的机制及计算平台。

数据显示，截至去年5月，全国人工智能企业4040家，涉及智慧医疗、智能家居、智慧城市、智慧零售和无人驾驶等多个领域。

会议认为，人工智能涉及范围极广，应对人工智能带来的挑战，不是一个领域、一个城市、一个部门、一个机构能够独立完成的，需要充分汇聚科学家、企业家、产业联盟和社会各界的力量，多方参与、共同努力，持续推动人工智能伦理、规范方面的学术研究与成果转化应用，并不断强化行业自律。