我国发布《治理原则》 发展负责任的人工智能

本篇文章2671字，读完约7分钟

技术释放了巨大的潜力，风险问题得到了广泛的关注。中国发布了《治理原则》

开发负责任的人工智能

中国数据资源丰富，应用场景需求迫切，基础研究和技术开发水平显著提高，人工智能发展迅速。同时，治理方面的问题也出现了。

国家新一代人工智能治理专业委员会发布了以“发展负责任的人工智能”为主题的治理原则，希望“责任”贯穿于人工智能的研发和应用之中，促进技术的健康发展。

近年来，人工智能发展迅速。人工智能作为引领新一代科技革命和产业转型的战略性技术，正在深刻影响社会生活和改变世界。它带来了巨大的变化，但也带来了许多风险。人工智能应该如何健康发展？

6月17日，全国新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》(以下简称《治理原则》)，提出了人工智能治理的框架和行动指南。这是中国促进新一代人工智能健康发展、加强人工智能法律、伦理和社会问题研究、积极推进人工智能全球治理的重要成果。

治理问题引起了广泛关注，学术界正在探索自律

“自2017年国家新一代人工智能发展规划发布以来，我国人工智能与各行业各领域的整合日益深化，显示出巨大的发展潜力。”清华大学施瓦茨曼学者学院院长、全国新一代人工智能治理专业委员会主任蓝雪表示，人工智能正在对政府管理的经济模式、社会结构、国家安全乃至国际关系产生深远影响。随着技术的发展和应用，治理问题不断出现，引起了科技界、产业界和社会的广泛关注。“许多国际组织、行业联盟和知名企业都在研究和制定与人工智能相关的标准。中国的一些学术组织和行业联盟在这方面非常活跃，行业正在积极探索行业自律。”蓝雪说。

为了促进新一代人工智能的健康发展，成立了全国新一代人工智能管理专业委员会，全面推进人工智能管理的相关工作。起草这份“治理原则”是委员会今年的主要任务之一。

在起草过程中，委员会注意听取各方意见。“我们在互联网上公开动员公众参与，形成了数百条重要建议。”蓝雪说，该委员会还举行了几次有大学、研究机构和企业代表参加的座谈会，广泛凝聚了学术界、工业界和社会的共识。

中国科学院自动化研究所研究员、国家新一代人工智能管理委员会委员曾毅表示，目前，世界各国政府、非政府组织和行业组织已经发布了40多项人工智能标准，这些标准在发布征求意见稿后往往会听取意见。“治理原则收集员工甚至普通用户对人工智能的期望和愿景，而不发布任何内容。这是治理原则最重要的特征。”

“负责任”是主题，涵盖了人工智能应用的基础研究和发展

“开发负责任的人工智能”已经成为“治理原则”的主题。接受采访的专家认为，“负责任”涵盖了人工智能的基本R&D层到应用层，应该是贯穿人工智能发展的一条主线。例如，蓝雪说:“例如，我们提出的‘和谐与友谊’原则强调，人工智能提供的产品和服务都应该是负责任的和全面的，应该以增进人类的共同福祉为目标，应该符合人类的价值观和道德观。避免误用，禁止滥用和误用。”

《治理原则》旨在更好地协调人工智能发展与治理的关系，确保人工智能的安全性、可控性和可靠性，促进经济、社会和生态的可持续发展，构建人类命运共同体，这也是《治理原则》的四大亮点。

更好地协调人工智能发展与治理的关系，实现“两轮驱动”。上海大学教授、全国新一代人工智能管理委员会委员李说:“人工智能是一个新生事物，发展是第一位的。”要推动人工智能在中国的发展，还必须解决发展中的问题。”他认为，人工智能的健康发展应该及时纳入治理框架。科技部战略规划司副司长张旭表示，要平衡发展与治理的关系，针对一些共性问题加强标准和规范的制定，针对差异通过一些具体规范更好地融入治理原则的内容，更好地整合示范和产品应用，促进治理原则的实施。

确保人工智能安全、可控、可靠，避免潜在风险。“人工智能的发展仍然具有技术和社会潜在影响的双重‘不确定性’。因此，我们必须继续对更先进的人工智能的潜在风险进行研究和预判，以确保人工智能的健康稳定发展。”曾毅指出，一些技术开发人员没有接受过这方面的专业培训，通过创新给社会带来了积极的影响，但他们没有注意到或没有意识到相关的风险，给社会带来了很大的隐患。我希望《治理原则》的发表将促进“适应性”治理，并确保人工智能将朝着有利于全人类、全社会和自然生态的方向发展。“我们现在正在把这些原则写在纸上，并最终希望把它们写在每个人工智能开发者和用户的心中。”他说。

促进可持续的经济、社会和生态发展，促进包容性共享。曾毅认为，人工智能作为一种赋能技术，应该与自然和社会和谐发展。“中国是一个发展中国家。发展人工智能，必须正视发展中的一些新情况、新问题。”他说:“人工智能应积极推进绿色发展，满足环境友好和资源节约的要求，同时缩小区域发展差距，增强弱势群体的适应性，努力弥合数字鸿沟，这符合我国人工智能发展的现实需要。”

构建人类命运共同体，倡导开放与合作。“许多国家都有不同的发展阶段，人工智能也可能面临不同的应用场景，这就需要在交流的基础上进行合作研究和对话。”蓝雪说，只有充分尊重各国人工智能治理的原则和做法，推动形成具有广泛共识的国际人工智能治理框架和标准，才能增进人类的共同福祉。

人工智能治理的原则将根据未来的变化进行调整

根据《2019年中国新一代人工智能发展报告》，中国发表的人工智能论文数量居世界首位，企业数量居世界第二位。李认为，我国数据资源丰富，应用场景需求迫切，基础研究和技术开发水平明显提高。这些因素共同推动了人工智能在中国的快速发展。

曾毅认为，随着人工智能技术在中国的快速发展，人工智能治理的能力和水平也在不断提高。“在数据隐私和安全治理方面，相关部门和全社会都做出了巨大努力，这是有目共睹的。”例如，他说，“治理原则中提出的‘个人数据授权撤销机制’也是世界领先的概念。这说明我们一直非常重视这项工作，并以非常负责的态度推动这项工作。”

“考虑到人工智能发展的高度复杂性和不确定性，我们必须按照循序渐进的思路推进人工智能的治理。”蓝雪表示，《治理原则》是一个框架文件，主要对人工智能的健康发展起到宏观指导作用，并将根据未来形势的变化和需要不断充实和调整。在蓝雪看来，人工智能的发展还面临一些基础工作，而立法就是其中之一。“我们颁布的《治理原则》也为今后的立法工作提供了重要的基础。”他认为，人工智能发展非常快，立法周期长，因此很难仅用法律框架来支持人工智能的发展。“这需要相关的原则和规范，行业规范，包括从业人员的自律，来协调促进其健康发展。”(记者顾)

[我想纠正错误]负责编辑:李润发