【新闻资讯】人工智能伦理与治理：要将伦理融入AI全生命周期

近年来，随着人工智能产业的快速发展，其伦理和治理问题也引起了各行各业的广泛关注。如何在不同的文化背景下理解人工智能伦理？人工智能治理的认知逻辑和框架范式是什么？人工智能伦理应该如何从理论、概念到实践？

6月1日，国家新一代人工智能治理专业委员会主任、清华大学文科高级教授、人工智能国际治理研究院院长薛澜在2022年北京智能源大会人工智能伦理、治理与可持续发展论坛上表示：“新技术往往会对现有的社会伦理规范产生影响，人工智能技术也不例外”。 薛澜提出，要构建解决信息不对称的沟通平台，在此基础上寻求共同点和差异，找到符合整个社会发展过程的解决方案机制，建立技术和概念更新迭代的更新机制。 近年来，我国先后发布了《新一代人工智能治理原则》、《新一代人工智能伦理规范》等政策文件，明确提出了将伦理道德融入人工智能整个生命周期的八项原则。党委书记、科技部主任、新一代人工智能发展研究中心主任赵志耘表示，国家科技伦理委员会人工智能分会正在研究起草人工智能伦理高风险清单，以更好地促进人工智能研究活动的伦理监督。

一、安全和法律问题是底线，不应纳入伦理治理

据不完全统计，全球发布了100多份人工智能伦理治理文件，政府、国际组织、学术界和工业界高度重视人工智能伦理治理。 赵志耘表示，伦理治理对人工智能活动的良性引导是人工智能健康发展的重要保障。 赵志耘表示，推进人工智能伦理治理有三个关键要求，即把握人工智能发展的规律和特点，明确实际伦理问题；把握人工智能伦理治理的边界，规范适当范围内人工智能的发展；把握发展与治理的平衡，促进发展。 她指出，目前的人工智能技术还没有达到强人工智能和通用人工智能的水平。因此，未来的伦理风险不应被视为现实风险，以免给人工智能的发展带来不必要的负面影响。此外，还应明确人工智能治理的底线要求。伦理治理强调更高的需求，促进创新，防范风险统一，安全法律问题作为底线，不应纳入伦理治理的范畴。 二、构建人工智能评价平台，帮助实施人工智能治理 上海交通大学人工智能研究院首席顾问教授李仁涵在谈到人工智能技术发展与应用的社会属性时，将人工智能技术的发展与应用归结为安全问题、伦理问题、变异安全问题三个方面。 安全问题主要包括国家安全、社会安全、经济安全、个人安全等。伦理问题主要包括隐私、公平、透明、歧视、就业等领域。这两种安全问题目前已经发生。对于变异安全问题，即人工智能可能无法控制，对社会和人类的伤害尚未发生，这是一个非常规的问题。 李仁涵说，人工智能是一种通过机器模拟人类认知能力的技术，它的要求类一样和谐相处。规范人工智能治理。我们应该从标准、规则、法律、监督、执法等方面入手。 目前，国际组织制定人工智能标准已进入井喷期，国际人工智能治理证书正在加快可操作性。在这方面，李仁涵认为，迫切需要建立相应的规则体系，一方面促进人工智能的可持续健康发展，另一方面有利于符合国际标准，实现全球发展。同时，还应建立人工智能评估平台（系统），以帮助实施人工智能治理。 李仁涵表示，人工智能评价平台（系统）将成为未来社会发展的重要基础设施之一，是人工智能产业实现各行各业可持续健康发展的基本保障。平台（系统）也将是相关人才培训、成长和发挥作用的重要舞台，也是参与国际规则制定的重要基础。因此，评价平台（系统）应尽快实施三步战略。

三、将伦理融入人工智能的整个生命周期

近年来，人工智能技术的应用引起了越来越多的伦理争议：美国研究机构发表了一篇论文，称人工智能设计了自我繁殖的生物机器人Xenobot；2019年，亚马逊和其他公司使用人工智能监控系统。 评估和解雇员工；人脸识别技术的应用也引起了社会对个人信息安全的广泛关注。 对于人工智能治理的问题，薛澜认为，应考虑人工智能技术应用给经济和社会运行带来的直接、间接的收入和成本，权衡利弊。除了人工智能技术应用的长期经济和社会影响外，还应考虑人工智能技术应用对各种社会行为准则的影响。 薛澜建议完善人工智能伦理安全治理体系，推进法律法规、标准规范的实施，建立多学科参与对话机制，跟踪技术发展前沿，发现新的安全伦理问题，建立人工智能前沿研究和应用的伦理评价、预警和控制机制，加强人工智能研究和应用相关利益群体的伦理教育，提高伦理意识，积极培养健康的智能文化和数字人文思想，加强科学传播和伦理普及，提高公众认知水平。 薛澜说：我们应该将伦理融入人工智能的整个生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构提供伦理指导，促进人工智能的发展。 在谈到将伦理融入人工智能的整个生命周期时，赵志耘表示，政府的责任是引导各重视伦理规范，嵌入式操作，充分体现整个生命周期的概念。例如，2019年，科技部批准了新一代人工智能创新发展试验区的18个城市试点项目。试验区建设中必不可少的环节是进行伦理治理规范试验。在每个试验区计划中，对于伦理规范，如何实施各学科都有相应的操作规范。 四、人工智能改革创新模式和社会治理模式 人工智能领域的伦理问题与其他领域的伦理问题有什么本质区别？这种差异对人工智能伦理治理范式的要求是什么？ 在这方面，我国科技大学机器人实验室主任、CAAI人工智能伦理治理工作委员会主任、全球人工智能理事会执行委员陈小平表示，最根本的区别是技术本身。过去，自动化技术只能取代部分劳动力，但现在人工智能，即使只是特殊的人工智能，在特殊领域也远远超过人，取代人。一些哲学家预测，97%的行业从业者将被取代，除了人工智能和决策者。根本原因是技术。 谈到与其他行业伦理的差异，陈小平提出了三点看法。 1.可控性。如果未来实现了通用人工智能和强大的人工智能，也许所有的行业和领域都可以被人工智能所取代。陈小平说，虽然目前不太可能，但理论上不能排除。一旦人工智能具有通用能力，它可能无法实现不依赖人类的生存，我们必须高度重视它。 2.人工智能对创新模式的挑战。在此之前，人类的技术不足以挑战创新模式，甚至特殊的人工智能也深刻地改变了创新模式。 3.进入人工智能与社会治理融合的新技术时代。随着人工智能技术的广泛应用，人类社会已经进入了一个基本的新时代。传统的社会治理模式不再完全有效，必须发展新的社会治理模式。

关键词： 人工智能 人工智能技术