把握好人工智能政府采购10项原则

编者按：世界各国在政府治理中越来越多地使用人工智能。然而，由于欠缺对人工智能的了解，担忧技术过于复杂，且缺少实施技术的必要知识，公共机构往往对采用人工智能保持谨慎态度。为此，包括Salesforce、德勤（Deloitte）、世界经济论坛(WEF)和英国AI办公室在内的一个协作小组日前推出了《人工智能系统政府采购白皮书》。该指南为政府提供了人工智能的定义和大致按顺序排列的10项原则，以确保公共部门负责任地使用。本刊对该指南进行编译，以飨读者。

把握好人工智能政府采购10项原则

《人工智能系统政府采购白皮书》——摘编（一）

什么是人工智能？

“人工智能”（Artificial Intelligence），英文缩写为AI，它正式被定义为计算机科学的一个分支，企图了解智能的实质，并生产出一种新的能以人类智能相似的能力做出反应的智能机器。这些能力包括：学习和适应;感觉理解和互动;推理和规划;优化程序和参数;自治;创造力。

过去十年，人工智能蓬勃发展，特别是作为人工智能核心技术，神经网络和深度学习的发展极大地提高了人工智能在复杂环境与多体交互中做出最优决策的能力。同时，人工智能以新数据集合和新算法助力很多领域和具体工作大幅度提高工作效率、生产率和可靠性，甚至可以说为绝大多数的行业都带来了可观的收益。

为什么公共采购需要人工智能？

世界各国政府也在积极布局人工智能。政府治理中通过大数据、超算、精算等计算理论以及深度学习等技术提高公共部门生产力或工作效率。此外，布局人工智能技术还可以极大地提高政府公共服务精准化水平，提升公民生活质量。例如，人工智能为改善人们生产生活提供了技术支撑，并在城市治理、社会治理、环境治理、城市运行、学校教育、医疗养老、司法服务等领域广泛应用。但是，目前各国政府缺乏获取人工智能解决问题的经验，大部分公共机构对人工智能这一技术持谨慎观望态度。人工智能政府采购准则也许可以为政府解决上述问题提供思路。

首先，政府和社会公众出于对偏见、隐私、问责制、透明度和整体复杂性的担忧，对利用人工智能持谨慎态度。因此，公共机构在采用人工智能上既要了解其带来的积极影响，更要了解负面结果。例如，在司法领域，尽管人工智能辅助办案系统的开发和应用，能够为法官刑事办案提供证据分析判断的技术帮助。然而，如果量刑规范化本身存在问题，过于限制法官个体的刑事裁量权，则人工智能辅助办案系统也会不适当地压缩办案法官的司法能动空间，甚至无限扩大量刑规范本身带来的负面效应。

（政府官员应使用可以提供可解释性的AI系统，以便对模型如何得出结论提供解释。）在没有关于如何确保问责制、透明度和可解释性的明确指导的情况下，政府可能无法履行其对制定算法决策的专家以及公众的期望，并可能无意中造成新的风险或危害。

当前，关于人工智能各国公共机构缺乏必要的技能完全理解或跟踪人工智能算法的因果关系，需要依赖人工智能技术的供应商的专业知识以及已有模型认识人工智能内涵及其发展逻辑。因此，无论是公共机构还是提供人工智能的供应商都希望构建一个强大的、严格的、透明的人工智能政府采购指导框架。一方面，可以帮助大多数行政机构克服不愿购买或使用人工智能技术的思想；另一方面，可以帮助研发人工智能的公司打开新的市场，帮助人工智能领域的公司在透明、公开的环境中竞争政府合同。

其次，建议通过立法、政策措施、框架协议、示范合同等方式建立一套有效的人工智能政府采购制度，以此提升人工智能政府采购效率，提高采购结果满意度。因为，良好的、技术性的政府采购既定原则可能在人工智能政府采购中具有更大的意义。例如，许多政府的采购工作已经交给专业性的采购官或者采购团队负责。对比，具有专业性采购经验的人士，通过人工智能方式进行政府采购活动，对弱势群体、少数民族地区以及其他受保护团体可能会产生无意的歧视或损害。考虑到政府在维护包容性方面的作用，因此人工智能政府采购中未来还需进一步强调多学科交叉和多种条件交叉融合。

再其次，人工智能近年来发展迅速，推动经济社会各领域从数字化、网络化向智能化加速研究与应用。更重要的是政府以及公共机构通过政府采购启动重大项目和系统来促进新一代人工智能技术的运用和传播。

最后，政府采购规则和采购惯例通常会对市场产生重大影响，尤其是任何一项新技术发展的早期阶段。政府权威与公信力对行业标准的制定有一定的借鉴。总而言之，人工智能政府采购白皮书旨在指导与公共采购全生命周期有关的所有各方（政策官员、采购官员、数据科学家、技术提供者及其他相关人士）朝着维护公共利益和福祉的总体目标迈进。

人工智能政府采购指南如何制定？

人工智能政府采购指南由世界经济论坛（WEF）第四次工业革命中心与多方利益相关者协商后制定的。包括英国人工智能办公室组成的协作小组、盛庞卡大数据公司（Splunk）、德勤有限公司（Deloitte）以及Salesforce（一家CRM解决方案提供商）。办公室的项目研究员召开研讨会，由来自政府、学术界、民间社会和私营部门的代表探讨关键问题并共同设计应对方案。

如何使用指南？

该指南提供了政府在获取和部署人工智能解决方案和服务之前应确定的基本采购准则。指南特别强调：人工智能采购准则并非旨在解决所有公共机构采购人工智能时所遇到的所有问题，但希望通过准则为政府使用人工智能和采购人工智能技术时提供有力的帮助。具体来说，该准则将有助于加快行政机构政策目标的落实；政府采购官员与商务团队制定与人工智能相关的提案请求并管理政府采购流程；数据从业者（例如数据科学家、数据工程师、统计学家和软件工程师）维护公共利益并识别和管理潜在风险；人工智能解决方案提供商可以更好地了解政府人工智能项目的核心期望并使他们的提案与最新的公共采购标准保持一致。该准则由10项高级别建议组成，根据它们与采购累积过程的相关性，按顺序大致排序。这些建议包括：每项准则包括多个相关的原则；准则中会详细阐述每个原则的实质内容。随着人工智能技术复杂程度和政府用途的发展，人工智能政府采购指南应该不定时更新以反映新的技术和领先实践。最终目标是为各国政府以及国际机构制定正确的政策，协议甚至标准，以促进有效、负责任和符合道德的人工智能供公众使用。

人工智能政府采购指南中准则概述

从事人工智能政府采购流程前，编写需求建议书和评估建议书响应时应考虑以下原则：

1.采购流程应关注所面临的问题和机会，而不是特定的解决方案，并支持迭代方法。

a.创新采购流程。以创新为中心的采购流程为加速人工智能系统等新技术的采用、促进创新、支持次要政策标准等提供了机会。比如，这些过程支持早期的市场参与，使购买者可以在不同阶段进入市场。这样就有机会在真正购买决策前对该技术在相关问题领域进行测试。

b.采购时要给出明确的问题描述，而不是解决方案的详细说明。除了能发挥各相关方的优势外，该方法还有两个好处：一是可以在早期进入市场；二是可以让新的AI服务提供商参与进来，政府不再关注于特定的产品。培育新兴的AI生态系统是未来关键的经济投资。

c.在产品开发过程中支持迭代方法。AI驱动的解决方案与其他技术在学习和利用新数据来进行训练方面有明显的不同。因此，AI系统的采购过程应该为迭代预留一定的空间，以确保公平的、透明的评估和决策过程。

2.对使用AI对公众的益处进行定义并评估风险。

a.在需求建议书中说清楚为什么觉得这个问题和AI相关，同时接受可选的技术方案。

b.在需求建议书中解释清楚在评估标书时公共利益是自动决策过程的主要驱动力。

c.在开始采购过程前进行人工智能风险和影响评估，确保评估结果反馈到采购需求层面，并在决策点重新进行评估。除此之外，在人工智能解决方案的全生命周期内，从设计到实现后的维护，都要进行系统性和持续性的风险监控。人工智能解决方案提供商可以通过项目管理功能来识别、草拟解决方案和报告风险。

3.使采购与现有的政府战略一致，并有助于其进一步改进。

a.查阅政府发展规划文件和关于新技术的公共政策指南文件，如人工智能国家战略、创新战略和工业战略。

b.与其他相关政府机构和科研院所相互协作和学习。

4.在需求建议书中加入相关的潜在立法和行业规则。

a.对管理数据类型和应用类型的相关立法、权利、管理规则和其他规范进行审查，并在需求建议书中进行引用。

b.将与人工智能系统部署相关的机密性、商业密码保护、数据隐私最佳实践考虑进来；根据公共利益需要，可以在保密和保护商业秘密的前提下，在调查过程中，可以通过部分披露、有限的审查选择和其他增强公众信任的手段促进透明度。

5.阐明访问相关数据的技术和管理可行性。

a.确保从采购流程开始就有适当的数据管理机制。

b.评估相关数据对项目是否可用。

c.定义是否以及如何就采购计划和随后的项目与厂商进行数据共享。

6.强调数据使用的技术和伦理限制来避免历史数据偏见这样的问题。

a.考虑数据的敏感性，以及数据使用是否公平；评估不同数据集的隐私需求以确定适当的保护等级。

b.在需求建议书中强调对数据的限制，要求投标者描述如何解决这些问题。并为未提到的相关限制提出解决方案；如果政府没有正确的技能或方法来综合检查数据的可能限制，可以提供给厂商关于数据高级状态的指南，以起草适当的提议。保证需求建议书中数据的需求还包括进行数据质量评价和为低质量的数据提出解决方案。

7.与不同的、跨学科团队工作。

a.在跨学科的团队中通过采购流程提出想法并进行决策。组成包含设计、采购和操作人工智能系统的跨学科团队。跨学科的团队应包括人工智能解决方案要应用领域的政策、机器学习/数据科学、数据工程、技术、采购、伦理和人权方面的专业人才。确保有多样性的团队。包括来自不同性别、种族、社会和经济背景的成员，还应确保有观点的融合。这可以确保问题和解决方案是来自不同角度的，这样可以帮助解决偏见的问题。

b.要求中标者组织具有适当技能的团队。在评标时应当对中标者的团队技能进行评估，并作为评标结果的一部分。

8.关注采购流程的算法审计和透明性机制。（在传统模型中，服务接受者和服务提供者可以就结果或决策进行交互。接受者还可以对决策提出问题或对结果进行挑战。但在使用神经网络类技术的全自动系统中，服务接受者无法预测结果。因此神经网络这样的算法非常准确，但无法就决策向第三方进行解释。）

a.通过人工智能解决方案来促进可审计的文化。在一些场景下，应当对服务提供商提出允许对方案进行独立审计的要求。这可以帮助预防或解决一些意外的后果。服务提供商和政府官员应当对人工智能解决方案的意外后果进行风险分析，并将法律的限制写进合同中来明确各方的责任。

b.确保人工智能决策系统尽可能透明。鼓励可解释人工智能（XAI）的使用。要求投标者提供关于模型构建方法的信息等。

c.通过算法内部和外部的可解释性来作为建立审计和市场竞争的方法。

9.实现人工智能服务提供者和收购实体进行成果转让和长期风险评估的过程。

a.在采购过程中要明确采购包括人工智能在内的工具并非一次性的决定，而要在全生命周期内测试应用。

b.要求人工智能服务提供者确保成果转让和培训是项目参与的一部分，确保人工智能解决方案的维护和第三方独立审计。

c.要求人工智能服务提供者提供如何管理非专业人员对应用的合理使用的方法。

d.在提出的方案的评估标准中加入伦理的考虑。

10.为人工智能解决方案提供商创造公平竞争的条件。

a.用多种方式尽可能多地接触人工智能解决方案提供商。

b.通过采购流程尽早与厂商建立联系。

c.确保AI解决方案的互操作性，并要求公开许可条款以防厂商锁定（lock-in）。考虑避免厂商锁定的策略，尤其是与黑盒算法相关的那些。具体包括使用开放标准、公开许可条款和公共领域发布条款；既可以设计新算法，也可以对现有算法进行修改。因此需要考虑知识产权的问题；为了保持对过时的系统的访问，要确保可以独立于厂商地对人工智能解决方案进行逆向以维护系统。

昝妍/编译

本报拥有此文版权，若需转载或复制，请注明来源于中国政府采购报，标注作者，并保持文章的完整性。否则，将追究法律责任。