毋庸置疑，基于现代信息技术的数字化治理、智慧化治理或平台化治理已经成为政府治理的重要趋向，也是推动政府治理体系与治理能力现代化的必然要求。然而，伴随而来的政府治理算法“黑箱”问题也引起了人们的广泛关注，在算法歧视、算法偏见和算法侵犯个人权利频繁发生的情况下，有针对性地澄清和阐释治理算法“黑箱”，提出相应的应对策略也是非常有必要的。
进入21世纪以来，随着大数据、人工智能和智能感应等信息技术的发展，“用数据说话、用数据决策、用数据管理、用数据创新”的技术治理形态成为政府变革的方向。习近平总书记在致首届数字中国建设峰会的贺信中指出，当今世界，信息技术创新日新月异，数字化、网络化、智能化深入发展，在推动经济社会发展、促进国家治理体系和治理能力现代化、满足人民日益增长的美好生活需要方面发挥着越来越重要的作用。以海量数据为基础的各种技术治理形态正在国家治理的各个领域发挥作用，构成国家治理体系与治理现代化的技术基础。在此背景下，各级政府都陆续开始探索数字化转型的治理现代化之路。在技术治理实践中，海量数据是基础，是一切技术治理应用创新发挥作用的基本要素，算法则是关键，决定了海量数据的应用方向及其计算效果。在城市灾害预警、交通和执法等领域，都可以找到应用算法的典型或成功案例。可以说，算法已经在政府决策方面发挥了重要作用，是改进决策和推进有效治理的重要技术工具。然而，由于算法具有专业性、抽象性和不可见性等特征，技术治理中的算法“黑箱”问题也引起了广泛的担忧，成为技术治理应用在国家治理中进一步发展的限制性因素。
算法“黑箱”的表现形态
事实上，从不同的角度理解，算法“黑箱”具有不同的表现形态，相应的应对方案也不同，因而厘清技术治理算法“黑箱”的不同含义，对于澄清算法“黑箱”误解、预防算法“黑箱”风险、解决算法“黑箱”问题具有非常重要的作用。
第一，作为符号代码的算法“黑箱”。当我们提到算法“黑箱”时，首先想到的就是一行行抽象的、高度专业化的、用代码语言编写的符号代码，比如很多代码是用Python计算机编程语言编写的，普通公众只能在显示屏幕上看到不断滚动的抽象数字或符号。事实上，如同人类任何一种语言或知识，作为符号代码的算法“黑箱”只是触及了很多公众的知识盲区。而对于相关专业或经过系统学习的公众而言，这种所谓的算法“黑箱”是很容易被破解的。比如，很多代码的开发者已经开始针对代码开展培训，提高普通公众的代码素养，也使普通公众对算法及其运行机制提出更多的意见和看法，以优化治理算法的实际运行效果。
第二，作为保密信息的算法“黑箱”。理解算法“黑箱”的第二个维度是政府或技术企业将特定问题上的算法设为保密信息，不对外公开具体的代码信息和用途。一方面，为了在市场竞争中保持优势，很多为技术治理平台提供服务的技术企业，不愿意公开特定治理技术的算法及其代码规则，比如在智慧垃圾分类场景中，不同技术企业算法设置的处置流程、规则、时限和标准等，都有所差异。特别是在使用算法进行评估、排名、趋势分析和智能匹配的领域，技术公司为了保持与其他竞争对手的差异，也会倾向对算法采取保密措施。另一方面，由于政府治理的特殊性，在很多问题或领域使用的算法需要保密，比如公安部门办案使用的智能预测和追踪算法，环卫部门的环境情况监测算法。这些领域的算法需要保持一定的隐蔽性，以维护国家治理权威、保持算法计算精度和公共服务效果。
第三，作为权力表达的算法“黑箱”。对技术治理领域算法“黑箱”的主要关注点聚焦于算法运行中的权力运作过程及其背后的公共责任问题。美国学者弗兰克·帕斯奎尔（Frank Pasquale）指出，当前西方国家治理权力越来越多地通过算法表达出来，而由于算法本身的隐蔽性，西方民众无法察觉，也就无法看到权力的运作过程，更无法透视算法中的公共权力使用的责任问题。在社会科学学者眼中，技术治理中的算法涉及的往往不是符号代码，而是算法中所蕴含的社会生存方式，所谓算法“黑箱”则指的是国家如何获取、计算和应用社会事实信息。其中的关键是，算法在政府决策和运行中发挥着什么样的作用？政府部门为什么提供某一种服务而不提供另一种服务？比如在很多城市的智慧治理平台，平台是如何识别和处理相关城市问题或事务的？其中的算法运作过程是什么？毋庸置疑的是，人们往往更关注治理算法中的权力运作，尤其是与算法相关的政府决策过程和公共资源配置等问题。
从技术监督和法律规制方面应对算法“黑箱”问题
毋庸置疑，基于现代信息技术的数字化治理、智慧化治理或平台化治理已经成为政府治理的重要趋向，也是推动政府治理体系与治理能力现代化的必然要求。然而，伴随而来的政府治理算法“黑箱”问题也引起了人们的广泛关注，在算法歧视、算法偏见和算法侵犯个人权利频繁发生的情况下，有针对性地澄清和阐释治理算法“黑箱”，提出相应的应对策略也是非常有必要的。
正如福柯指出的，现代政府追求一个透明社会的梦想，在其自身的每个部分都清晰可见，从而消除治理过程中产生的各类“黑暗地带”。进一步分析三种类型的算法“黑箱”，不难看出，解决算法“黑箱”问题需要从技术和法律互动的维度出发，从技术监督和法律规制两个方面应对算法“黑箱”问题。一方面，要从技术维度加强对算法及其运行过程的常态化监督，比如由专门的监控算法来监督其他治理算法的运行。一方面，要从法律层面推动算法规则的透明化，比如世界上很多国家建立的数据保护法或算法合法性审查机制，《国务院关于印发新一代人工智能发展规划的通知》也提出，要建立健全公开透明的人工智能监督管理体系，实现对智能算法的全过程监管。
需要指出的是，算法在政府治理中的广泛应用刚刚兴起，对算法“黑箱”问题的关注与研究也刚刚起步，而且算法“黑箱”在不同治理领域和问题上的表现形式、呈现状态和对其的应对策略也有很大差异。因此，学界和政府相关部门需要进一步观察和分析算法在不同政府治理议题上的运行机制，进一步分析算法“黑箱”的影响因素及其生成机理，提供更有针对性的应对策略。
（本文系国家社科基金重点项目“协商民主的体系化及其程序机制研究”（20AZD023）阶段性成果）
（作者单位：上海交通大学国际与公共事务学院）
