陈兵 | 如何加强对算法的治理|人工智能|算法|计算机|非对称

随着以智能化、数字化、网络化为鲜明特征的治理现代化步伐不断加快，算法的广泛应用在推动新时代经济高质量发展的同时，也对现行的经济社会法治化治理模式和方法提出了挑战。南开大学法学院教授、竞争法律与政策研究中心执行主任陈兵在《国家治理》周刊撰文，对如何加强对算法的治理，充分发挥算法算力对经济发展的正向引领和驱动效用进行了深入分析。

更多内容，请点击封面购买本期杂志

数字经济步入算法时代

算法本身并非一开始就运用于计算机科学，它早先是作为人工思考和处理的一种方法而存在的。随着计算机的诞生和发展，算法由于具有可抽象化和程式化的特点，逐渐成为计算机运行的基本方式和思想来源。互联网时代许多标志性技术，如人工智能、大数据技术、区块链等，都依赖各种高阶算法和强大算力以实现其作用。

人工智能以算法作为运行规则。人工智能是对人脑智能的模拟，它必须依照一定规则来实现智能化，而算法恰恰提供了这种运行规则。被用于人工智能的算法为智能算法。该算法让计算机系统拥有了自己的“思想”，可以在算法规则确立的流程下运用算力求解问题。现如今，算法逐步内化为人工智能的核心和基石，推动人工智能的不断进步。

大数据技术以算法为支撑。大数据技术的本质是在收集、存储数据的基础上，处理、分析数据，并从中提炼出有用信息。数据本身并无意义，其背后所蕴含的信息才是大数据技术追求的终极目的和价值所在。而数据不会自动转化为人们所需要的信息，而是要经过提取、处理、分析，这就需要借助算法明确数据应用目的，组成数据含义体系，建立数据提取标准，提供数据处理和分析方法，之后借助于算力，为获取信息奠定基础。

区块链以算法构建基础体系。区块链是一种分散式数据库，其最大特点就是去中心化，它无需借助第三方机构作为交易保障，通过全网共享交易数据库，仅凭一己之力便可建立信用体系。这一特点是以非对称加密算法和哈希算法为基础的。非对称加密算法通过公钥和私钥保障交易真实性和个人信息安全，哈希算法则通过散列值使区块连接成链。倘若没有密码学算法为根基，区块链技术就不可能存在。

算法是当下数字经济迭代发展的创新基础和核心动能。我国在新基建发展规划中多次提及在算法及算力支撑下推动数字基础和数据新基建的发展。算法时代已然到来，算法算力已成为数据主体，包括个人、企业及政府定位新坐标、把握新动向、选择新进路的关键依托和基础工具。

算法运行对现行治理模式

提出新挑战

算法在推动信息通信技术与计算科学技术融合创新和广泛应用、积极促进经济社会发展的同时，也对现行的经济社会治理模式和方法提出了新的挑战。

算法精准推送加剧“信息茧房”效应

“信息茧房”效应指在信息传播中，公众由于对信息没有全方位需求，只关注自己关心的讯息，将自己束缚于如蚕丝织就的“茧房”中的现象。

算法发展加剧了这种效应。网络平台和互联网公司通过自动化决策算法，抓取用户的网络浏览记录和访问信息，掌握用户的需要，之后针对每个用户推出“私人订制”，实现信息的“精准推送”，从而招徕更多用户资源，取得竞争优势。对于用户来说，这种方式满足了他们的特定需求，有可取之处，但也有明显缺点。具体来说，它使用户长期被同质化信息包围，被“禁锢”在固定信息笼罩的空间之中，剥夺、损害了用户全面了解和获取其他各类信息的权利和机会。但由于这种损害往往是“隐性”的，且外观中立，很难运用现有法律进行规范。

算法数据抓取易泄露个人信息

用户访问和使用网站或平台产生的数据大多属于个人信息的范畴，但现在互联网企业往往未经用户同意就收集和提取用户私人信息，对公民个人信息权利构成了侵犯。而除了直接非法收集、使用公民个人信息的侵权行为外，还有一种间接、隐蔽的侵权行为，即算法预测。

当前，通过算法分析合法获取用户数据，并预测公民个人信息，成为侵犯个人隐私的新方式。值得注意的是，与大数据结合后，预测的准确率越来越高。例如，Facebook的算法根据用户提供的种族、职业等少量个人信息就能推断出用户的性取向，且准确率高达80%左右。全美第二大零售企业 Target公司曾根据算法分析，向一位已孕未成年少女邮寄婴儿用品手册，其法定监护人却根本不知其已怀孕。如今，日益智能化的算法，同大数据等技术相融合，不断冲击着现有的公民个人信息和隐私保护体系。

算法自动化决策扩散权益损害风险

随着各种新型高端算法的涌现，人工智能逐步被开发出来。依据算法进行自动化决策的人工智能便利了人类生活，也产生了更为复杂的权益损害责任问题，如智能投顾对金融消费者权益的损害责任问题和智能合约的损失责任问题。

根据美国证券交易委员会的定义，智能投顾是基于在线算法为客户提供的资产管理服务。智能投顾依据算法自动为金融消费者提供资产管理方案，当智能投顾因算法不合理、系统故障等因素造成金融消费者资产损失时，责任由谁承担、以何种方式承担、损失具体金额如何计算，都是非常棘手的问题。

智能合约的损失责任问题主要来自于区块链。交易双方达成合约后，根据算法，系统会将交易记录记入区块，无需当事人操作而自动履行合约。与传统合同不同的是，智能合约一经达成，便不能变更或解除。当事人因情势变化要变更、解除合同时，如何处理系统按照算法继续执行而造成的损失，也是一大难题。

概言之，算法自动化决策在提高人们的生活质量和工作效率的同时，也引发了更加复杂的风险问题，这些问题都是当下难以解决的。

算法合谋引发竞争规制难题

算法合谋大致可分为算法辅助型合谋和算法自动型合谋，而后者已构成当前全球各个国家和地区反垄断法规制的一大难题。垄断协议以经营者之间存在合谋为构成要件。随着“互联网+”经济的深度发展，算法被引入市场，成为经营者合谋新形式。算法合谋中，经营者以逻辑相同或相似的算法，借助大数据技术，收集并分析自身经营状况、其他经营者经营状况和市场行情等数据，得出各经营者利益最大化的合谋条件并传递给其他经营者，并根据市场动态变化调整经营行为，同时通过算法识别、察觉偏离合谋的经营者行为并加以打击报复以维持合谋稳定。

算法合谋突破了协议、决定和协同行为等传统合谋形式，经营者间无需做出任何表示行为即可达成合谋。这样一来，反垄断法执法机关就难以识别和处理不良竞争行为。同时，合谋内容是通过算法形成的，与人的意志无直接关联，也为经营者逃避反垄断法的规制提供了借口。总的来说，算法的运用为垄断协议提供一个极为隐蔽、动态调整和精准迅速的合谋工具，使传统反垄断法面临巨大考验。

算法歧视导致用户陷入保护困境

算法不可能在任何情况下都准确无误，某些情况下算法运行会产生与人类常识和伦理相违背的结果，其中一个问题就是因算法导致对不同人群的歧视。这种歧视问题的产生主要包括内部和外部两种因素。

内部因素是指算法自身不可避免的缺陷。现有技术本身存在局限性，所以算法在现有技术下运行会出现错误。例如，早期的一些人像识别算法由于图像获取技术的局限而出现过将黑人误识为黑猩猩的情况。同时，算法获取、使用的数据中还会包括问题数据，这便会造成误差，当误差积累到一定程度，就会发生质变，导致歧视。这种内部因素所导致的问题往往是不可控制、无法避免的。

外部因素是指算法之外人为导致的问题。基于技术中立性原则，算法本身没有倾向。但算法并非完全客观的产物，其代码是开发者编写的，开发者是有主观意识的人，所以算法自然带有人的主观意识，当主观意识中有偏私并被写入代码中，就会产生歧视的可能性。譬如“算法杀熟”造成的价格歧视，是指算法通过收集、分析消费者消费信息，了解其喜好，当消费者频繁购买某种商品和服务时，算法发出高于正常价格的要约，形成歧视。

完善治理算法的

体制机制和政策体系

如果说数据是新时代经济发展的“石油”，那么算法就是数据“石油”的“炼油厂”，算力就是“炼油厂”的生产、萃取和传输能力，即实质影响数据处理效能与效益的能力。要想充分挖掘数据价值，推动数字经济发展，实现互联网经济的提质增效，就必须加快完善法律规制，使算法算力对经济发展产生正向的引领和驱动效用。为此，应以算法算力从开发到应用全过程为基础，从国家、企业、个人三大主体出发，构建规制体系。

加快相关法律规范的科学有效供给

我国算法的法规制定处于起步阶段，相关规范散见于《民法总则》《网络安全法》《电子商务法》等法律以及《数据安全管理办法》《信息安全技术个人信息安全规范》等行政法规和部门规章中。总体来讲，算法法规数量少、内容粗略，规范间缺乏统一衔接，可操作性不强，未形成科学有效、层级合理的规范体系。

因此，建议整合现有规范，修改、删除不合理的规范，保留、完善仍有价值的规范，同时补充制定反应算法特征的新规范，形成以一部专门法律为主、其他各级各类规范性文件为补充的稳定性和灵活性相结合的关于算法治理的规制体系。同时，明确算法规制基本原则，建立算法规制具体规范，特别是对算法滥用、算法合谋、算法歧视、算法霸凌等新型侵权甚至是违法行为做出制度规范。针对算法从开发到应用的全过程，构建体系完整、标准统一、权责明确、有机联系的法律规范体系，为算法行业及其产业化的持续健康发展提供法治基础。

坚持政府监管和行业自律相结合

监管算法不仅需要公权力介入，同时也需要民间自律。当前算法行业专业化程度越来越高，对监管部门的专业化要求也越来越高。而许多行政执法机构和人员缺乏相关专业知识，监管时力不从心，且如果完全由政府来监管，不仅会增加行政成本，还会浪费行政力量资源，因此，应坚持政府监管和行业自律相结合。

在体系构建上，应建立以中央和国家网信部门为统筹、国务院和地方各级各主管部门分工协作的行政监管体系，以及涵盖全国各级互联网、数据信息行业协会和第三方专业机构的行业监管体系。将监管部门的审查工作部分让渡给协会或经过认证的第三方专业机构，明确政府和协会、机构的权责边界。在监管方式上，建立算法使用前的第三方专业机构审查机制、算法使用过程中监管部门随机抽查机制以及出现问题后监管部门和第三方机构共同调查追责机制。由此，形成政府与民间合作、内部和外部合力、动态同静态结合的全方位算法监管体系。

划定用户、企业权益及政府权力运行边界

算法不仅涉及到开发和使用算法的互联网企业的权益，同时也与使用网络产品和服务的用户权益紧密相关。因此应明晰划分用户和企业的权益边界。具体来说，就是要明确规定用户在使用网络产品和服务过程中有哪些权利和义务、企业在开发和使用算法中有哪些权利和义务、用户和企业违反法律规定应承担何种责任以及责任的承担方式和分配原则等。

除用户和企业外，政府也是算法使用者，政府在社会治理中也需要算法算力辅助。因此，算法规制应在国家和个体之间寻求平衡点；应立法规定政府开发和使用算法的事前审查机制、算法所涉对象的异议提出和处理机制以及权益受损救济和追责机制，从而厘定个体权益边界和公权力行使边界，使算法不仅助力经济社会发展，也为国家治理体系和治理能力现代化建设做出贡献。

为算法算力发展筑牢法治根基

纵观人类历史上的技术变革，无一不推动生产力水平整体跃升，进而重塑社会上层建筑。今天，高端算法和强大算力的发展加快了科技与法律的深度融合，对法治社会建设提出了更高标准和更严要求，相关法律制度必须与时俱进、革故鼎新，从算法全过程出发，加强对各类主体行为的规范化管理，实现多元利益的统筹兼顾，为算法算力的发展筑牢法治根基。