华南理工大学学报(社会科学版)   2020, Vol. 22 Issue (4): 33-41  DOI:10.19366/j.cnki.1009-055X.2020.04.004
0

引用本文 

殷继国, 沈鸿艺, 岳子祺. 人工智能时代算法共谋的规制困境及其破解路径[J]. 华南理工大学学报(社会科学版), 2020, 22(4): 33-41. DOI: 10.19366/j.cnki.1009-055X.2020.04.004.
YIN Ji-guo, SHEN Hong-yi, YUE Zi-qi. The Regulation Dilemmas and Solutions of Algorithmic Collusion in the Era of Artificial Intelligence[J]. Journal of South China University of Technology (Social Science Edition), 2020, 22(4): 33-41. DOI: 10.19366/j.cnki.1009-055X.2020.04.004. #esle

基金项目

教育部国家级大学生创新创业计划项目(201910561033);司法部国家法治与法学理论研究项目(18SFB2048);华南理工大学百步梯攀登计划项目(j2tw201902131)

作者简介

殷继国(1979-), 男, 博士, 副教授, 研究方向为反垄断法、经济法

文章历史

收稿日期:2019-12-15
人工智能时代算法共谋的规制困境及其破解路径
殷继国, 沈鸿艺, 岳子祺    
华南理工大学 法学院, 广东 广州 510006
摘要:作为一种新型的共谋形式,算法共谋的技术性、稳定性、智能化和隐蔽性特征使得算法共谋的反垄断规制面临诸多困境。在价值层面存在效率与公平、自由与秩序的权衡困境,在意思联络的认定上存在证明难问题,在识别共谋和收集证据上存在技术性困境,在责任承担上存在归属和分配难题。为有效规制算法共谋行为,需要在价值层面兼顾经济效率与实质公平、经营自由与市场秩序,从源头引导、过程监管和结构规制三个维度构建多元规制体系,适度扩展意思联络的认定标准,明确算法共谋责任的归属和分配。
关键词人工智能    算法共谋    垄断协议    反垄断法    
The Regulation Dilemmas and Solutions of Algorithmic Collusion in the Era of Artificial Intelligence
YIN Ji-guo, SHEN Hong-yi, YUE Zi-qi    
School of Law, South China University of Technology, Guangzhou 510006, Guangdong, China
Abstract: As a new form of collusion, the characteristics of technicality, stability, intelligence and concealing of algorithmic collusion lead to predicaments in its anti-monopoly regulation. At the value level, there is a dilemma of weighing efficiency and fairness, freedom and order value. On the identification of intention liaison, it is difficult to prove the existence of such contact. Besides, there are technical difficulties in identifying collusion and collecting evidence, as well as problems in attribution and distribution of liability. In order to effectively regulate algorithmic collusion, firstly, at the value level, more attention shall be paid to balancing the value of economic efficiency and substantial fairness, free management and market order. Secondly, it is necessary to construct a multi-regulation system from three dimensions containing source control, process supervision and structure regulation. Thirdly, the criteria for identifying intention liaison shall be expanded appropriately. Fourthly, the attribution and distribution of the liability for the algorithmic collusion shall be clarified.
Keywords: artificial intelligence    algorithmic collusion    monopoly agreement    anti-monopoly law    
一、问题的提出

人工智能的发展离不开大数据、算法和算力三大要素,其中算法是人工智能最重要的技术基础和人工智能企业的核心竞争力。算法的运用有可能提高消费者剩余和实现经营者利润最大化,但算法也为经营者之间达成共谋提供了更加隐蔽的技术手段。让算法共谋广为人知的恐怕是2011年《苍蝇的成长》一书的售价飙升事件,其得益于亚马逊的定价算法,这本市场起售价只有35.54美元的书籍在短短几天之内飙升到2 369万美元。算法共谋作为一种新颖的共谋形式,引起了理论界和实务界的广泛关注。2015年,阿里尔·扎拉奇和莫里斯·E.斯图克在《算法的陷阱:超级平台、算法垄断与场景欺骗》一书中对算法共谋进行了开创性研究,掀起了一股研究算法共谋的热潮。2017年,经合组织发布的《算法与共谋:数字时代的竞争政策》是专门研究算法共谋的报告。与此同时,算法共谋进入了执法和诉讼程序。2015年4月,美国司法部指控托普金斯(Topkins)及其同谋利用算法交换价格信息并协调卖价,从而确保其所销售的壁纸按价格高低显示在亚马逊网站搜索页面的最前面;同年12月,美国公民斯宾塞·迈耶(Spencer Meyer)向美国联邦地区法院指控优步联合创始人与使用优步定价算法的司机达成了共谋。

近年来,我国开始重视对算法的规制,2018年可以说是算法规制元年。2018年7月1日,我国首个人工智能深度学习算法标准《人工智能深度学习算法评估规范》发布,目的是发现深度学习算法中影响算法可靠性的因素并给出提高算法可靠性的活动建议;8月31日,全国人大常委会通过的《中华人民共和国电子商务法》第十八条、第四十条首次明确了搜索引擎领域算法经营者的基本义务,包括提供不针对个人特征选项的义务、提供搜索算法自然结果的义务。2019年,国家在算法规制领域持续发力。10月8日,文化和旅游部发布的《在线旅游经营服务管理暂行规定(征求意见稿)》禁止在线旅游经营者利用定价算法实施大数据“杀熟”。在反垄断法领域,尽管目前尚未出现算法共谋案例,但随着算法技术趋于成熟以及运用更加广泛,可以预见的是,算法共谋必将是未来反垄断执法机构和法院关注的焦点。与传统共谋相比,人工智能时代的算法共谋具有自身的特殊性,现行反垄断法规制算法共谋将面临诸多困境。当前,国内外理论界和实务界对算法共谋的认识还不全面和深入,算法共谋对现行反垄断法提出了哪些挑战?反垄断法又该如何规制算法共谋?本文将对这些问题进行研究,以期促进我国算法市场以及人工智能行业的快速健康发展。

①  大数据“杀熟”是指通过算法对用户画像后,对不同用户进行不同的定价,由此引发的价格歧视现象。参见:高富平、王苑.大数据何以“杀熟”?[N].上海法治报,2018-05-16(B06)。

二、算法共谋的内涵阐释及类型化

作为人工智能的核心技术之一,算法是一种结构化的决策过程,它使计算过程自动化和智能化,从而根据数据输入生成决策结果。算法的自动化和智能化优势,能在一定程度上克服人类有限理性的缺陷,大大提高了决策的效率和科学性。然而,算法既可能是天使,也可能是魔鬼。正如《纽约时报》专栏作家Claire Cain Miller所言:“算法虽没有是非观,但并不能就此忽视它对社会造成的影响。”[1]算法可能会被经营者利用来达成固定价格、限制产量等协议进而排除、限制市场竞争,以获取超额垄断利润。

(一). 算法共谋的内涵阐释

经营者利用算法来实现共谋,可以在极短时间内察觉竞争对手的动向并自动调整价格和策略使得定价达成一致。这一过程在外界看来虽未产生意思联络,但实际上可能产生排除、限制市场竞争的结果。算法共谋的实现,是共谋参与者以及与大数据、算法和算力共同作用的结果。大数据提供算法共谋需要的数据信息,算法提供了经营者共谋需要的工具,算力决定了经营者达成共谋的效率。大数据和人工智能的发展,尤其是算法的自动化和智能化,为默示共谋的达成提供了更为隐蔽的方式,使得经营者之间即使没有明示的口头或书面协议,也能够较容易地达成一致行为并获取超竞争水平的利润。

简言之,算法共谋是同一市场中两个或两个以上的经营者,利用算法实施的协调价格、限制产量等排除、限制市场竞争的行为。从目前来看,算法共谋主要运用于协调价格领域,但在限制生产数量和销售数量等领域,算法共谋都有可能广泛存在。相对于传统共谋,算法共谋主要利用了大数据时代海量的数据信息以及先进的数据分析技术和人工智能技术,使得算法共谋具有以下传统共谋所不具备的特征。

第一,技术性。在传统共谋中,经营者主要通过谈判、协商、电话甚至眼神、手势等共谋手段实现协同。算法共谋则由经营者通过算法这一高度复杂和不透明的技术手段予以实现,在某些类型的算法共谋中,甚至不需要经营者介入,不同经营者的算法能够自动实现协同。算法共谋的这一技术性特征使得反垄断执法机构和法院对算法共谋的识别变得异常困难。因此,反垄断执法机构和法院应当密切关注和跟进算法共谋在技术层面的不断发展,以提高其在算法等新技术领域识别行为是否违法的能力。

第二,稳定性。一方面,算法通过预测和减少策略不确定性使得市场透明度不断提高、互动频率增强,通过在共谋者之间消除信息不对称和发现时滞,快速报复和惩罚机制变得更为迅速和有效,因而强化了共谋者之间的监督制约机制。另一方面,算法的绝对理性、无情感、无偏见的特性使得算法共谋克服了传统共谋下经营者之间因相互不信任而出现的“囚徒困境”,使得算法可以在各种复杂的环境中维持合作,从而强化了算法共谋的稳定性。

第三,智能化。智能化体现在算法共谋弱化了人的意志以及协议达成的自动性两个方面。即使是相对简单的定价算法也能通过大量数据的收集和分析形成一套定价策略机制,在满足一定条件的情况下自动地确定或调整价格,整个过程中并未体现人的意志,仅仅是触发了定价规则。例如,作为计算机算法软件市场的行业领袖,Boomerang Commerce开发的定价算法软件可以每分钟检索100~150个数据点,并适时调整价格;亚马逊网站上出售的绝大多数商品都可以做到每隔15分钟调整一次价格[2]21。因此,如果市场上更多算法具备消除非理性因素这种能力,其控制方式愈发类似甚至趋同,就能凭借自己的“智力”达成共谋,价格也越可能向垄断水平发展。

第四,隐蔽性。共谋分为明示共谋和默示共谋,明示共谋协议“通过观察经营者的行为或者查处一些书面证据,可以比较容易地判断行为者故意的主观意图和结果行为是否违反反垄断法”[3]。默示共谋因共谋的外在特征不明显,导致反垄断执法机构难以找到经营者共谋的证据。作为默示共谋的算法共谋,隐蔽性更强。算法共谋的隐蔽性体现在共谋达成的隐蔽性和共谋实现后证据难以获得两个方面。当借助算法来达成和实施垄断协议时,经营者之间的意思联络更为隐晦,甚至不需要经营者有任何意思联络,导致共谋越来越难以被察觉和被辨识。不仅如此,共谋达成后证据的收集难度加大,更难以追责。

(二). 算法共谋的类型化

扎拉奇和斯图克将算法共谋分为信使类共谋、中心辐射式共谋(轴辐类共谋)、预测类共谋和自主类共谋四种类型[2]52-54。经合组织根据算法在共谋形成机制中的作用,将算法共谋分为监控算法共谋、并行算法共谋、信号算法共谋和自学习算法共谋四种类型[4]。虽然表述有差别,但经合组织的分类与扎拉奇和斯图克关于算法共谋的分类基本相同。

监控算法共谋。监控算法共谋是利用监控算法实现的共谋。监控算法的运行流程是通过收集竞争对手的数据并进行对比分析,通过打价格战自动报复背叛者,以维持共谋状态,是设计较为简单的一类算法。传统共谋因难以监控共谋者的背叛意图和背叛行为,其稳定性较差。监控算法的出现,由于其在检测和惩罚偏差方面异常迅速,经营者不敢也不能有任何实际偏离共谋的动机。从产生效果看,监控算法可以通过避免不必要的价格战来维持默示共谋,提高共谋结构的稳定性。由于监控算法共谋实质上仍需要明确沟通,只要价格和其他交易条件由经营者协调一致,就可以使用传统的反垄断法工具进行规制。

并行算法共谋。并行算法共谋是具有竞争关系的经营者通过相同或相似的算法达成一致价格的共谋类型。在并行算法共谋中,经营者通过共享定价算法,以便能同时对市场条件的任何变化做出相同的价格反应,以达到协调价格的目的。经营者通常不需要就共谋协议进行沟通,就能产生排除、限制竞争的结果,因而比监控算法共谋更为隐蔽。在实践中,经营者共享定价算法的方式通常有两种:一是多家经营者使用同一家经营者开发的算法,或者使用不同经营者开发的,但工作原理和执行模式类似的算法;二是其他经营者依赖同一家经营者(枢纽经营者)开发和运行的算法来达成共谋,枢纽经营者成为算法共谋的核心,但凡使用该算法的经营者得出的价格都能成为公认的市场价格,形成了“中心辐射式算法共谋”,滴滴、优步的自动定价算法就是中心辐射式算法的典型例子。

信号算法共谋。信号算法共谋是指在市场竞争中,为制造焦点,发出暗示,诱使其他商家接收此暗示并提高价格,从而达到默示共谋的目的。信号算法共谋的实施阶段分为发送信号、接收信号、分析信号,最终达成类似价格。在传统共谋中,每当经营者提高价格以表明共谋意图时,若大多数竞争者没有收到信号或故意不对其进行回应,信号发出方须承担销售数量降低、利润削减等不利后果,这阻碍了信号发出行为;又因信号发出成本较高,经营者更倾向于等待竞争对手发出信号,最终导致协调延迟甚至无法协调的局面。信号算法的出现,可以减少甚至完全消除信号成本,使经营者能够自动设置消费者无法捕捉或利用的快速迭代价格,被拥有良好分析算法的竞争对手读取,从而高效地建立并维持共谋形态。2016年,立陶宛旅行产品线上预定平台(E-TURAS)涉嫌向部分旅行代理商发出限定折扣优惠信号,最终被欧盟法院认定构成了价格合谋,这一合谋从类型上看属于信号算法共谋。互联网行业的快速发展使得大数据呈指数级增长,大数据技术的成熟又使得大数据收集、分析成本大幅降低,经营者可以低成本地获得所需信息,市场因此变得更透明。市场透明度越高,经营者信号成本越低,就越容易达成信号算法共谋。此外,由于信号算法变得越来越复杂以及不同算法软件存在兼容性问题,经营者发出的共谋信号往往只能被使用相同算法的经营者接收和解读,其他经营者、消费者和反垄断执法机构则难以察觉。

自学习算法共谋。自学习算法共谋是指通过机器深度学习达成共谋的形式。前三种算法共谋都依赖事先设定的算法规则并按照既定的规则来实施共谋,自学习算法共谋依赖的自学习算法拥有强大的预测和学习能力,通过不断学习和重新适应其他市场参与者的行为,将在不需要经营者实质参与的情况下进行共谋。自学习算法相较于人类而言,强大的地方在于其可以通过高速试验最终达到合作均衡并维持无限数量的反竞争价格。通过依靠自学习算法将决策从人类转移到计算机,经营者可以避免任何明确的沟通,容易逃脱法律的惩罚。对于大多数人来说,算法和运算过程犹如“天书”,尤其是人工智能和深度学习技术的发展,可能会产生“算法黑箱”乃至“算法独裁”问题[5]

三、算法共谋引发的规制困境

脱胎于工业时代、成熟于信息时代的反垄断法理论和制度,面对人工智能时代的算法共谋,明显表现出力不从心的症状。算法共谋至少在价值层面、认定层面、技术层面以及追责层面给现行的反垄断法规制体系带来重大挑战。

(一). 基本价值权衡方面的困境

定价算法能够有效改善商品的定价模型,分析和预测价格趋势,从而方便经营者及时调整战略决策,大大提升经营者的运行效率和社会整体效率。与此同时,不论经营者是否通过算法来实施,其对竞争对手的价格变化做出反应是经营自主权的体现。然而,经营者的经营自主权并不是不受任何限制的,尽管算法有助于维护效率价值并体现了自由价值,但不应就此忽视算法共谋可能对市场竞争秩序和消费者利益造成的负面影响。在算法开发者或管理者没有排除、限制竞争意图和意思联络的情况下,其开发或使用的算法根据市场动态和最优策略,自主选择并与其他经营者实施某种具有排除、限制竞争效果的市场行为,客观上破坏了市场竞争秩序,损害了消费者利益,理应受到反垄断法的制裁。由此引发了法律价值权衡的困境,即如果法律对经营者运用算法的行为不予规制,就可能产生排除、限制市场竞争的效果,背离反垄断法所应追求的公平和秩序价值;如果法律规制这种行为,就可能阻碍科技创新从而不利于效率价值和自由价值的实现,同样违背了反垄断法的价值目标。因此,算法共谋规制的价值目标,一方面是经营效率和经营自由,另一方面是公平与秩序,如何在两者之间进行选择并把握好相应的尺度是算法共谋反垄断法规制在法律价值层面遇到的难题。

(二). 意思联络认定方面的困境

在传统的反垄断法框架下,垄断协议的构成要件有四个:经营者有限制竞争的合意、经营者进行了意思联络、经营者达成一致行为以及产生了排除、限制竞争的效果。在反垄断实践中,意思联络认定的困境一直存在,这是因为共谋各方进行意思联络的方式具有隐蔽性、复杂性等特点。1991年,美国司法部对美国主要航空公司以及美国航空运价公布公司(Airline Tariff Publishing Company,简称ATPCO)展开了反垄断调查,指控美国主要航空公司利用ATPCO的电脑系统能够监测对方机票价格并做出快速反应的能力达成了价格共谋;航空公司则辩称,价格变化是单个航空公司做出的,他们并没有要求或接受任何协议。由于案件的复杂性和行为的隐蔽性,双方最终于1994年和解[6]205-223。该案中ATPCO的算法是较为简单的监控类算法,在算法技术越来越发达、算法复杂度越来越高的现代社会,算法共谋者意思联络的认定变得更加困难。由于算法的智能化和隐蔽性,经营者之间无须进行意思联络,仅依靠算法的实时监测和对定价策略的迅速调整,便能够保持一致和设定相同价格。尤其是在自学习算法共谋中,算法由于其强大的自主学习和执行能力,可以独立、自主地达成和实施垄断协议。自学习算法作为垄断协议的参与者,其本身是理性的,不存在任何法律意义上的主观意图,也难以对算法之间的意思联络予以证明。在这种情况下,由于其缺少意思联络的证明,算法共谋很难被认定为垄断协议而予以规制,但其产生的排除、限制竞争的效果可能会对市场竞争秩序和消费者利益造成比明示共谋更大的危害。

(三). 反垄断执法机构的规制技术困境

算法共谋的技术性、智能化、隐蔽性等特征,给反垄断执法机构的执法带来了一系列技术难题。在现行的反垄断法分析框架和规制体系下,反垄断执法机构难以识别算法共谋行为;即便调查出经营者可能存在算法共谋的情形,如何收集证据也成为难点。

反垄断执法机构难以识别算法共谋行为。基于算法共谋的特殊性,反垄断执法机构识别算法共谋行为可能会存在以下三个障碍:首先,算法能够降低成本的优势使得经营者之间达成共谋的成本障碍消失,算法共谋变得更普遍,进一步增大了反垄断执法机构察觉算法共谋行为存在的难度。其次,为实现和维系共谋,经营者通常需要达成一致的策略、监督彼此对策略的共同遵守、惩罚偏离行为三个条件[7]。算法降低了经营者达成一致策略的成本,使得参与算法共谋的经营者数量大大突破了传统共谋下经营者的数量,因而扩大了反垄断执法机构需要监控的对象范围。最后,根据“囚徒困境”理论,每个合作者均有背叛的动机,良好的监督机制显得至关重要。算法的出现,使得实时监控和瞬时惩罚成为可能,有效的威慑机制使得每一个共谋成员都难以选择脱离共谋。对外界来说,“算法黑箱”有可能变成“算法共谋黑箱”,现有的共谋发现机制让反垄断执法机构难以识别共谋行为的存在。

反垄断执法机构难以搜集算法共谋证据。在过去的一个多世纪里,反垄断法的发展建立在它所寻求规制的行为人内在的人格假设之上[8]。基于行为人的人格假设和“囚徒困境”理论,反垄断法规定了宽恕制度,帮助反垄断执法机构发现共谋行为存在的证据。但算法的运用能够极大降低因人性多疑的弱点产生的相互不信任感,以及即使有背叛行为也能快速施加惩罚的特性使得共谋变得非常稳定,传统反垄断执法机构针对共谋采取内部突破的手段难以继续。此外,算法共谋中“透明度悖论”的存在也使得反垄断执法机构在收集证据上面临较大障碍。所谓“透明度悖论”,是指在算法共谋中,反垄断执法机构要想获得需要的证据信息,必须要提高市场透明度;但提高市场透明度则会让算法共谋参与者之间的信息沟通更顺畅,算法共谋也变得更稳定和更隐蔽,进一步加大了反垄断执法机构收集证据的难度。

实践中,由于默示共谋存在行为识别和证据搜集上的难题,各国反垄断执法机构在默示共谋违法性认定上十分谨慎,甚至在一定程度不得不容忍默示共谋行为。算法共谋基本上属于默示共谋,若对算法共谋采取容忍态度,将会导致算法共谋充斥整个人工智能市场,市场竞争秩序将处于混乱状态,消费者利益和社会公共利益必将遭受损害。因此,反垄断执法机构如何在浩如烟海的大数据和高度智能化的“算法共谋黑箱”中收集可用证据,以及如何审查这些证据,均对反垄断执法技术提出了更高要求。

(四). 算法共谋经营者责任归属和分配困境

传统共谋是由“人”主导的合谋,“人”是责任主体。“传统反垄断法对垄断协议的规制是基于‘人类中心主义’的视角。”[9]在算法共谋中,算法的运用使得问题变得复杂化,甚至可能会脱离“人类中心主义”的基本规制框架。在监控算法共谋、并行算法共谋和信号算法共谋中,算法基本上是执行算法开发者或管理者的指示,开发者或管理者是责任主体。但在自主学习算法中,算法通过不断接收数据进行自主学习和实验,甚至能够脱离算法开发者或管理者的控制自行与其他经营者的算法达成共谋。在这种情况下,究竟是由经营者来承担责任还是由算法本身来承担责任?若由经营者来承担责任,这与反垄断法认定垄断协议要求有意思联络的条件不相符,因为经营者对自学习算法共谋通常不知情。即便决定由算法经营者来承担责任,究竟是以连带责任形式指控算法开发者、管理者以及算法受益者,还是选择其中一家经营者独立承担责任?当开发者和管理者的主观故意难以证明时,责任的分配问题也将变得十分棘手。

若由算法本身来承担责任,这就涉及算法或人工智能的法律主体地位问题。事实上,人工智能产品的法律责任问题早已成为热议话题。2018年,在全球首例无人驾驶汽车致死案中,优步无人驾驶汽车在事故中被判定不承担任何刑事责任;同为人工智能产品的机器人索菲亚却被赋予了公民身份,这似乎违背了“人类中心主义”的伦理和法律价值观。因此,由算法来承担共谋责任,与当前主流观念不符,同时也可能会出现最终无“人”承担法律责任的情形。

①   据路透社报道,美国检方于2019年3月5日表示,优步对2018年3月发生在亚利桑那州的一起撞车事故不承担刑事责任。在这起事故中,优步的一辆无人驾驶汽车撞上一名行人,并致其死亡。这是全球首例无人驾驶汽车致人死亡的事故,因此受到外界的广泛关注。参见:《全球首例无人驾驶汽车致死事故责任认定:Uber不负刑责》,https://auto.qq.com/a/20190306/003881.htm,2020年1月15日访问。

②   2017年10月26日,在沙特首都利雅得举行的“未来投资倡议”大会上,沙特授予汉森公司生产的机器人索菲亚公民身份,她成为史上首个获得公民身份的机器人。参见:《世界上首个拥有国籍的机器人索菲亚是沙特阿拉伯公民》,https://www.sohu.com/a/328937387_100058214,2020年1月15日访问。

四、算法共谋的反垄断规制路径

算法技术本身没有善恶,但算法的开发者和管理者有善恶之分。一方面,我们需要鼓励算法技术的广泛运用;另一方面,需要对算法的开发和运用进行适度规制,以惩恶扬善。为此,我们需要从价值权衡、多元规制体系的构建、意思联络范围的扩展以及责任归属和分配方面规制算法共谋行为。

(一). 价值层面兼顾效率与公平、自由与秩序价值

随着人工智能时代的到来,算法成为经营者竞争的重要工具。在阻止信息欺诈、优化供应链、精准推送广告、推荐潜在商品、信息网络安全和动态定价等方面,算法发挥了相当大的作用[10]。当算法之间自主、共同地实施固定价格以及限制生产、销售数量等排除、限制竞争的行为时,首先损害的并非经济运行效率,而是消费者的公平交易权和自主选择权[11]。在这种情况下,市场难以通过竞争和价格机制进行调节,致使消费者无法通过比较不同商品从而做出最优选择;甚至算法还能通过收集消费者偏好等数据,达成对某类消费者群体实行价格歧视的一致意图,这无疑侵害了消费者的合法权益。

随着反垄断法的日渐完善,反垄断法立法宗旨趋于多元化,经济效率已不是唯一的价值追求,对消费者利益的重视越来越多地体现在欧美等发达国家的立法与司法实践中。在实践中,反垄断法的自由、秩序、效率、公平等价值呈并存、竞争和融合的矛盾运动之势[12]。结合人工智能时代的新特点和反垄断法的发展趋势,比起技术进步所带来的经济运行效率的提高,维护市场竞争秩序从而保障消费者利益的价值取向理应得到足够的重视。因此,在对算法共谋进行规制时,既要考虑到以算法为代表的科技创新对经济运行效率做出的贡献以及经营者运用算法对竞争对手价格变化做出反应的自由,坚持包容审慎规制和谦抑性规制原则,不宜将所有基于算法实施的协同行为都视为违法;同时要对算法共谋进行有效规制,视具体情况运用本身违法原则或合理原则进行违法性认定,建立技术规制、伦理规制与法律规制相结合的规制方法框架,确保实质公平与市场秩序价值的实现。

(二). 构建算法共谋的多元规制体系

鉴于算法共谋的复杂性、智能化特点,对算法共谋的规制,应当从源头引导、过程监管与结构规制三个维度构建多元规制体系,对算法共谋实施全方位规制。

1.源头引导:算法开发上的合规性

由于算法共谋的事后规制在证据收集上存在较大难度,事前规制则可以弥补事后规制的不足。建议在反垄断法的规制框架下,增加算法开发上的合规要求,明确禁止类算法的范围,帮助反垄断执法机构缩小需要检测的算法范围。

第一,为算法的开发制定行业准则。为了防止自学习算法自动实施算法共谋,反垄断执法机构应与行业监管部门合作,在算法开发上制定行业标准和自律规范,以行业规范的形式来引导算法开发者有意避免促进共谋的编程,即开发出符合阿西莫夫“机器人学三法则”的算法。例如,如果需要阻止经营者之间协调反竞争价格,那么准则可能会要求算法不得对达成价格协调所必需的市场变量做出反应[13];此外,还可以通过编程让算法拒绝对最近价格变化做出反应或忽略个别经营者的价格变化。当然,这种解决方案可能会限制经营者开发、创新算法的积极性,必须以必要性和审慎规制原则为前提,并符合比例原则的基本要求。

①  1942年,俄裔美籍科幻作家阿西莫夫在短篇小说《圆舞》中提出了机器人学三法则。第一法则:机器人不得伤害人类个体,也不得以其不作为致使人类个体受到伤害;第二法则:机器人应当服从人类个体给予的所有命令,除非该命令违反第一法则;第三法则:机器人应当在不违背第一法则或第二法则的范围内关注自己的安全。参见:张建文.阿西莫夫的教诲:机器人学三法则的贡献与局限——以阿西莫夫短篇小说《汝竟顾念他》为基础[M]//岳彩申,侯东德.人工智能法学研究.北京:社会科学文献出版社,2018:5。

第二,反垄断执法机构可以酌情要求经营者披露算法源代码,进行反向检测并制定算法“黑名单”。“算法黑箱”和“算法共谋黑箱”的存在,在一定程度上阻碍了反垄断执法机构的执法。只有披露相关算法,反垄断执法机构才有机会检测算法是否违法。反垄断执法机构可以通过抽查方式进行检测,以确定该算法是否表现出共谋倾向。若表现出共谋倾向,此种算法将被列入“黑名单”;若没有串通倾向或串通倾向可以忽略不计,该算法将获得批准。在具体操作上,可以采用“算法监管沙盒”的测试方法[14],让部分获得批准的算法进入市场,在一定时间内测试该算法有无实施共谋行为,并根据测试结果放宽审查尺度和降低准入门槛,以期在鼓励算法创新和防范算法共谋之间取得平衡。需要注意的是,若算法属于经营者的商业秘密,在要求经营者披露算法并进行反向检测过程中,必须采取适当措施保护经营者的算法免受泄露。

2.过程监管:“算法共谋黑箱”的破解

在算法开发完成投入使用后,反垄断执法机构可以对算法市场进行调查,获取执法所需信息;同时基于“算法型消费者”理念[15],提高消费者应对经营者算法的能力,以期对经营者的算法共谋行为进行有效制衡,实现揭开“算法共谋黑箱”的目的。

首先,为全面掌握算法的运行机制,及时发现经营者实施算法共谋的苗头,反垄断执法机构可以构建自动化执法系统,实现以技术规制技术。自动化执法系统是利用大数据技术、算法技术等信息技术,自动搜集算法运行状况信息,预测算法共谋行为已经或即将发生,自动获取相关证据,实现对算法运行过程的监管。通过该系统,反垄断执法机构可以对算法市场的透明度、算法的运行机制以及算法预测的准确度、互动频率等提前调查,掌握算法驱动型市场的新动态以及可能存在的竞争问题,根据监测结论,采取有效的规制措施。其次,算法管理者负有定期报告算法运行情况的义务。反垄断执法机构通过分析经营者的报告,从中获取经营者(或算法)是否有排除、限制竞争意图和意思联络行为,从而获得需要的证据。经营者履行报告义务还可以培养算法开发者和管理者的竞争意识,提高算法的竞争遵从度。再次,为解决“算法共谋黑箱”问题,鼓励经营者向消费者披露算法,并为消费者提供配套解读软件或进行详细说明,这是保证消费者知情权的重要手段。最后,为跟经营者算法相抗衡,鼓励经营者开发“消费者算法”“帮助消费者识别价格、识别合谋以及虚拟消费者捆绑行为”[16]。目前电子商务市场流行的比价算法或推荐算法,就属于消费者算法。此种算法可以对经营者的提价行为做出即时反应,并将该经营者自动过滤出消费者的选择范围,导致提价经营者的销量大幅减少。面对削减的销量,经营者必然要对其价格进行新一轮调整,直到形成市场出清价格。因此,消费者算法能够对经营者形成有效的制衡。

①  关于自动化执法概念和功能的详细介绍,参见:丽莎·A.谢伊,伍德罗·哈特佐格,等.迎接自动化执法[M]//瑞恩·卡洛,迈克尔·弗鲁姆金,伊恩·克尔.人工智能与法律的对话.上海:上海人民出版社,2018:239-266。

3.结构规制:降低算法共谋的概率

数字市场存在三个有利于达成算法共谋的因素:一是互联网技术的快速发展使得数据规模越来越大,无处不在的数据是经营者达成算法共谋的前提条件;二是大数据抓取、分析技术的成熟使得数字市场变得更加透明,算法经营者之间更容易进行信息交流并监控参与者的行为;三是网络通信技术的更新换代、云存储技术的发展以及计算能力的快速提升使得算力大幅度提高,算法经营者之间的信息交流可以实时完成。因此,对算法共谋的规制,还可以从数字市场的结构着手,制定调整数字市场结构特征的政策,有效降低达成算法共谋的概率。首先,适度降低市场透明度。反垄断执法机构可以要求经营者实施秘密折扣制度或对可在线发布的信息施加限制,使算法难以预测竞争对手的行为。其次,限制算法经营者互动的频率。反垄断执法机构可以对经营者的价格调整频率施加限制,禁止经营者在指定的最短时间内接收任何新要约,使得算法共谋的灵活性降低,从而破坏算法共谋的稳定性。

(三). 适度扩展意思联络的认定标准

无论是明示共谋还是默示共谋,都是经营者通过意思联络取得意思表示一致的结果。默示共谋主要表现为协同行为,协同行为以经营者之间的意思联络为前提。如果经营者不存在主观上的意思联络,仅仅是在某一经营者采取一定的市场行动后,根据自己的独立判断实施追随行为,该“意识性平行行为”不属于协同行为[17]。所谓意思联络,强调经营者不仅具有排除、限制竞争的主观意图,而且相互之间就排除、限制竞争的意图进行沟通交流并取得了一致。据此,认定垄断协议,不仅需要证明经营者的主观意图,还需要证明经营者进行了联络并取得一致。主观意图在明示共谋中主要体现在协议或决定文本中,而协议或决定本身就是意思联络的结果。在默示共谋中,主观意图则能通过经营者协同行为的实施所产生的排除、限制竞争效果得以外化,通过竞争效果可以反推排除、限制竞争的意图。因此,默示共谋认定的难点不在于主观意图,而在于经营者之间是否存在联络行为。

在监控算法共谋、并行算法共谋和信号算法共谋中,从排除、限制竞争效果中展现出来的意图可以归属算法的开发者或管理者。但在自学习算法共谋中,算法开发者或管理者没有排除、限制竞争的意图,在外界看来也不存在任何联络行为,因而需要适度放宽意思联络的认定标准。首先,关于人工智能的民事主体资格问题,吴汉东教授认为:“受自然人、自然人集合体——民事主体控制的机器人,尚不足以取得独立的主体地位。”[18]同理,自学习算法虽然具有自动化、智能化特点,但算法的开发者在算法编程时可以通过遵守竞争准则、适度降低算法透明度、增加算法偏离可能性等技术手段对算法共谋施加有效控制;算法管理者也可以对算法开发者作出上述要求,从而达到控制算法共谋的目的。因此,从意图归属看,自学习算法本身并不能作为意图的归属主体,而应当是自学习算法背后的开发者或管理者。其次,算法在达成共谋之前,会通过网络收集需要的数据,根据收集到的数据进行分析并制定相应的策略,另一种算法也会实施同样行为。也就是说,算法之间在事实上有信息交流,这种信息交流会产生类似于合同法中要约和承诺的效果。因此,需要扩展意思联络的认定标准,将算法间的信息交流视为意思联络的一种形式,进而认定算法开发者或管理者有排除、限制竞争的意图并实施了联络行为。

(四). 明确算法共谋责任的归属和分配

在人类主宰的世界里,“算法中心主义”永远无法取代“人类中心主义”。算法目前本质上仍然是人类的工具,只是带来了新的共谋应用手段,而不是新的法律责任主体[10]。因此,在未来较长的一段时间内,类似科幻片的场景——算法承担合谋的责任——暂时还不会出现。从法律上讲,违法行为者应当承担否定性法律后果,这既是责任自负原则的直接体现,也是公平价值和正义观念的实现途径,算法共谋的规制同样遵循此思路。在算法责任的承担上,有学者提出“算法雇员理论”[19],将自学习算法视为经营者的员工,经营者应当替代员工承担法律责任,而不应利用算法逃避责任。因此,算法(包括自学习算法)不能获得独立的法律主体资格,也不能替代经营者承担相应法律责任。在算法共谋责任的归属上,应当“刺破算法面纱”,由算法背后的实际参与者如算法的开发者、管理者或受益者来承担法律责任。

实践中,当算法开发者、管理者和受益者合一时,不存在算法共谋责任的分配问题。但当算法开发者、管理者和受益者分属于不同经营者时,可以综合运用扎拉奇和斯图克提出的获益原则和有效控制原则来分配相应的法律责任[20]。获益原则是指反垄断执法机构或法院先行评估算法共谋的获益结构,然后根据实际参与主体获益大小等结构因素确定责任的分配。有效控制原则是指可以从实际参与主体对算法的控制程度来判断。若算法开发者、管理者和受益者均从算法共谋中获益或能对算法施加一定的控制,则可根据获益份额和控制程度来确定责任份额,否则由获益的一方或控制的一方承担责任;若获益比例或控制程度难以区分,则由算法实际参与主体承担连带责任。

五、结语

人类已经迈进人工智能时代,人工智能时代的大数据和算法行业是未来的发展方向。我国高度重视大数据和人工智能行业的发展,近年来,国务院相继发布了《促进大数据发展行动纲要》和《新一代人工智能发展规划》,为大数据和人工智能的快速发展提供了政策指引。算法共谋作为人工智能行业快速发展的副产品,其技术性、稳定性、智能化和隐蔽性特征给反垄断执法机构带来了诸多挑战,导致算法共谋的规制存在价值权衡困境、认定困境、责任追究困境和技术性困境等多重困境。对国内法学界来说,算法共谋及其规制是一个前沿和复杂的话题。如何在保证算法提高经济效率、促进消费者福利和社会公共利益的前提下,有效规制算法共谋行为,防范其对市场竞争秩序造成损害,需要我国理论界和实务界的共同努力。

参考文献
[1]
CLAIRE C M. When algorithms discriminate[EB/OL].(2015-07-10)[2019-10-02].https://www.nytimes.com/2015/07/10/upshot/when-algorithms-discriminate.html.
[2]
阿里尔·扎拉奇, 莫里斯·E.斯图克.算法的陷阱: 超级平台、算法垄断与场景欺骗[M].余潇, 译.北京: 中信出版集团, 2018.
[3]
李振利, 李毅. 论算法共谋的反垄断规制路径[J]. 学术交流, 2018(7): 73-82.
[4]
OECD. Algorithms and collusion: competition policy in the digital age[EB/OL].(2017-09-13)[2019-10-02].http://www.oecd.org/daf/competition/Algorithms-and-colllusion-competition-policy-in-the-digital-age.pdf.
[5]
殷继国. 大数据市场反垄断规制的理论逻辑与基本路径[J]. 政治与法律, 2019(10): 134-148.
[6]
J.E.克伍卡, L.J.怀特.反托拉斯革命: 经济学、竞争与政策(第五版)[M].林平, 臧旭恒, 等译.北京: 经济科学出版社, 2013.
[7]
曾雄. 人工智能时代下算法共谋的反垄断法规制[J]. 网络法律评论, 2016(2): 16-27.
[8]
SALIL K M. Antitrust and the robot-seller:competition in the time of algorithms[J]. Minnesota law review, 2016, 100: 1323-1375.
[9]
周围. 算法共谋的反垄断法规制[J]. 法学, 2020(1): 40-59.
[10]
施春风. 定价算法在网络交易中的反垄断法律规制[J]. 河北法学, 2018(11): 111-119.
[11]
钟原. 大数据时代垄断协议规制的法律困境及其类型化解决思路[J]. 天府新论, 2018(2): 66-75.
[12]
叶卫平. 反垄断法的价值构造[J]. 中国法学, 2012(3): 135-146.
[13]
KLEIN T. Assessing autonomous algorithmic collusion: Q-learning under short-run sequential pricing[EB/OL]. (2018-09-01)[2019-10-23].https://www.econstor.eu/bitstream/10419/185575/1/18056.pdf.
[14]
HARRINGTON J E. Developing competition law for collusion by autonomous artificial agents[J]. Journal of competition law & economics, 2018, 14(3): 1-33.
[15]
MICHAL S G, NIVA ELKIN-KOREN. Algorithmic consumers[J]. Harvard journal of law & technology, 2016, 30(2): 309-352.
[16]
MICHAL S G. Algorithmic-facilitated coordination: market and legal solutions[EB/OL]. (2017-05-15)[2019-11-17].https://dev.competitionpolicyinternational.com/wp-content/uploads/2017/05/CPI-Gal.pdf.
[17]
王玉辉. 论垄断协议的行为认定[J]. 河南大学学报(社会科学版), 2011(2): 15-19.
[18]
吴汉东. 人工智能时代的制度安排与法律规制[J]. 法律科学, 2017(5): 128-136.
[19]
MIHAILIS D. The problem of algorithmic corporate misconduct[EB/OL].(2019-09-26)[2019-11-18].https://ssrn.com/abstract=3460105.
[20]
EZRACHI A, STUCKE M E. Sustainable and unchallenged algorithmic tacit collusion[J]. Northwestern journal of technology and intellectual property, 2020, 17(2): 217-259.