随着数字化和人工智能（AI）等信息技术的迅猛发展和广泛应用，以“人在回路”或“人机融合”为显著特征的“信息-物理-社会”系统的影响日益深入，社会形态和治理模式正在发生深刻变化。^[1]同时“人机冲突”也不断涌现，国家治理和社会发展面临新的挑战。究其原因，在人机融合社会系统中，人受到法律伦理等规范约束，而机器受技术手段控制，“人”与“机”的不同价值目标需要有机协调，以实现两者优势互补、协同发展。如果法治跟不上机器（或技术）的快速发展，必将因为失衡而产生“人机冲突”，尤其是当机器的“盲点”、人性的“弱点”与制度的“漏洞”一旦结合，必然带来严重的社会问题。例如，当下社会普遍关注的隐私泄露、数据垄断、算法歧视、深度伪造、网络攻击、信息诈骗等现象，严重威胁社会安全与公平正义。另一方面，随着数字化、网络化和智能化技术不断提升、人机融合程度不断深化，各类行为主体的能力也随之不断增强，传统治理思路和治理方式难以胜任，亟需加强现代科技对社会治理水平的赋能，以更好实现国家治理体系和治理能力现代化。总的来说，无论是通过法治推动与规范科技发展，还是通过科技促进与赋能法治建设和社会治理，都需要更加重视自然科学、工程技术与人文社会科学之间的交叉融合，加强人机融合社会系统基本演化规律的基础研究和关键调控方法的技术支撑。这不但关系到当下经济社会的健康发展，而且也关系到人类社会的前途命运。

数字化、网络化与智能化是当前人机融合社会的基本特征。当今社会，既被数字化深度解析，又被网络化密集互联，同时还被智能化不断赋能，使得人机协同的难度不断增强，“人机冲突”不断涌现，国家治理面临严峻考验。一是互联网金融、物联网等新兴领域各类新经济实践往往超出现有政府管制体系和政策范畴，法律规范供给常常滞后,信息安全与信息利用的平衡面临突出挑战。二是新技术公司的“头部垄断”带来了新型不平等与社会鸿沟，对技术巨头和资本扩张的监管成为突出问题。^[2]三是各种技术的多点突破、综合集成和广泛应用对社会的影响程度，远远超出人的惯性思维和传统社会监管框架，常常使人迷失于技术的“黑洞”之中，可能带来“灰犀牛”式风险。面对智能化算法对人的认知、判断与决策的引导乃至“囚禁”，面对几乎无处不在的“第三只眼睛”监控，面对人工智能系统可能的安全风险和长远影响，现有监管和治理体系虽然不断做出回应，但仍需持续适应与不断深化。

人工智能治理已成为全球关注焦点。美国自2016年先后两次发布《国家人工智能研发战略规划》，在人脸识别、自动驾驶等具体场景立法动作频繁。欧盟自2015年起发布《通用数据保护条例》等系列法律文件，并于2021年4月发布AI监管草案，将AI应用划分为“完全不可接受风险”“高风险”“低风险”等不同层级，拟全面禁止大规模监控及基于AI的社会信用体系。^[3]我国亦加快立法步伐，2017年实施《网络安全法》，2019年出台《新一代人工智能发展规划》，2021年通过《数据安全法》和《个人信息保护法》。《法治中国建设规划（2020-2025）》已将新兴信息技术领域立法列入规划。国家对相关领域突出问题也进行了规制和治理，最高法出台了《关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》等。

但是，面对人机融合不断深化带来的前所未有的社会系统变化，治理体系和治理能力需要不断适应、深化和完善。例如，人工智能作为一大类迅速发展技术的统称，需要通过立法进行基本规制，特别是对人脸识别技术等有关生物敏感信息的立法需要及时进一步跟进与完善。《个人信息保护法》要求对个人生物特征等敏感信息处理应取得单独同意，《信息安全技术人脸识别数据安全要求》对收集人脸识别信息要求明示同意，但相较欧盟《一般数据保护条例》“原则禁止除非例外”模式和美国各州立法中“原则禁止除非立法”与“严格限制条件下的许可”模式，仍需加强保护力度。再如，政府与企业协同治理法律框架尚不完善。平台企业掌握了大量个人数据和公共信息，承担了越来越多的公共管理职能，政府与这类企业的协同治理已不可避免。亟需建立完善数据平台等新技术企业与政府监管部门的良性互动机制，克服潜在的政治与社会风险，实现政府、企业与行业组织的协同高效治理。又如，数据作为新的生产要素，其权属关系影响经济社会发展乃至安全，但与传统权属性质又有显著不同。需要在充分尊重数据要素特殊性的基础上，研究制定科学的数据权属关系，既保护数据安全又促进数据利用，更好促进数字经济健康、安全、可持续发展。再如，全球化背景下数据跨境流动治理也面临突出挑战，需要积极完善相关法律体系和监管制度，保障数据市场开放性与安全性的统一。

新技术新应用带来国家治理模式和治理手段的深刻变革，亟需法治与科技的深度融合与协同治理。习近平总书记2019年在中央政法工作会议上指出，“推动大数据、人工智能等科技创新成果同司法工作深度融合”。最高人民法院自2016年起提出深化司法体制改革和智慧法院双轮驱动，目前人民法院信息化3.0版建设已顺利完成，智慧法院建设全面深化并且成效显著，^[4]成为科技助力法治建设的一个成功实践。

《法治中国建设规划（2020-2025）》提出，“充分利用大数据分析，为立法中的重大事项提供统计分析和决策依据”。实际上，面对人机高度融合的新社会特征，现代科技对科学立法的支撑和赋能仍显不足，“人机互补”治理优势需要进一步发挥。例如，传统的立法方式量化论证较少，罪刑关系的确定大多基于定性研究，对法律中基本的比例原则也很少进行量化分析支撑，难免存在定性判断不精准的问题。再如，“立法-执法-司法-守法”之间也需要建立及时完善的信息共享与反馈机制，信息技术对法治体系建设各个方面和重要环节的支撑作用尚需进一步充分发挥。

随着AI的不断发展，其识别判断决策和行为能力都将对自然人形成严峻挑战，传统社会治理理论与治理方法将难以胜任，亟需通过人文社会科学与自然科学的深度交叉研究，建立新的理论和方法，支撑数字化时代国家治理体系和治理能力的现代化。

这一发展趋势已经得到广泛关注和研究。例如，近十年来，以数据为基础的计算社会科学迅速崛起，数据法学和计算法学等也逐渐引起广泛重视。2018年起，清华大学设立计算法学法律硕士项目，山东大学设立计算法学本科实验班，北京大学、四川大学、中国政法大学等高校纷纷成立相关机构。2019年由MIT研究者领衔的课题组在《自然》上发表综述文章，提出着眼AI与现实环境交互中的复杂行为以及如何与人类共存问题，开展跨领域的“机器行为学”研究。^[5]我国学者也于近年提出了博弈控制系统研究，目的在于突破传统控制论和博弈论应用于社会系统调控的局限。^[6]此外，对“信息-物理-社会”复杂系统的研究也得到学界广泛关注。但目前相关研究还远不足以有力支撑国家治理需求。

习近平总书记曾指出：“系统观念是具有基础性的思想和工作方法”。人机融合社会复杂系统由工程系统和人的系统高度耦合而成。一般来讲，工程系统的运行是通过技术手段调控的，而对人的系统行为调控的基本方式是法治。但是，随着人机融合程度的不断增强，人的决策与智能算法高度融合，技术指标与价值目标密切关联，算法规制与社会规范合为一体。应对这类新型社会复杂系统的调控，对科技与法治的研究不能再继续分离，迫切需要在系统科学框架下实现两者的有机结合，通过理工与人文社会科学的深度交叉，从基础研究层面实现相关复杂系统理论创新和关键技术突破，以实现安全稳定、公平正义、民主自由、和谐发展等价值目标。为此，迫切需要加强对人机融合社会系统演化规律的基础研究和调控方法的技术支撑，积极促进“计算法学”和“数据法学”等新兴学科建设，创新人才机制、增强师资队伍，加快培养既懂法学又懂人工智能的复合型人才，为数字化时代的法治国家建设提供所需的学科基础和队伍支撑。

WANG Fang¹, GUO Lei²