华南理工大学学报(社会科学版)   2023, Vol. 25 Issue (1): 25-32  DOI:10.19366/j.cnki.1009-055X.2023.01.004
0

引用本文 

曾睿, 何伦凤. 脑机接口技术多领域扩散的外溢风险及其规制[J]. 华南理工大学学报(社会科学版), 2023, 25(1): 25-32. DOI: 10.19366/j.cnki.1009-055X.2023.01.004.
ZENG Rui, HE Lun-feng. Spillover Risk and Regulatory Thinking of Multi-domain Diffusion of Brain-computer Interface Technology[J]. Journal of South China University of Technology (Social Science Edition), 2023, 25(1): 25-32. DOI: 10.19366/j.cnki.1009-055X.2023.01.004. #esle

基金项目

福建省以马克思主义为指导的哲学社会科学学科基础理论研究基地重大项目“农业生态安全屏障建设法治保障研究”(FJ2021MJDZ022)

作者简介

曾睿(1975—),男,博士,副教授, 硕士生导师,主要研究方向为法律与认识科学、理论法学

通信作者

何伦凤(1998—),女,硕士研究生,主要研究方向为法律与认知科学、理论法学

文章历史

收稿日期:2022-08-16
脑机接口技术多领域扩散的外溢风险及其规制
曾睿, 何伦凤    
福建农林大学 公共管理与法学院,福建 福州 350002
摘要:通过对脑机接口技术多领域扩散的应用观察,返观内视其大脑离身于躯体、意念“遥控”动作、物性超越于灵性的生长逻辑。在技术扩散中,脑隐私数据泄露化、脑意识恶意操纵化、脑算法资本垄断化、个人信息圈壁垒化的风险随之外溢。对此,须在寻求技术规制理论支持的基础上,结合锚定脑机接口技术的核心价值取向,搭建“神经权利”的法律保护框架,限定脑机接口技术的实践应用场景,预防脑机接口技术的资本垄断风险,对这些法律规制问题给予充分的时代回应。
关键词脑机接口    技术扩散    神经权利    脑算法    
Spillover Risk and Regulatory Thinking of Multi-domain Diffusion of Brain-computer Interface Technology
ZENG Rui, HE Lun-feng    
School of Public Administration, Fujian Agriculture and Forestry University, Fuzhou 350002, Fujian, China
Abstract: Through the application and observation of the multi-field diffusion of brain-computer interface technology, we looked back at the growth logic of its spiritual separation from the body, the "remote control" of actions by thoughts, and the transcendence of physical properties over spirituality. In the process of technology diffusion, the risks of leakage of brain privacy data, malicious manipulation of brain consciousness, monopoly of brain algorithm capital, and barriers to personal information circles spill over. In this regard, it is necessary to combine the core value orientation of anchoring brain-computer interface technology on the basis of seeking technical regulation theory support, build a legal protection framework for "neural rights", limit the practical application scenarios of brain-computer interface technology, prevent the risk of capital monopoly of brain-computer interface technology, and give adequate times response to these legal regulations.
Keywords: brain-computer interface    technology diffusion    neural rights    brain algorithm    

我国脑机接口(brain computer interface,BCI)研究始于20世纪90年代末。该项技术最初兴起于康复医疗领域,经过30多年的探索,现已有了长足发展,以此为主题展开的研究也日渐增多。该项技术具备多场景的兼容性和扩展性,技术的外溢效应较为明显,而且其跨领域应用尚处于“市场蓝海”,资本的有意推动使其逐步扩散至教育培训、智能家居、游戏娱乐等商业化领域[1],甚至有向军事扩散的态势。然而,尽管脑机接口技术取得了医疗技术层面的推进,但在技术背后的“人-机”矛盾、“我-他”矛盾尚未得到充分正视及有效治理[2],安全与隐私、知情同意、自主意志[3]、同一性等方面仍存在诸多价值负载与制度挑战[4]。此时,一味推进脑机接口技术的多领域运用,让其仓促融入我们日常生活的每个细节,必然会使得脑隐私、脑算法、脑意识等关联客体随着技术的扩散产生风险外溢。同时,有理由认为,该项技术的扩散可能对人们生产、生活方式产生革命性的意义,且其扩散过程中存在诸多不适应社会实际的内在因素,甚至与当下的社会治理结构有诸多的抵牾之处,这必然造成技术与社会在相互适应、磨合中的内在不适。因此,尝试从法律、政策、社会建设、社会治理等层面给出相应建议也是应然,以避免一味陷入对新技术自我沉醉的冥想中。

一、脑机接口技术多领域扩散的应用观察

脑机接口作为下一代人工智能发展的重要方向,备受瞩目。脑机接口是指在人或动物的大脑与计算机或其他电子设备之间建立的不依赖常规大脑信息输出通路的一种全新通讯和控制技术[5]。接口作为一项技术媒介,主要应用在医疗领域,近年来,其大有多领域扩散趋势。

(一) 基础领域:医疗领域

脑机接口,即一项以“大脑+接口+机器”为基础配置的技术,其目的是帮助运动感知功能受损的患者,如渐冻症患者、失语症患者等,实现监测、替代、恢复及增强自身的肌肉活动能力[6]。通过该项技术,可以使患者在部分生物体受到损伤时,仍能借助控制与接口连接的机器,表现出正常人的活动能力。例如,高位截瘫病人借助意念控制独立的机械手臂、轮椅,又如将脑机接口作为人工感官系统来帮助诸如盲人恢复视觉、耳聋患者恢复听觉等,这些都是目前脑机接口较为常见的使用场景。

临床实践中,根据电极或芯片植入脑部的深度,脑机接口可粗略地分为非侵入式、侵入式。其中,非侵入式脑机接口需将作为接口的传感器放置在头皮之外,以对受试者大脑进行无创或微创的脑电信号读取;侵入式脑机接口则需通过手术向颅内大脑皮质植入电极或芯片。两者相比较,后者接收到大脑皮层的电信号(EEG)空间分辨率、灵敏度均比前者更为理想;不过,其风险系数亦比前者更高。

(二) 脑机接口应用的多领域扩散

1.教育领域的脑机接口

近些年来,教育领域是除医疗领域外,脑机接口最常涉足之处。一些学校将脑机接口“智能头环”应用于课堂教学,其可以根据脑电信号的提取、分析,实时监测学生的注意力,有的还可以限定时间区间,生成学生注意力分数报告,通过精确地监测,可在学生注意力不集中时发出相应警示,如头环中的灯光换色。更为高级的脑机接口产品甚至还可以达到增强学习过程中认知能力的效果。有人对脑机接口的教学应用表示大加赞赏;也有人借此批评技术对人的生命成长意义的侵蚀[7]。脑机接口进课堂,究竟是打开教育大门的新钥匙,还是资本收割“韭菜”的工具?目前,对这个问题还存有争议。

2.娱乐领域的脑机接口

在消费升级的时代,脑机接口亦开始进军娱乐领域,电子游戏、数字影视逐步以脑机接口技术为新的发展契机,研发出新型产品。2018年5月,理查德·拉姆丘恩发布的短片《那一刻》,其观看过程为,观众头戴脑电图仪,电影的内容——场景、音乐和动画[8],就会一一在脑海中呈现,观众甚至无须睁开双眼,因为大脑已经为观影提供了一块“屏”。在电子游戏中,亦如是。当前已有游戏程序可以让3D游戏角色反映玩家的表情:你眨眼,它就眨眼;你微笑,它就微笑。甚至,还可以让玩家用意念操纵虚拟物体。脑机接口的娱乐化应用确为资本眼中的商机。

3.家居领域的脑机接口

智能家居中也有脑机接口的身影,这是脑机接口技术商业化的进一步拓展,不少基于脑机接口的智能家居系统设计正在加速成为一种现实。渗透在智能家居中的脑机接口,只需在大脑与接口之间的信息转换中建立标准的数据传输管道,就可以实现大脑对家居设备终端和后台应用之间的数据交互和状态管理,用户不再需要理会繁乱的家居布线,仅需要利用“意念”就能实现对家居的操作与控制。这是一种创造更友好和便利的家居生活的新思路,在实践中具有较大应用空间。

4.军事领域的脑机接口

脑机接口技术的扩散,不仅着眼于社会与生活的细节,还有对政治这一上层建筑的触动,其中最为关键的在于军事领域的应用。美国从2010年开始,就启动了一项代号为“阿凡达”(Avatar)的研究项目,该研究是通过脑机接口技术让机器人成为人类士兵的“代理士兵”,替代参战,从而使人类士兵能够远离危险的战场。并且,这些被意念遥控的机器人可以成为人类士兵的完美替身,从事日常训练、站岗执勤、沙场鏖战等一系列工作[9]。在这一技术扩散中,不同于其他领域所展现的技术文明带来的便利与舒适,军事领域的脑机接口让我们嗅到了一种危机。

二、脑机接口技术多领域扩散的返观内视

脑机接口向教育、娱乐、家居、军事等多领域的扩散,推动着人与机的关系从“功能替代”走向“心智融合”。但在一片“叫好”的背后,我们尤需返观内视,对脑机接口的技术扩散现象进行“祛魅”认识。

(一) 大脑离身于躯体

不难发现,脑机接口技术的多领域扩散,是以一种“润物细无声”的方式渗透到我们生活中的。在这一过程中,我们的躯体渐渐被排斥和遗忘,“身”与“脑”的器身分离开始显现,这十分符合普特南曾提出的“缸中之脑”实验:大脑与躯体相分离,将分离的大脑放置于能维持其存活的营养液缸中,计算机与大脑的神经末梢相联结,并按照特定的程序向大脑传输信息,输入的信息能够让大脑产生阅读、运动等种种幻觉,“缸中之脑”会感觉自己仍生活在正常世界中。该项技术蕴含了脑机接口的运行原理,计算机与大脑神经末梢的连接线如同一个介导“接口”,为“大脑-接口-计算机(机器)”之间的双向交互提供了沟通媒介。也正因如此,用户要操作机器,不再需要大脑以脉冲形式向四肢发出指令,传统被视为执行神经命令的必经通路不再是唯一路径。其深层意蕴在于:“大脑离身于躯体”的端倪业已初现。用户实现心中想法,不需要透过身体,仅需一个拥有接口的大脑。诚然,自古以来,大脑在文化空间中,一直与精神、理性、灵魂等相互依赖;而躯体往往被视为精神与灵魂的附属物,是一种被动的、有限的、物质性的存在[10]。脑机接口技术的扩散看似解放了人的四肢,也拉开了精神与躯体之间的距离,以至于在多领域脑机接口产品的指数型增长之下,用户可能对脑机接口技术形成场景依赖,甚至使大脑与躯体完全脱节。彼时,沿着达尔文“用进废退”的学说,用户的躯体亦会面临着某种萎缩、倒向退化,这种精神脱离于躯体的现象将更为普遍。

(二) 意念遥控动作

在精神脱离于身体的情景中,意念“遥控”动作不再被视为一种伪科学的“特异功能”。脑机接口植入大脑,这一控制层与物理层之间的接口,能够识别、收集代表大脑意念的脑电波,生成“意念数据流”,并借由“意念解码”机制实现神经信号向物理信号的转译。从而,在意念动力的驱使下,人们即使是原地不动,也可以发出指令、操控动作。并且,脑机接口的多领域扩散,势必会突破传统“单向通信通路”的弊端,接口不仅可以实现“动作指令发出”的功能,而且具备“反馈指令接收”的用途。所以,用户不必远游,就能借助接口以全沉浸、全感官的方式感知、体会大千世界,实现千里之外的“真实在场”。有人曾这样描述,“通过大脑与电脑的连接,人们可以在虚拟世界中自由地获取信息、开展社交,甚至获取味觉、触觉等多种感官的体验……在脑机接口的元宇宙中,你触摸一块石头,你能感受到石头的纹路、温度”[11]。从他的描述可知,脑机接口在医疗、教育、家居、娱乐领域的场景持存,会塑造出用户“脱实向虚”的生活态度,因为脑机接口扩充了我们的个人空间,以至于我们立于原地、四肢不动,大脑仍能作用于接口连接的机械外设,接收相应的反馈刺激,唤起我们思想和情感的能力。这一意念“遥控”动作能力的加强版,在技术的扩散中亦有滥用迹象。例如,遥控动作的物理距离,亦可成为恐怖分子脱身于致命行动的契机,恐怖分子不必以己为饵,便可制造出暴力与恐慌。由此看来,意念“遥控”动作具有技术的双面性,我们受其益的同时,也面临着为其所伤害的可能性。

(三) 物性超越于灵性

在基础的临床场景之外,脑机接口技术具备多场景的兼容性和扩展性,这一技术扩散极大地拓展、延长了人类的物性力量[12]。所谓物性,是指无须依赖生理的、生物的特性而获得的能力,它夹杂着生产、生活的“效率导向”。接口连接着机器,在脑机接口应用的诸多场景中,“非生物性”的机器与“生物性”的大脑持续交互、共同作用,引致用户与机器之间的差异逐渐变得模糊。就如海德格尔描述的“被订置状态”[13]一般,作为个体的人开始变得机器化、自动化、流水化。然而,脑机接口在赋予用户超高的智能化程度、急速性的运行效率以及仿真化沉浸体验的同时,它能够解释作为“目的性”存在的人本身吗?就像用户常常产生疑惑,技术装置感知的意念,究竟是来自于人,还是承载这些意念的载体?这种对主体性问题的反思,正是人类灵性的体现。每个人都是由情绪、身体、社交、文化、灵性及认知等层面构成的一个整体,其中,“灵性”一词与“人性”相近,它能够赋予我们生命意义与价值,帮助人类实现自我超越。无论是康德关于“人是目的”[14]的口号,还是斯宾诺莎认为的,任何人的行动目的都趋向于“自爱”或“自保”[15]这个目标,抑或是黑格尔所言“人间最高贵的事就是成为人”[16];这些都昭示着,只有人才是目的本身。为此,必须严肃对待的是,脑机接口将充斥于我们的生活,它借用代码、数据所营造出的理性化大厦,会使世界不断被客观化,加剧现代性人类的自我分裂,灵性的表达渐为受阻。质言之,脑机接口技术是一种缺乏文化根基和灵性的新生技术形态,随着这项技术横跨各个领域、渗透到我们生活的每一细节,用户发自内心的“灵性”可能逐渐为技术、机器的物性所置换,造成人类“灵性”之觉识的滞后,使用户仅以一种生产工具形式而存在。

三、脑机接口技术多领域扩散的外溢风险 (一) 脑隐私数据泄露化

脑隐私数据泄露化,可谓脑机接口多领域扩散的一大风险。脑机接口设备在运行过程中,接口装置会以“神经监控”的手段收集用户日常的神经信息和思维信息,再将这些信息通过数据化、代码化、符号化的方式进行固定,用户个人的抽象意志得以永续保存,但其间就存在一定的泄露风险。这种涉及对个人神经信息和活动的保护部分,与“神经权利”这一新型权利形式关涉密切[17]。就像福柯[18]提出的“全景监视塔”一般,这些接口设备将人脑与智能机器联系在一起,位于“缸中之脑”的神经信息时刻处于被监视、被追踪的状态,相应地,脑隐私数据也处于被侵犯、被泄露的风险敞口之中[2]。尽管有人曾提出,可以利用“脑机接口匿名者”技术对神经信号进行预处理,使其鉴别并删除脑隐私信息,从而达到保护脑隐私数据的目的;但这并不足以防范大范围的隐私泄露问题,况且这项技术本身也可能被黑客组织破解,只要存在隐私数据生成这一行为,就很难使隐私数据泄露全然消失。在利益诱惑下,这些隐私数据总能在世界的某个灰暗角落里被打包、流转。是故,脑隐私的消失意味着个人自由的萎缩。一方面,这些泄露的脑隐私让人们的思维信息以某种“显性”的状态展现在世人眼前,这是对人们精神私域的侵犯,消解了人们处于匿名性社会网络的空间。另一方面,有人可能会利用这些隐私,对我们实施出于特殊目的的操控,如商家的促销、管理者对雇员的监视等,从而让我们被迫受制于某种外在主体设定的规则。

(二) 脑意识恶意操纵化

脑意识恶意操纵化,亦是脑机接口技术扩散的一大流弊。目前,存于用户心中的主观意志尚能受个体所支配,而技术的扩散将让脑机接口设备充斥于人们的社会生活空间,这种基于用户个体的主体性、自由意志的表达将会受到一定的限制甚至是恶意操作,其带来的社会后果比隐私泄露更为严峻。例如,黑客通过恶意攻击脑机接口系统盗取别人的意识,借助他人的意识去进行抢夺、抢劫、杀人等违法犯罪活动,从而让个体的人在无意识中成为攻击别人的一种工具。恐怖分子也可以利用接口,遥控无人机或机器人,远距离对特定的人或建筑实施袭击,大脑接口连接辅助外设的加持赋予其更大的破坏力以及更高的成功率。而且,伴随着技术的无序扩散,我们会发现,除去患者,一些健康的普通人可获得“神经增强”“大脑增强”的机会空间,成为“认知超人”。当其试图以一种隐蔽性、欺骗性的方式参与社会竞争,很容易获得相对于普通人的优势。那么,这种优势是对其个人能力的肯定,还是对其植入脑机接口的褒奖?其间不同的解释路径对社会公平秩序必然产生不同的影响。从表象上看,这种行为似乎只是对自己的脑意识进行刻意增强,未对他人造成形体上的伤害;然而,人与人之间的可比性缘于其社会性,这种以自己为对象、工具的方式,若是以排除他人于正常竞争秩序之外为目的,必然造成系统性、全局性的秩序破坏。

(三) 脑算法资本垄断化

脑机接口技术通过空间生产的无节制扩张和自身扩散获得了资本增殖[19]。脑机接口是一项十分精密的技术形态,基于技术发明者与技术使用者分离的背景,用户并不需要完全了解接口技术的内部运行规则,只要明确相应的算法数据,并结合简单的操作指令,便可相对轻松地上手,故而,用户对这一技术人工物的结构认知始终处于“算法黑箱”状态。这一“算法黑箱”使脑算法处于公众不知道的隐藏角落,对其监督还存在真空区域,这恰恰为资本的算法垄断提供了灰色通道。具言之,一项新型技术的研发、推广、应用,都离不开资本的参与,由于资本天生具有逐利性和自我扩张增殖的倾向,资本前期的大量投注便意味着脑机接口技术在后期的推广使用中会天然带有为资本牟利的“原罪”。融资的数量和金额最能彰显出资本对脑机接口应用前景的信心,根据Statista的数据显示,2018年全球脑机接口市场规模约为1.25亿美元,2025年有望增长至2.83亿美元,复合年均增长率达到12%[20]。资本的积极进场加速着脑算法资本的垄断化,尤其是随着科技巨擘、算法寡头的入场,更多的资本借助“算法黑箱”的庇护,利用算法背后的那只“看不见的手”,操控、管理着用户的日常生活习惯,窥视、记录用户的价值偏好,并进一步将这些信息转化为资本增值过程中的积极因素,完成资本增值逻辑的闭环。在这一过程中,脑机接口的空间生产按照资本增殖逻辑扩展,表现为产品的多领域扩散和数量的急速膨胀,资本也得以利用其金融优势,实现其在互联网领域内的“算法权力”扩张。彼时,算法垄断将成为资本实现社会控制和奴役的一种手段[21],社会财富和占有也会愈加不平衡,弱者恒弱、强者恒强的“马太效应”更为突出。

(四) 个人信息圈壁垒化

脑机接口技术的多领域扩散,形塑着我们的时间与空间,使我们长期浸浴在相对封闭的人际交往圈而不自知。技术的扩散驱动着脑机接口向高阶形态进发,这是一个由数据、代码、算法所营造出的720°VR全景场域,它刷新着用户的感官感受,给人以逼真的参与感和沉浸式的虚拟体验。这一体验模式加剧了个人信息圈的壁垒化。尽管从形式上看脑机接口以身临其境的立体叙事打破了原有平面叙事的离身性壁垒,用户寻找信息似乎不需要费多大力气,借助脑电波输出就可以实现意念搜索,从而相对轻松地获取海量信息;但这种信息大多是知识性的而非社交性的。由此,这种“信息超载”反而会悖论式地产生“信息茧房”[22],困在接口设备中的人所关注的信息将大为窄化。这进一步使得越来越多的用户怠于以“亲身体验”的方式完成日常琐事,人们愿意为社群陪伴分配的时间渐少,基于人类社群信息的更迭和互联大为收缩,建立正常人际关系的一大壁垒就此形成。社群是涉及人类生产、生活中的基础单元,在涂尔干看来,人际间的“功能性相互依赖”构成了社会团结和道德秩序[23]。哈贝马斯也曾构想未来的理想社会是“无限制的交往共同体”[24],这种“自我”与“他人”交互的“主体间性”是推动社会发展的重要元素。脑机接口所营造出的沉浸体验加剧了用户在现实与虚拟之间的割裂,人与人之间“原子化”的孤立个体形态变得显著,随着而来的就是利益诉求的碎片化以及社会治理结构的支离破碎。

四、脑机接口技术多领域扩散的规制思路 (一) 脑机接口技术规制的理论支持

任何技术都是一把双刃剑,就像航空旅行让我们有机会参观遥远的地方,但客观上也促进了疾病的传播。脑机接口作为一项新型技术,其跨领域扩散虽能为人们的日常生活带来极大便利,但同时带来了脑意识恶意操纵化、脑隐私数据泄露化、脑算法资本垄断化、个人信息圈壁垒化等外溢风险。在这背后,我们必须尝试对技术的跨领域扩散予以一定的规制,第一步便是寻找相应的规制理论供给。本文主要尝试从风险预防理论、场景正义理论和数字正义理论中借鉴思路。

风险预防理论最初由德国学者贝克提出。其认为当前社会正处于从传统现代社会向风险社会的转变过程中,其中的风险正是早期现代性中机械科学化或技术化的自我反噬[25]。脑机接口作为现代技术的新兴产物之一,其技术扩散引发的风险不仅具有系统性,而且显现出复杂性。同时,贝克[25]指出:“传统社会的轴心原则是财富的生产和分配,而到了风险社会,轴心原则成了风险的生产和分配。”脑算法的资本垄断化会加剧未来社会财富和占有的不平衡分配,也对用户的交往规则施以改变,甚至会借助接口这一联结中介,模糊人与机器之间的边界。尽管这些风险尚未大规模地显现,但风险预防理论的核心就是指当人类现有科技水平不足以认识和预测某一行为对环境的影响时,应当限制该种行为。由此,在技术扩散风险问题尚未寻求到合理解决方法时,限制脑机接口技术的外向扩散并将其控制在医疗这个局部领域,不仅是合理的,也是必要的。

场景正义理论最初由Nissenbaum[26]提出。其重视行为发生的空间(场景与场域)与追求的价值(正义)[26],这一理论为我国个人信息保护研究提供了重要理论基础。脑机接口技术的扩散使用也面临着隐私泄露与公平性问题,因此,该理论对脑机接口技术的多领域扩散同样具有规制意义。场景正义理论的所有活动不仅发生在物理空间中,也发生在政治、习俗和文化的背景空间里[27]。脑机接口由基础医疗向教育、娱乐、家居、军事等领域的通用性运用过程,与场景的多维转换密切相关,其中不仅包括了物理空间的地点转换,而且包括不同文化空间、社会空间下用户行为习惯、人际交往的内在变异。由此,借助场景正义理论,识别技术扩散的场景边界,并将“场景正义”理论规则化、具体化到脑机接口技术的跨领域应用中,对规范化使用这一技术、减少系统性风险具有重要意义。

数字正义理论是伴随人类发展到数字社会时代下的正义理论分支,有人将数字正义理解为依托一系列数字技术来提升司法的效率和公平,以数字化的方式“接近”正义。数字正义表面上看是“机器与人类”的关系,但实质上仍是人与人之间的关系,可以说,数字正义是社会正义而非机器正义[28],其可进一步细化表达为分配正义、程序正义、互动正义和信息正义四种形式。脑机接口技术的多领域扩散,包含着数字化对社会生活的全面渗透侵染,深刻地改变着用户的生活方式与交往规则,并使生产力呈指数式增长;但其背后隐藏的“算法黑箱”“数据权力”亦造成对社会平等、公平价值的侵蚀。为此,借助数字正义理论,基于数字生产生活方式和数字行为规律,探索脑机接口的技术扩散对数据资源的合理分配、数字权利的充分配置、算法决策的公开透明和代码规制的规范管理,具有重要意义。

(二) 脑机接口技术的法律规制向度

对待脑机接口技术的多领域扩散,还须在法律层面对其具体的规制向度进行丰富。

1.锚定脑机接口技术的核心价值取向

沉浸在由脑机接口技术创建的虚拟世界里,用户往往更关注其能带来的效率与便捷,却很少有人清楚地意识到自己的神经隐私面临着泄露的风险。为此,必须搭建脑机接口跨领域扩散的规制框架,锚定脑机接口技术的核心价值取向,使其渗透于技术的应用实践。学界中,常有技术中立派反对在立法上对任一技术发展造成任何限制或偏袒的效果。然而,技术的中立未必等于行为的中立,技术创造者或使用者的价值取向会体现、渗透或转移到技术形态之中,任何技术本身都蕴含、负载着一定的善恶、对错甚至好坏的价值倾向。脑机接口扩散背后的安全、知情同意、自主性、隐私保护等问题,还有其中可能涉及的身份认同、自我同一性、潜在公平的问题,较于其给我们带来的便捷、效率,前者更为凸显作为“目的性”的人本应有的态度,后者的价值倾向无异于会将人向着“类机器化”的方向发展。可以说,在人工智能时代,脑机接口设备所带来的诱导性与被动盲目性会披着技术中立的外衣给意识形态安全带来极大的威胁[29]。故而,对脑机接口技术的法律规制,应注重立法态度从“经济面向”到“经济+社会面向”的转变,并在相应的价值分级中,锚定“安全、公平、公正”的优位价值取向,将“科技向善”作为脑机接口技术发展的未来进路,突出脑机接口应用中的“人性”与温度。

2.搭建“神经权利”的法律保护框架

脑机接口的持续性使用,让用户的大脑时刻处于“神经监控”之中,大大加重了用户的精神负担。接口设备所提取的神经信息和思维信息关乎人精神领域的隐私[30],尽管我们允许公权力对神经信息进行收集与利用,但这只能是基于特定公共目的,绝不能用于商业用途。然而,脑机接口的多领域扩散,尤其是商业化扩散,正在持续增强神经信息的泄露风险。在Nature杂志上,Yuste等[31]曾发文指出,未来围绕脑机接口技术,包括隐私和知情同意在内的,对个人神经信息和活动的保护应该上升为一项神经权利(neurorights)。Baselga-Garriga等[32]进一步指出,围绕神经监控的“神经权利”包含了个人身份、自由意志、精神隐私权、平等获得精神增强的权利以及免受算法偏见的影响。只是,“神经权利”是伴随新生技术产生的新型权利,并未得到我国法律的支撑。是故,基于神经信息泄露问题的日益加剧,必须以“赋权”的方式创建出“神经权利”这一新型权利,构建全新的权利保护规则,才能在“神经权利”的主观诉求与法定权利之间搭建起一座桥梁。或许有人会问,现在创设这一新型权利类型是否为时过早?其实关键不在于现在行动是否过早,而在于我国是否正在以足够紧迫的速度考虑与“神经权利”有关的问题。从比较法的视域看,目前已有国家开始陆续提出修改宪法以增设神经权利的请求。2021年,智利考虑在其宪法《大宪章》(Magna Carta)的第19条中增设神经权利保护条款,目的是“防止大脑的完整性和精神保障受到神经技术发展带来的进步和能力的影响”[33]。因此,我国考虑搭建“神经权利”的法律保护框架并非开山创举,只是适应未来社会变迁的必要应对方式。具体在搭建“神经权利”的制度框架时,可从脑信息安全与隐私保护、神经信号记录设备、脑机交互范式与协议等方面加以探索。

3.限定脑机接口技术的实践应用场景

面对脑机接口技术扩散带来的外溢风险,须将其限定在特定的应用领域及服务场景中。在技术持续扩散形势下,当下最紧迫的问题不是讨论它是好的、坏的抑或是“必要的恶”,而是用法律去规制它,限定它的应用场景(where)和时间(when)[34]。具言之,要暂时弱化该项技术的通用性,在统一的调度中心指挥下,尽可能地将研发资源汇聚在医疗领域,应用场景限定在临床背景;相应地,用户也锁定在运动感知功能受损的患者群体中。在此种技术运用的封闭性准则中,脑机接口技术的代表性风险集才会是相对有限且确定的,所有的问题也会处在模型可解范围内。当然,这并非主张对该技术的全面遏制,而是以一种资源集中的方式,注重治疗型脑机接口系统的研发,深挖这一技术在神经康复、大健康等医疗领域中的延伸运用。例如,探索、强化其在实践问诊中的协同、多通路智慧咨询以及远程医疗等创新服务;而不宜在医疗领域的应用尚未完全成熟之时,便仓促地让其扩散至其他领域。若是无法完全遏制这股技术扩散浪潮,也至少应该将其限定在非侵入式脑机接口的范畴中。在侵入式脑机接口本身存在研发瓶颈与社会管控的双重壁垒下,这一目标也较容易实现。简而言之,对待脑机接口技术的多领域扩散必须从一种“大安全”的管理视角出发,弱化该项技术的通用性,将其框定在医疗应用场景中,抵御技术扩散产生的系统性、规模性风险。

4.预防脑机接口技术的资本垄断风险

技术扩散中的资本垄断化风险,伴随着对社会公平、个体自由、道德伦理的侵蚀。因此,须提前采取预防的态度对这一技术的盲目扩散加以规制。一般而言,“节制资本”与发展“国家社会主义”被视为预防资本垄断的两种规制向度。对于“节制资本”这一路径,不宜一味地对资本进行打压、划定绝对的禁域。具体须在“技术-制度-市场”的三维视角上,把资本引入治疗型脑机接口的竞争赛道,并在商业资本外,尽可能地鼓励社会资本、文化象征资本等多类型资本共同参与,防止商业性的头部资本任意壮大,淡化、稀释头部资本在技术扩散下的决策主导权。对于“国家社会主义”这一路径,国家有义务,也有能力参与脑机接口的技术建设。国际间关于展开“大脑开发”研究、争夺“制脑权”的军备竞赛早已吹响号角,国家层面预算及制度支持是各国深入脑科学研究的重要后备。因此,包含脑机接口在内的大脑研究与开发课题要得到更多来自国家层面的资金及制度支持,应增加相关医疗领域中该类课题的研究经费,设置合理的预算。同时,在管理层面上,还须由公权力部门承担起这一技术性生产要素跨领域流动的审核重任,这对预防脑机接口技术的资本垄断无疑具有重要意义。

参考文献
[1]
翟雪松, 楚肖燕, 胡美如, 等. 从脑机接口到脑脑接口: 认知传输与群体协同的教育变革[J]. 远程教育杂志, 2022, 40(3): 24-34.
[2]
朱洪洋. 学习幻肢与神经全景敞视: 脑机接口技术应用于教育的主要伦理挑战[J]. 电化教育研究, 2020, 41(5): 39-44.
[3]
韩水法. 人工智能时代的自由意志[J]. 社会科学战线, 2019(11): 1-11, 281.
[4]
荆珊. 情感脑机接口技术应用的伦理挑战与应对[J]. 自然辩证法研究, 2021, 37(9): 35-41.
[5]
胡凌. 理解技术规制的一般模式: 以脑机接口为例[J]. 东方法学, 2021(4): 38-48. DOI:10.3969/j.issn.1007-1466.2021.04.004
[6]
DUECK B. Enter the matrix: what the new brain-computer interfaces teach us about agency, privacy, and human subjectivity[J]. The ijournal: student journal of the faculty of information, 2021, 6(2): 1-11.
[7]
毛刚, 王良辉. 人机协同: 理解并建构未来教育世界的方式[J]. 教育发展研究, 2021, 41(1): 16-24.
[8]
戴曼迪斯, 科特勒. 未来呼啸而来[M]. 贾拥民, 译. 北京: 北京联合出版公司, 2021.
[9]
中新网. 美军启动"阿凡达"项目研究人脑遥控机器人[EB/OL]. (2012-02-20)[2022-07-17]. https://www.chinanews.com.cn/gj/2012/02-20/3681907.shtml.
[10]
欧阳灿灿. 当代欧美身体批评研究[M]. 北京: 中国社会科学出版社, 2015.
[11]
刘建明. "元宇宙"臆造的新式乌托邦——展望下一代互联网的终极形态[J]. 新闻爱好者, 2022(2): 4-9.
[12]
涂良川. 《资本论》机器观视域中的人工智能[J]. 理论探讨, 2022(2): 132-138.
[13]
海德格尔. 演讲与论文集[M]. 孙周兴, 译. 北京: 生活·读书·新知三联书店, 2005: 15-18.
[14]
康德. 实践理性批判[M]. 韩水法, 译. 北京: 商务印书馆, 2003: 95.
[15]
斯宾诺莎. 伦理学[M]. 贺麟, 译. 北京: 商务印书馆, 2011: 184.
[16]
黑格尔. 法哲学原理[M]. 范扬, 张企泰, 译. 北京: 商务印书馆, 2017: 46.
[17]
杨学科. 论神经科技时代的神经权及其保障[J]. 科技与法律, 2019(2): 66-73.
[18]
福柯. 规训与惩罚[M]. 刘北成, 杨远婴, 译. 北京: 生活·读书·新知三联书店, 2012: 227.
[19]
孙全胜. 列斐伏尔"空间生产"的理论形态研究[M]. 北京: 中国社会科学出版社, 2017: 12.
[20]
林志佳. 对话BrainCo创始人韩璧丞: 数据量不够依然是脑机接口的难题[EB/OL]. (2020-09-08)[2022-07-17]. http://www.myzaker.com/article/5f56e3eb8e9f0920a969a991.
[21]
魏郡一. 脑机接口技术: 人的自主性问题及其伦理思考[J]. 医学与哲学, 2021, 42(4): 27-31.
[22]
陆宇峰. 系统论宪法学新思维的七个命题[J]. 中国法学, 2019(1): 82-103.
[23]
涂尔干. 社会分工论[M]. 渠东, 译. 北京: 生活·读书·新知三联书店, 2000: 358-359.
[24]
哈贝马斯. 交往行为理论[M]. 洪佩郁, 蔺青, 译. 重庆: 重庆出版社, 1994: 139.
[25]
贝克. 风险社会[M]. 何博闻, 译. 南京: 译林出版社, 2004: 15-22.
[26]
NISSENBAUM H. Privacy as contextual integrity[J]. Washington law review, 2004, 79(4): 101-139.
[27]
邓辉. 数字广告平台的自我优待: 场景、行为与反垄断执法的约束性条件[J]. 政法论坛, 2022, 40(3): 103-116.
[28]
周尚君, 罗有成. 数字正义论: 理论内涵与实践机制[J]. 社会科学, 2022(6): 166-177.
[29]
黄先蓉, 马兰. 智媒时代意识形态安全下我国出版产业发展政策调整路径[J]. 编辑之友, 2020(1): 36-39.
[30]
吴佼玥, 李筱永. 脑机接口技术视角下神经权利的逻辑生成和规范路径[J]. 残疾人研究, 2022(2): 44-53.
[31]
YUSTE R, GOERING S, BI G, et al. Four ethical priorities for neurotechnologies and AI[J]. Nature, 2017, 551(7679): 159-163.
[32]
BASELGA-GARRIGA C, RODRIGUEZ P, YUSTE R. Neuro rights: a human rights solution to ethical issues of neurotechnologies[M]//LÓPEZ-SILVA P, VALERA L. Protecting the mind. Cham: Springer, 2022: 157-161.
[33]
古斯曼. 智利: 开创神经权利保护之先河[EB/OL](2022-01-03)[2023-01-01]. https://zh.unesco.org/courier/2022-1/zhi-likai-chuang-shen-jing-quan-li-bao-hu-zhi-xian-he.
[34]
郑戈. 数字社会的法治构型[J]. 浙江社会科学, 2022(1): 151-155.
脑机接口技术多领域扩散的外溢风险及其规制
曾睿, 何伦凤