微信邦

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

返回列表 发新帖
查看: 472|回复: 0

我们的“两个身体”:简析健康码等算法治理术

[复制链接]
发表于 7 天前 | 显示全部楼层 |阅读模式
生活圈制作
“我们冀求多个身体共同存在的可能,让数字的身体在众多方面比物理的身体更智能、更恒久,但并不取而代之。”



腾云·数据观察 | 在数据成为一种新型生产要素的当下,关注数据的保护、使用与流通。


文 | 朱悦
对外经济贸易大学数字经济与法律创新研究中心研究员圣路易斯华盛顿大学法律博士(J.D.)候选人


我们要让死者和生者在这个地方(档案库)变得不可分离……先生,给这名(物理身体已经自杀的)的女子做一张新卡片,然后放在生者资料库……若泽·萨拉马戈

围绕健康码的讨论有多少,其引出的议题就有多少。

二色分明,三色璀璨,渐变迷离;接触追踪,染病风险,思想淳正……当健康码突破曾经莫须有的藩篱,试图将自身与生活的各种侧面相虬结,我们的视线随之难以聚焦,再难分清“健康”、“信用”、“不安全”这些同等科学、同样四通八达的支离术语。泛化越广、越深,一般的讨论便越有必要。

二十世纪来经久不息的“两个身体”隐喻,可“挪用”至这一议题。



“国王的两个身体”是伊丽莎白一世时期英国法学家创制的概念:国王有一个“自然之体”,他个体的肉身,可生病、会疲弱、可朽坏;同时,国王另有一个“政治之体”,永远存续、不可朽坏。这一隐喻代表着种种冲突与矛盾。

算法以及和算法关系密切的信息保护,核心总在“识别到个体”上。

在这类修辞下,数字身份好像内化为个体的一部分,表征不同场景中个体的统一。然而,自大半个世纪之前,数字的、统计的甚至是算法的身份开始异化,既因“识别到个体”而获得预测、奖惩以至操纵个体的正当性,又让现实中的另一重身份感到焦虑和恐惧。

一码通行、孤岛融合,这既是部分观点中美好的应许地,又唤起了作为信息保护制度基础的所谓“卡夫卡式恐惧”。如果难以容忍两具身体间无休止的牵扯,求取合二为一,融合方向,将塑造相关制度的基调。

在难以断定哪一方更为可能的前提下,倘若以物理身体控制数字身体,这一思路,可以系统地串接算法规制领域的众多制度。反向的过程并非全无可能:若数字身体凌驾于物理身体,如此一来,历史比想象的更久远。





01
“我”之道,一以贯之

对单一身份的准确识别,是个人信息和算法规制中众多制度设计的共同源头。

到19世纪末,随着“陌生人社会”的兴盛,以及统计机器的日渐实用化,一纸一人、一卡一人,再到更晚些的一行(数据)一人,都由幻梦落入现实。

20世纪中叶,多国提出建设“统一数据库”的愿景,意图统合各数据“孤岛”,以此解决众多扰人的社会问题。

法律的争辩,同时达到高点;制度层面,作为世间几乎所有个人信息保护法律根基的“可识别个人信息”概念诞生。尽管这一概念的适用在今天遇到了一些困难。在学理层面,时人既奠定了领域内各方向的基础,又创设了我们对大型数据库的几乎所有比喻:触手遍地的章鱼,K所面对的城堡,之下的芸芸众生,尽皆赤裸、透明,等等。

吵闹很多,但以下假定渐渐不可动摇:每个人都(该)有个数字身份,这一身份可以很丰富、很准确,也可能很不安全。争论大多集中在这一假定的边缘。




逆反形式的命题,真值同样慢慢得到承认:每个人都有属于他/她的一页或一行,每一页/一行,都有属于它的一个人。
19世纪下半叶的济贫浪潮里,谓之科学的筹划,已有几分这样的意蕴。同时期保险和信用行业的发展,和20世纪初“精算警务”的崭露头角,则是上述命题逐渐成真的现实渊薮。
比如,从成千上万嫌犯样本里抽象出犯罪者的许多特征,形成理念中典型犯罪者的画像,到比对这一画像与日益完善的个人信息库,再到根据个人信息预测犯罪概率:对最能体现社会臧否个体的“有罪与否”和“该当何罚”,数字身份的作用日益凸显。从数字身份出发,足以对个体现实生活产生翻天覆地的影响。
1960、70年代,法学家开始严肃地议论这样的题目:雇用、录取或求刑个体时,既可严格依照算法,按规则计算结果判定,也可延续因人识断的传统,按照个体的所有侧面综合决定。尽管当前论调偏重于反思前者的偏误,但在当时,为前者正名的音浪,声势要强劲得多。
从现实身体里凝练出纯净流淌的数字身份,再以数字身份提拉万千丝线羁连的现实身份,驱动其中往复的,有不断成型的制度,有快速演进的技术。从这重意义看,个人信息保护中的核心概念,总可做多向的解读。
“识别到个体”的范围不断扩张,既将保护投射得更为宽广,又在反复的肯定数字身份与现实中个体的密切联系。正当性基础中最凸显的“同意”,是身份自主的声张,也是牵连两种身份间的牢固保障。
修正、携带与遗忘,令修饰过的面目愈发清晰,还为这部分身份的可靠,下了又一重背书。
在这一框架里,身份的细部特征大可商议,但身份的本体只会不断凝实。由此,信息自主悄然削弱了“彻底的匿名” “自卫的混淆”和“隐私即低效”等话语,在赋予个体打理数字身份的空间的同时,隐式地保障了数字身份的始终存续。
技术层面的话语变动则更为显然:个体的数字画像比他/她更了解自己。这句谶谚蕴涵了颇为精巧的佯谬:如果“个体”和“自己”实为一以贯之,“更”字不过修辞尔;如果接受二者的彼此分离,“更”的使用,或许再不是夸张。
当然,在绝大部分的时间或场景里,零星的信息流动,很难称得上什么“数字身份”;即使信息多到足以画像,信息处理者的关注点,通常也十分狭窄。要害始终在于不同场景间信息的融合。
散落的信息加特定的处理,个体容易修饰,生成数字身份的人,一般不会对这样简陋的画像有太多期待;贯通的信息加无垠的用途,个体再难揣度全貌,运用如此身份的人,对可以实现的治理效能,怀有难以挫败的信心。
在这一趋势上,个体很早已经袖手:即使是计算机还在吞吐纸带的年代,哪怕是学者,也很难大概理清带子上戳刺的上百种个人信息。
1990年代以来,帮个体对数字身份“摄影”、清楚了解各类收集信息与相应处理,是各地创业者经久不衰的设想。随着“健康”或类似算法治理术的逐渐贯通,相应观念的渠成,不再全是幻想。
无论术语为何,一旦通行观点开始悦纳这样的存在:个体设想与生活处处交结的算法的独立存在,行为举止均考虑数字身份的修饰;各方同样认可身份的准确,尽量观测这种覆盖相当广泛的数字身份,以此为决断个体的实质标准。
那么,我们可以认为,数字身体对应的“奇点”已经到来。之后,任何对“人”的讨论,都要考量两重无法通约的身体。


1990年代以来,帮个体对数字身份“摄影”、清楚了解各类手机信息与相应处理,是各地创业者经久不衰的设想。随着“健康”或类似算法治理术的逐渐贯通,相应观念的渠成,不再全是幻想。


02数字人的两个身体
身体这一意象,同样经历了长久的凝结过程。
1960年代,就有理解数据库的丰富语言,也有面对算法效能的欣喜,尚有对数字“影子”的担忧。此时,恰如“影子”这一譬喻所示,对数据库操纵个体固然深刻,说到底,发声者依然假定:这是依附在实体上的幻影。以下,借用这一比喻表达类似观点的评论越来越多,对操纵的描述也更加生动。
例如,算法塑造了社交媒体上头部流量所对应的话语、情绪和审美标准,与此同时,新一代的话语、情感表达与美的追求,出现了类似的漂移。数据集合之意志所表达的偏爱,在大范围内影响个体的举手投足。
监控研究领域前沿中频繁的词汇,早先更多是“透明” “赤裸”“窥视”,现在更多是“助推” “塑造”甚至“哄骗”。在已经开始深刻涉及人格的创作层面,研究者也不再讳言算法的作用。
实际上,还有观点严肃地讨论人与机器——而非机器与人——难以区分、导致人难以通过“逆向图灵测试”的可能性。数字身体牵引现实身体的程度,早已不止于轻触即碎的倒影。
当数字身体彻底凝实,物理身体的意志和行为,反而需要向前者辩护。毕竟,和传统的“两个身体”话语一致:物理的身体容易朽坏,意志也不够强韧。相比之下,至少在理论层面上,数字身体可以存在许久,判断的能力总是“在线”。
有观点认为:如果路上全部都是算法驾驶,就可以避免不确定性,从而防止任何事故。但算法与人并存的路段始终存在不确定性,进而可能导致算法驾驶车辆与人驾车辆的碰撞。既然如此,为何不彻底取消人驾,全部由更加理智的算法驾驶接管道路?
不知由此迈过数字经济的奇点之后,尽管法律仍然可以尝试赋予个体“对抗自动化处理”的可能性,想要超越算法决策的个体,依然要证明这一显然十分困难的命题:他/她那脆弱的意志和头脑,比精巧且长存的数字身体更为“真实”。
甚至,当有关讨论涉及意图、动机和思想,如果“真实”的基准即落在数字身份上,他/她面临的举证任务——证明自己的意图、动机和思想比真实的还要“真实”,在修辞层面,似乎已经自相矛盾。



对由数字身体所主导的社会进行批评很容易。信息安全是永恒的担忧,数字身体为害物理身体的可能性永远存在。然而,“何以因噎废食”?数字身体的表达确实可能与物理身体的言语不一致。
不能否认,众多乌托邦文学影视有警示作用。从数字身体开始成型的19世纪下半叶起,畅想“乌有乡”和描绘“新世界”的艺术,在数量级上总可以等量齐观。数字的身体,狡黠,顽强,永远难以打破。
如果不是对未来有非常的乐观,又难以克服心底总有的无助、焦虑和恐惧,大概很难忍受始终与数字身份相纠缠的生活。我们也不喜欢这样的异化:数字身体的每一缕思绪和每一寸肤骨,都来自物理身体的同意。

如有此事,即使不考虑1960年代各方已剧烈批评同意这一历史,数字身体所具备的力量,也足以让同意者哑然失笑。数字身体勾连物理身体的能力,既来自数字肌骨和物理身体的一一识别,又以对物理身体的真实映射为基石。不过,细究这一身体生成的原理,最终仍是千万其他物理身体的提炼,再将其中每一个体套入由众多其他个体织成的丝网。
换而言之,这里既可以描绘为成“帮助你了解你自己”,也可以表达成“一切人对一切人的驯化”。在奇点遥遥可见的今天,最好的出路之一,是提前在两种身体间分出主次;或者,让一具身体始终束缚另一具。


作为对人的精准识别和度量,数字身份具备了牵引物理身份的可能性和正当性。随着这一现象逐渐变得日常,跨越不同场景、甚或覆盖生活所有侧面的算法日益可能。


03支线一:算法规制的三道“坎”
我们更加熟悉的,大概是第一条路:物理的身体,应当始终保持优先。
如果假定跨越场景的大范围算法运用无法避免,那么,我们期待1960年代的比喻成为制度和现实的锚点:数字画像始终是物理身体的影子,影随身而动。可以有深浅,能容忍歪斜;“对影成多人”,则始终只能是浪漫诗句里的瑰奇想象。
从此出发,笔者之前写作的《[color=var(--weui-LINK)]算法规制的三道“坎”》,不仅是对现实制度的归纳,还是对数字身体主导的三种制约。
简而言之,个人信息保护,在于阻止数字身体成型;算法伦理原则,在于压制数字身体的话语;类似健康主义的追问和警惕,则是奇点前最后的屏障。这既是对三类制度的证立,又是对三者强有力的回护。
海量个人信息,是构建数字身体的基础“营养”。由此,若个人信息流出有所规范,数字身体成型的速度,自然相应减缓。这一点的效应,至少体现在四个不同层面上。
首先,对敏感时期收集的大量非常准确的信息,有关后续处理的建议,强烈指向最严格的匿名化或者删除。
这一思路同时与近期法国等地法院作出的,或许有些不近人情的要求删除相应信息的判决相合。如上,这些数据越准确,匿名或删除的依据未必因此减弱,反而可能加强。
其次,对“同意”,以及更加宽泛的“正当性基础”,应有相应反思。
须知,相应基础,仅仅是对狭窄范围内收集、处理等行为的辩护,而无法成为对更加一般的、建构数字身体的辩护。因此,针对海量个人信息的处理,总应当放在数字世界里个体状况的整体情势下看,并从此保留一定的、超越相应正当性基础的空间。否则,千头万绪的同意,反而可能织成最为基础的、两个身体间的张力。
再次,在个人信息保护领域,很少有不涉及错综复杂平衡问题的条文。
考虑到前述可能,对每一条文,行称提之心事时,都多了一项基础性的考虑。对默认不收集的偏向,亦因此强了些许。
最后,个人信息保护制度的发展已经大致踏过了“容忍黑暗般匿名”的阶段,现实社会经济发展,对秘密留下的空间大概也越来越少。
同时,除制度框架本身外,聚光灯几乎完全落在“基于(个体以外的)设计”的隐私上。尽管如此,我们不应忘却 “低效是对隐私最好的保护”的法谚。




如果说,个人信息保护的各层制度是对数字身体原料的限制,算法伦理原则,更多指向以原料孕育身体的过程。一方面,落实伦理原则,将阻挡许多跨越场景运用个人信息的行为;另一方面,一定程度上阻遏数字身体,也是对伦理原则领域众多难题的开解。
前一点,对数字身体凌驾物理身体的警惕,需要在“向善” “有度” “可信赖” “可持续” “人类中心”等各具影响的原则中找到融通之处。后一点,对算法伦理原则,讨论的声音越来越多、越来越强。但透明、公平、可解释,既难以严谨的方式定义,在具体的算法里又缺乏公认实现方法。
虑及前文的讨论,更加充分地暴露算法涉及伦理的多样,更为明白地阐释算法可能无法调和许多重要伦理原则的事实,未必是件坏事。
两个身体对算法伦理的另外一重影响,在于提示过程性伦理的重要性。
眼前通行的算法伦理,从“向善” “透明”再到“公平”,大多可以视为预设了过程的、针对发展结果的伦理:应用算法是必然的结果;与其显得“顽固”,不如关注已来之未来中算法的特性是否合乎理想。
停滞算法的应用,与社会经济的呼唤并不相合;不过,这并不妨碍对预设的过程进行反思,讨论是否有所偏离,时刻警惕。例如,在大规模应用特定算法前,当考虑相应算法是否符合可逆原则。
换而言之,如果相应算法最终导致不尽如人意的结果,社会是否可以较低的代价,大体恢复到列装算法之前的情况。技术并不孤立地发生影响:技术的影响,既依赖于对社会现有结构的足够嵌入;实现嵌入后,技术本身又会深入塑造社会的结构。
当后者发生,即使个体具备“拒绝自动化处理”的权利,此时个体也很难脱嵌于被技术显著塑造的结构。数字身体在观念中逐步压过物理身体,很可能是类似的过程。
因此,除了对个体层面的制度安排进行反思,在社会层面设置前述的过程性伦理,同样是第二道坎中的应有之义。



最后,是诸如健康主义的省思:在令健康码与多种现实结果关联以前,应当论证相应关联正当、合理。在本文语境下,这一点也可以替换成“信用主义” “安全主义”,等等,还可以推广到任何成为大规模应用算法之凭据的术语上。与前两道坎有所不同:健康主义,一定程度上可以成为奇点前的底限。
这一反思,同样具备两重意味。
第一重相对现实,大抵与既定的行政法等部门法重叠,要求基于算法的行政决定服从有关法律原则。第二重则更为突出:在审视信息的大量汇集与算法的超场景应用时,应始终从社会中人的总体处境的角度,考虑有关应用是否正当、合理。算法在日常生活中的大部分应用,都不会触发这层考虑。
不过,当算法进入涉及人格核心的层面时,这一点将发挥作用。
具体而言,倘若我们接受基于信息和算法的,在财产、健康乃至刑罚等场景的决断,如此,我们不仅应当审视算法在这一场景中取得正当的影响,还应当审视这一结果对其他人格利益强度相当的场景的影响。
毕竟,数字身体并不会在物理意义上“吞噬”我们;真正重要的是对物理身体的否认,和数字身体在话语上的主导。
倘若数字的身份在任一场景中可以作为主导,如果再失却全局层面的平衡,可以想象,类似的权衡结果,可以迅速影响到其他牵涉人格核心的层面。从这个意义上说,数字的身体,正是在失却这一层考虑的过程中凝聚成型。为了维护这条底限,需要上述有益的“滑坡”论证。




04支线二:在历史之流里上溯
我们期待支线一,但我们没有把握断言,支线一必然是未来的方向。数字身体与物理身体的共存已是现实。技术当然是永恒的难点。
不过,即使地平线可以抵达,制造“身体”,依然需要非凡的哲思。在“两个身体”的原喻体里,超越物理极限的另一身体得以诞生。
可惜的是,这样的身体似乎无法量产:或许,这一身体的制造过程,其中即蕴涵着唯一性。此外,擦除这一层身体意象,本身即是“现代”的体现。
在第一条路里,预设的立场,是毋须在影子面前辩护。即使这片影子已经覆盖生活的每一重要侧面,每个人都仍可以反思等方式,肯定自己之为自己。
然而,在这一条支线里,这一最后的防线,反而成了难以逾越的障碍:即使数字身体取代了物理身体的每一侧面,反思仍然可以引起疑虑:这是我/他/她的身体吗?
倘若无法飞越这道深渊,物理身体终究难以相信:对方是数字的身体。对拟人机器的过度信任偏误,或许可以发挥作用,但这太容易被“纠正”。此处,这样的怀疑有所根据:是否存在任何理性的证明,能够超越本性里无法尽抑的反思?
从这一角度出发,尽管“两个身体”所叙述的、神秘的身体制造过程已经显得久远而缥缈,我们需要从此上溯,寻找足以制造身体的程仪。
即使健康、信用和安全终究是一抹光影,对那些主动寻求多个身体的人,对也许有的、希望用数字身份压制个体物理身体的人,还有,对那些希望找到办法,让劳作的算法、创作的算法都成为社会观念意义上的人格实体的人,技术的飞跃和缜密的说理固不可少,但终究无法替代最后的飞跃。
未来,无论这三类中哪一类的意志占据主导,从而引向第二条道路,他们都需要“发明”类似的程序,让数字身体成为真正意义上的身体。或许可以期待:在这一道路所指向的将来,理性主义的硕果,和神秘主义的孑遗,以最为奇特的方式合流。




05结语:今日方知“我”非我
本文探讨了如何串接健康码或类似算法治理术的历史。作为对人的精确识别和度量,数字身份具备了牵引物理身体的可能性和正当性。随着这一现象逐渐变得日常,跨越不同场景、甚或覆盖生活所有侧面的算法日益可能。同时,零散的数字身份开始汇聚,独立于物理身体。
个人信息保护或类似法律未必能够阻遏这一过程,反而可能加速数字身体取得主导的进程。两类身体间既有无尽的牵扯,又赋予了部分极具吸引力的可能性。
无论是数字身份始终归附物理身体,成为后者的幻影;还是数字身体外在于人,甚至成为不同场景的主导,都是无法彻底排除的可能。以前者为理想,如此,对数字身体压过物理身体的防御,可以成为算法规制领域众多内容的枢纽。
个人信息保护,对应于控制前者的“原料”;算法伦理,既是对组合原料的制约,又可以在接近失控时提供逆转的空间。我们冀求多个身体共同存在的可能,让数字的身体在众多方面比物理的身体更智能、更恒久,但并不取而代之。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

微信邦网联系QQ|Archiver|手机版|小黑屋|鲁公网安备 37082802000167号|微信邦 ( 鲁ICP备19043418号-5

GMT+8, 2020-7-5 15:25 , Processed in 0.145110 second(s), 22 queries .

Powered by Discuz! X3.2

© 2001-2013 Wxuse Inc. | Style by ytl QQ:1400069288

快速回复 返回顶部 返回列表