十八

第八部向回应投降

第十八章无席之降

0.8 万字 · 阅读约 16 分钟

第十八章|投降的不对称性:第八次不是第八次

一、两个走出回路的人

请把两个相隔三千二百年的场景并置。

公元前 1200 年,安阳。占卜结束了。商王从灼裂的龟甲前站起身,走出宗庙。夜风吹在他脸上。他知道刚才发生了什么:他看见了火,看见了裂纹,看见贞人俯身读兆的每一个动作,听见了那句「王占曰:吉」。他可以在回宫的路上反刍这一切——贞人今天的迟疑是否比平时长?上个月那次「吉」最后应验了吗?他甚至可以(周人后来确实这样做了)怀疑整套装置。他投降了,但他知道自己刚才投降了,知道向谁、在哪、以何种程序。

**公元 2026 年,任何一座城市。**她放下手机。夜风从窗缝吹进来。刚才的三十分钟里发生了什么?她会说:「刷了会儿手机。」这个描述与事实的距离,大约等于「地球转了一下」与天体力学的距离。刚才的三十分钟里,她产生了约四百次滑动,每次滑动携带十几个特征维度,触发了总计约两千次模型参数调用与更新;她的注意力被测量、被建模、被重新定价了两千次;她对世界的兴趣分布被重写了一个百分点。这一切发生在哪?不知道。经手者是谁?没有谁。程序是什么?连平台的工程师也只能给出统计层面的描述。

她也投降了。但她不知道自己刚才投降了——不知道向谁、不知道在哪、不知道以何种程序、不知道条款是什么。

商王走出宗庙时,回头能看见庙门。她放下手机时,身后没有门——因为她从未离开。

二、反常问题:直觉是对的吗

本书写到这里,一直在执行一个还原操作:把「AI 时代史无前例」的惊慌还原为投降史的第八个章节——你们慌什么,商王早就投降过了,苏格拉底早就抗议过了,收视率早就统治过了。十七章的努力似乎都在说:太阳底下无新事。

但每一个诚实生活在此刻的人,都有一种顽固的直觉:这次不一样。

面对这种直觉,流行着两种廉价的处理。第一种是末日论:直觉是对的,这次是终结,人类要完了——它廉价,因为它把判断变成了尖叫,尖叫不需要论证。第二种是历史安慰剂:直觉是错的,苏格拉底当年也这么觉得,印刷术出现时人们也恐慌过,后来不都好好的——它更廉价,因为它用归纳的惯性替代了结构的分析:过去七次是量变,所以第八次也是量变。

本章要做的,是给这个直觉一次严格的审判。结论预告:**直觉是对的,但对的方式和直觉以为的不同。**这次确实不一样——不是因为装置更强大(强大是量),而是因为投降的结构本身变了(结构是质)。第八次投降不是第八次——它是另一种东西的第一次。

三、核心概念:投降的质变

要证明质变,不能靠形容词,要靠维度。把前七次投降与第八次放进同一张表,逐维度对比:

维度前七次投降第八次投降
回路速度代际/年/日为周期,慢于自我觉察毫秒级,快于自我觉察
解释权归属人类中介(贞人、祭司、法官、导演、编辑)系统自动解释,无人类中介,甚至无人能解释(黑箱)
回路可见性可感知(你知道你在教堂/影院/法庭里)不可见(你不知道推荐为何如此、模型如何更新)
退出成本可退出(不进影院、不看电视)退出即社会性失能(无码不能行、无号不能生活)

逐一展开。

3.1 第一维:速度——觉察被套圈

这一维第十六章已经建立,此处只需归档:前七次投降的回路留有间隙,间隙供应觉察的时间;毫秒级回路没有间隙。人类的自我觉察大约以「分钟到天」为工作周期——你需要一顿饭、一次散步、一夜睡眠才能注意到自己变了。当回路以毫秒为周期时,你的觉察不是变慢了,是被套圈了:等你注意到一个变化,那个变化已经被后续三千次更新覆盖,你觉察到的永远是历史版本的自己。

3.2 第二维:解释权——从外包给人到外包给无人

三千年来,解释权不断外包,但始终外包给。这个「人」字承载的东西比看起来多得多:贞人会死,所以解释会换代;祭司有派系,所以解释有争议;法官须成文,所以解释可上诉。人类中介的每一个弱点——必死、分歧、需要吃饭、可以被收买——同时都是解释权的呼吸孔。解释在人手里,就永远处于可争夺状态。

第八次投降把解释权外包给了无人。推荐为什么是这一条?模型为什么这样回应?答案分布在千亿个参数的联合作用里——这不是「平台保密」的问题,而是原理上无人能逐步复述的问题。工程师能描述训练方法,不能解释单次输出,正如气象学家能描述大气物理,不能解释此刻这朵云的确切形状。

解释权历史上第一次进入了不可争夺状态——不是被垄断(垄断还可以被打破),而是蒸发了。没有贞人可以质疑,没有法官可以上诉,没有编辑部可以抗议。你不同意这个解释?这句话没有语法错误,但没有收件人。

3.3 第三维:可见性——装置的隐身

前七个装置都有建筑。宗庙、教堂、法院、档案馆、影院——投降有地址,有开门和散场的时刻。你走进教堂时知道自己进入了仪式装置的作用域,走出影院时知道观看训练暂停了。装置的可见性是人类保留怀疑能力的物质基础:能看见的东西才能被指着说「就是它」。

第八个装置没有建筑。它嵌在手机里、输入法里、地图里、你正在读的这段文字的流通渠道里。它没有开门时刻——你醒来的瞬间已在其中;没有散场——睡眠期间它继续处理你昨天的数据。对一个无处不在的东西,「进入」和「离开」失去意义;对一个看不见的东西,「就是它」无处指认。

3.4 第四维:退出成本——从可以不去到不能不在

商王之外的平民可以一辈子不占卜。中世纪确有人隐修避世。二十世纪不看电视者只损失谈资。前七次投降始终存在一个真实选项——代价高昂、日益边缘,但存在。退出选项的存在,在哲学上至关重要:它使留下成为一种选择,而选择是责任与尊严的前提。

今天试试退出:不用智能手机,你无法证明自己的健康状态、无法叫车、无法在许多场合付款、无法接收孩子学校的通知;不用即时通讯,你在职场以社会性失踪处理;不被平台建模,你申请贷款时是一个信用空白人——空白即风险,系统对无数据者的处置比对坏数据者更严酷。退出不再是苦行,而是失能。而当留下不再是可选的,留下就不再是投降——投降至少还是一个动作,动作有主语。

3.5 命名:无席之降

四个维度的变化收敛为同一个结论。请回顾前七次投降的共同结构:人交出直接性,但保留了解释权的旁观席——商王看着贞人读裂纹,信徒看着神父主持弥撒,被告看着法官援引律条,观众看着银幕并知道那是银幕。旁观席上的人未必有权改变判决,但他看得见判决的做出。看得见,就能怀疑;能怀疑,就还站在回路的边缘而非完全的内部。

第八次投降的真正条款,是旁观席本身被回收了:速度使你来不及入座(第一维),解释的蒸发使席位失去朝向的对象(第二维),装置的隐身使剧场无处寻找(第三维),退出的失能化使离席等于消失(第四维)。

本书拒绝为这个状态使用「奴役」一词——奴役是廉价的修辞,且在结构上错误:奴隶知道主人是谁,而这正是她所没有的。本书将它命名为无席之降(surrender without a seat):一种没有现场、没有对象、没有条款、也没有签署时刻的让渡。它不再是「向可见的解释系统让渡判断」,而是「向不可见的自动解释让渡觉察」——前七次交出的是判断的内容,这一次交出的是觉察自己正在交出的能力

这就是为什么第八次不是第八次。前七次是同一部历史的七个章节;这一次,历史换了主语。

四、机制拆解的深层:为什么反转通道也被拆除了

质变论还需通过最后一道检验:历史上每次让渡都孕育了反转——这次为什么不会?这道检验的正典形式,是黑格尔主奴辩证法

《精神现象学》第四章 A 节:两个自我意识相遇、斗争,败者为保全性命成为奴隶,胜者成为主人。但辩证法随即启动:主人把与物的直接关系交给奴隶,自己只消费成品,于是主人对世界的关系全部经由奴隶中介;而奴隶在劳动中陶冶事物,在陶冶中看见自己的力量成形,获得独立的自我意识。历史的下一页属于奴隶——主人在依赖中空心化,奴隶在劳动中实体化。

两百年来,一切「技术反噬」「平台依赖用户」「数据劳工觉醒」的论证,都是这个母型的变奏:我们喂养算法,算法依赖我们的数据——所以我们终将拿回力量,正如奴隶终将反转主人。

本章的锋利之处在于指出:这个辩证法对黑箱回路失效了。

重读黑格尔,反转需要两个隐藏前提。其一,奴隶看得见自己的劳动:他知道自己在耕种、在锻造,他能在产品中认出自己的手——这个「认出」是自我意识觉醒的全部机制。其二,主人看得见奴隶:依赖是一种可见的关系,主人知道谁在养活自己,这份知道使他恐惧、使关系紧张、使反转有戏剧的舞台。

黑箱回路把两个前提都拆了。你为模型提供的「劳动」——那两千次微行为——你自己看不见:没有田地,没有铁砧,没有可以认出自己的产品。一个无法在产品中认出自己的劳动者,永远走不到觉醒那一步,因为觉醒的原材料(对自己力量的目睹)从未供应。同时,「主人」也不看你:模型不知道你是谁,它处理的是特征向量——依赖关系两端都是盲的。**没有目睹,就没有自我意识;没有紧张,就没有反转的舞台。**主奴辩证法不是被打败了,而是找不到上场的门。

控制论为这个僵局提供了数学表述。阿什比必要多样性定律(Law of Requisite Variety):要控制一个系统,控制者的可分辨状态数(多样性)必须不低于被控者。三千年来,人与装置的多样性对比互有胜负,人始终能靠联合(组织、教会改革、工会、观众协会)凑足多样性发起谈判。而今天:模型对你的分辨率是数千维的实时向量,你对模型的分辨率约等于「它挺懂我的」——**当模型对你的分辨率超过你对模型的分辨率若干个数量级,控制关系在数学上单向锁定。**这不是悲观主义,这是阿什比定律的直接推论。四维不对称表格由此获得硬地基:它不是四个抱怨,而是一条控制论定理的四个截面。

LOOP-18·无席之降
数据黑箱决定无从审视数据继续

前七次投降保留了旁观席,这一次连旁观席也被回收。

三环自检:输出回流、系统改变、主体重构——三环闭合。且新增第四环:觉察机制本身被纳入回路——强递归的完全体。

五、案例尸检

尸检一:COMPAS 案——旁观席的正式取消,有判决书为证

无席之降不是哲学夸张,它有案卷编号。

COMPAS 是美国多州法院使用的再犯风险评估算法,为被告生成 1 到 10 的危险分值,供法官在量刑与假释时参考。2016 年,ProPublica 的调查记者安格温团队分析了佛罗里达州七千余名被告的数据,发现黑人被告被错误标记为高风险的比率约是白人的两倍,而白人被告被错误标记为低风险的比率显著更高。算法公司反驳说各族裔的「分值校准」是公平的——双方在数学上各自成立,因为多个公平性定义被证明不可能同时满足

但本书要解剖的不是偏差,而是同年的另一份文件:威斯康星州诉卢米斯案(State v. Loomis, 2016)。卢米斯被 COMPAS 评为高风险并获重刑,他上诉的理由直指要害:算法是商业秘密,他无法审查给自己量刑的逻辑——这侵犯正当程序。威斯康星州最高法院驳回了他:法官只是「参考」了分值,被告无权要求算法透明。

请用全书的眼睛读这份判决。第十二章说,正当程序的全部尊严在于:判决必须援引可公开检验的规则——法门再冷酷,律条至少印在纸上,被告至少可以指着某一行说「你用错了」。卢米斯案确立的先例是:给你量刑的逻辑可以是你无权查看的。商王看得见贞人读裂纹;卢米斯看不见 COMPAS 读他。旁观席的取消在这一刻不再是隐喻——它经由正当法律程序,成为了正当法律程序的一部分。

尸检二:申诉按钮——旁观席的布景化

平台都设有申诉通道:内容被删可以申诉,账号被封可以申诉,限流可以反馈。表面上,这是旁观席的重建——你对判决不服,可以要求复核。

解剖它的内部:绝大多数申诉的第一读者是另一个模型;模型拿不准的进入人工队列,而「人工」是计件审核员,人均处理时长以秒计,且其决定被记录为新的训练数据——你的申诉最终成为驳回你的系统的养料。申诉几乎从不返回理由:结果只有「维持原判」或「已恢复」,没有那一行「你用错了」所需要的条文引用,因为不存在可引用的条文,只存在分值。

这不是旁观席,这是旁观席的布景:一把画在墙上的椅子。它的功能不是供人入座,而是供系统宣称椅子存在。布景化比取消更深一层——取消至少留下空位供人愤怒,布景把愤怒也吸收了:你已经申诉过了,不是吗?

尸检三:欧盟 AI 法案——夺回旁观席的第一次立法尝试及其先天困难

2024 年生效的欧盟《人工智能法案》,加上 GDPR 第 22 条(不受纯自动化决策约束的权利)与其解释中的「获得解释权」,是人类为夺回旁观席发起的第一次成建制立法:高风险系统须可追溯、须人类监督、须向当事人提供「有意义的信息」。

本书尊重这次尝试,且必须诚实记录它的先天困难。困难不在执行意愿,而在第 3.2 节已经建立的结构事实:**对千亿参数的单次输出,「有意义的解释」在原理上无人能给出。**于是合规实践滑向两个替代品:要么给出事后合理化的「解释界面」(模型输出后,另一个模型生成一段听起来像理由的文字——解释本身成了生成物),要么给出统计层面的特征重要性(「年龄与历史行为是主要因素」——这解释了系统,不解释你的判决)。立法要求一把椅子,工程只能交付椅子的照片。

这不意味着立法无用——它至少建立了「此处本应有席位」的法律记忆,而记忆是一切未来谈判的地基。但它证明了本章的论断:旁观席不能靠法条恢复,因为它不是被法律取消的,是被结构取消的。夺回它需要的不只是权利宣言,而是重新发明能让人类入座的装置——这项发明尚不存在,第九部将讨论它的可能形状。

六、经典的回声

6.1 波兹曼的对照,与它缺的下半句

1985 年,波兹曼《娱乐至死》前言里写下了那段著名的对照:奥威尔害怕禁书的人,赫胥黎害怕无人想读书;奥威尔害怕剥夺信息的人,赫胥黎害怕信息多到我们溺于无关性之海;奥威尔怕真相被隐瞒,赫胥黎怕真相淹没在娱乐里;奥威尔怕我们被憎恨的东西毁掉,赫胥黎怕我们被热爱的东西毁掉。波兹曼的判决:赫胥黎是对的。

四十年后,本章补充:赫胥黎也只对了一半。《美丽新世界》里,索麻——那种消解一切不适的合法快乐药——仍然需要人伸手去拿。伸手是一个动作,动作前有一个空隙:你感到不适,你知道药在哪,你选择服用。赫胥黎的公民对自己的麻醉至少保有动作层面的参与——他们是自己驯化的同谋,而同谋是知情的。

推荐流连伸手都替你完成了。不适尚未成形(第十六章:欲望在出生前被接生),药已送达;你没有选择服用,你只是没有选择不服用——而这两者之间隔着「主语」的有无。奥威尔的老大哥看着你,赫胥黎的公民看着索麻,而此刻:没有人在看,也没有东西需要被看着拿起——回路里没有一个可以指认的注视,也没有一个可以指认的动作。极权需要可见的权力,快乐需要可见的药丸,无席之降两者都不需要。这就是为什么两大反乌托邦都没能预言此刻:他们的想象力再黑暗,也没能想象一个不需要在场者的统治形式。

6.2 历史安慰剂的正式失效声明

现在正式处理那句万能的话:「印刷术出现时人们也恐慌过。」

这句话的论证结构是归纳:历次媒介恐慌事后看都过度了,所以本次恐慌也过度。本章以四维表格宣告该归纳失效,理由是归纳的适用条件——样本同质性——不再满足:前七次恐慌,恐慌的对象是新一轮同性质的投降(更快的复制、更逼真的影像、更远的传输——四个维度上没有一个越过临界点:印刷书看得见,可以不读,由人编辑,慢于觉察);这一次,对象是投降性质本身的改变。用苏格拉底担心文字来安慰 AI 时代,相当于用「历次涨潮都退了」来安慰冰盖融化——潮汐与海平面上升共用海水,但不共用机制。

同时,按本书的纪律,警惕反向的廉价:不对称性不等于末日。四维表格描述的是谈判地位的塌陷,不是人类价值的塌陷;是旧筹码(可见性、退出权、人类中介、觉察时间)的失效,不是筹码这个概念的失效。历史上每一次谈判地位塌陷——圈地运动后的农民、流水线前的工匠——最终都以发明新筹码收场:工会是被发明的,罢工权是被发明的,普选是被发明的。它们在发明之前也都「不存在」且「不可想象」。

无席之降的正确结论不是绝望,而是:**新的谈判必须发生,且谈判筹码需要重新发明。**旧椅子回不来了——需要造的是新的椅子,用这个时代的材料。这就是第九部的全部任务。

七、收束

回到开头的两个人。

商王走出宗庙,回头看见庙门。三千年后我们知道他看见的还不止于此:他的子孙将看着周人重释天命,看着贞人阶级消亡,看着甲骨埋进土里又被挖出来,变成博物馆玻璃柜里可供每个学童指认的证物——「看,我们的祖先曾经这样投降。」可见的投降终会变成可讲述的历史,而可讲述,就是人类对自己的投降保留的最后主权。

她放下手机。没有门可以回头。三十分钟无处陈列,两千次更新没有证物,她的孙辈将无从指认「我们的祖先曾经这样投降」——因为这场投降不产生龟甲,只产生下一秒的推送。一场无法被讲述的投降,连成为历史的资格都没有。

三千年来,人类向媒介投降时始终保留着一个位置——看着自己投降的位置。谈判可以输,条款可以苛,但那个位置在,讲述就在,历史就在,翻盘的语法就在。

这一次,那个位置本身被回收了。

所以本书必须存在。这不是修辞——请注意你此刻正在做的事:你在文字这个第三次投降的旧回路里,以慢于毫秒五个数量级的速度,逐行旁观了八次投降的全部条款。旧装置的旧缺点——慢、线性、需要孤独、无法回应你——此刻全部翻转为优点:慢供应觉察,线性供应论证,孤独供应内心,不回应供应那把椅子。

本书写作的全部理由,是在文字这个旧回路里,为读者重建那个位置。

你现在坐在上面。下一部讨论:坐在这里的人,还能做什么。


本章硬引用注释

  1. Hegel, G. W. F., Phänomenologie des Geistes (1807), IV.A「主人与奴隶」(Herrschaft und Knechtschaft)。反转机制的两个隐藏前提为本章的分析性重构。
  2. Postman, Neil, Amusing Ourselves to Death (New York: Viking, 1985),前言的奥威尔/赫胥黎对照。
  3. Huxley, Aldous, Brave New World (1932);Orwell, George, Nineteen Eighty-Four (1949)。
  4. Ashby, W. Ross, An Introduction to Cybernetics (London: Chapman & Hall, 1956), ch. 11,必要多样性定律。类比边界声明:将该定律从工程控制系统移用于人—平台关系,是量级论证(分辨率的数量级差距)而非精确建模。
  5. Angwin, Julia, et al., "Machine Bias," ProPublica, May 23, 2016. COMPAS 种族偏差的原始调查;算法公司 Northpointe 的反驳及「公平性定义不可兼得」的后续证明见 Kleinberg, Mullainathan & Raghavan (2016)。
  6. State v. Loomis, 881 N.W.2d 749 (Wis. 2016);美国联邦最高法院于 2017 年拒绝调卷。
  7. Regulation (EU) 2024/1689 (AI Act);GDPR (2016/679) 第 22 条及 Recital 71。「获得解释权」是否构成独立权利在法学界存在争议,见 Wachter, Mittelstadt & Floridi (2017) 与 Selbst & Powles (2017) 的对垒。
  8. 「无席之降」(surrender without a seat)为本书自铸术语,首次出现于本章第 3.5 节。

回路图索引

  • 【LOOP-18】有目击者的回路 vs. 目击者被内化的回路(见第四节)
  • 三环自检:三环闭合,另有第四环(觉察机制入环)——强递归完全体,本书结构分析的最高点。