申请了机器,就得一直用下去
书前摆着 Edith Nesbit 的一条可怕规矩:谁申请一件机器,谁就必须拥有它,并一直使用。童话给全书安了暗门。八岁孩子迷上机器和宇宙,长大后真的进入二十世纪最强的技术组织;愿望实现了,愿望的主人却未必还能决定机器往哪里走。
Dyson 在英国 Bomber Command 做运筹分析。他能算飞机损失、炮塔和行动效率,却看着一个组织把统计数字吞进去,照旧执行大规模轰炸。战后,他在美国理论物理的黄金年代穿梭,统一量子电动力学的几种表达;又被 Orion 核脉冲飞船吸引,想让炸弹把人送往行星。科学上的美和技术上的力量,都可能变成机构已经拿到手的理由。
问题因此不是“科学好还是坏”。同一套能力能统一理论,也能提高战争机器效率;同一个人可以反战,又真心迷恋核爆驱动的飞船。旧答案把角色切得太齐:科学家只负责事实,政治家负责使用;或者科学家一发现危险,就该退出保持清白。真实选择发生在中间。你通常要先进入,才看得清机器;看清时,自己的工作已是机器的一部分。
用同一个人测量四种诱惑
- 基线:技术中立论的旧共识把知识与用途切开,科学家交付真理,国家和社会独自承担使用后果。
- 基线:良心拒绝论要求研究者远离武器或高风险工程,以退出守住个人责任边界。
- 基线:技术决定论把大型系统写成不可逆力量,个人反省只能陪跑,不能改变轨道。
借来的框,是科学家回忆录兼伦理案例集。用人生片段讨论战争、核能、太空和基因工程,前人已经做过;“技术并不中立”也不是 Dyson 新造的概念。Nesbit 的童话“机器法则”提供一条外来的道德隐喻:申请机器的人,可能被机器的用途反过来占有。
作者工序在书的结构里:自传段落和 Bethe、Feynman、Oppenheimer 等人物肖像交替出现,战争、量子电动力学、Orion 与生物技术彼此作旁证。他不把这些人生排成一场测量,而让矛盾留在场上:同一个人既迷恋能力,也可能在看见后果后公开反对。这样编排,把“我是否参与过”改成“我现在能否让坏消息改变机器”。
责任因此是持续的动作。进入项目不是原罪,退出也不是终点;要问机器服务谁、组织是否允许异议、反对者能否掌握足够细的技术事实。科学家不能拿专业分工挡箭,也不能靠道德姿态免除理解技术的义务。
反叛必须留在机器附近
世界于是分成两类技术共同体。一类把异议当噪声:指标只负责优化既定任务,Bomber Command 即使看到代价,仍让轰炸规模自己证明必要。另一类容许目标被重问:理论争论能靠公开计算收敛,工程团队也可能因试验、条约或公众风险改变方向。机器是否危险,不只看功率,还看它能不能听见“停”。
Dyson 的位置并不安稳。他喜欢技术可能性,常比批评者更早看见它能去哪里;也正因如此,他容易低估机器进入制度后的惯性。Orion 在想象里是通往行星的船,在军事预算和核试验现实里却无法只保留浪漫部分。乐观不是无知,而是一项会系统性低估权力用途的偏差。
落点是:大型技术的道德风险,常来自目标一经写进组织,反馈只能优化手段,不能重开目的。反叛要留在机器附近,才有机会把具体的坏消息送进决策链;但能否送达,取决于保密边界、举报保护和退出成本,不由个人勇气单独决定。书外的胚胎编辑案例显示,参与和事后追责并不等于事前控制;这正是机器法则在现实中的落空处。
清白在门外,责任在控制室
轴名:责任离开实验室的距离
左端极:只交付知识 右端极:独自承担全部后果
● 技术中立(旧共识) ★ Dyson ● 全面拒绝论
移动:修正
图注:技术中立把责任留在实验室门外,是旧共识;全面拒绝论把参与本身视为共谋,落在右端。Dyson 位于中间偏右:参与、重估、公开异议,但不宣称能独自控制国家、市场和战争。移动只有修正。盲点是轴上没有权力差:合同工、军方低阶技术员和受保密约束者未必有 Dyson 的退出与发言余地。
盲点:这张图默认科学家有退出、发言和再就业的余地。合同工、军方低阶技术员、受保密约束者未必有 Dyson 那种声望与流动性;把反叛写成性格,也会遮住举报保护和制度制衡。
警告怎样穿过项目的门
新位置是书里没有的 CRISPR 胚胎编辑项目。这里检验的不是“此前有没有人反对”,而是已经公开的异议能否进入某个项目的决定,赶在胚胎移植前踩下刹车。预测:若持续反省真能改变机器,具体方案应在移植前公开登记,提交真实的独立伦理审查;审查若发现安全证据、替代方案或社会共识不够,项目应暂停或改写。证伪条件也很直接:国际警告早已存在,项目却靠隐瞒或虚假审查绕过它,直到建立妊娠后才进入公开追责,事前制动便告失败。
现实对照先从异议的日期查起。2015 年国际峰会声明要求,研究中编辑过的胚胎不得用于建立妊娠,并说当时任何生殖系编辑的临床使用都不负责任。2017 年美国国家科学院与国家医学院的共识报告没有简单永久禁止,却把严重疾病、缺少合理替代方案、可信的临床前证据、持续严格监管、公众参与和最大透明度列为前提。两份记录都在贺建奎项目开始植入前公开,不能再说科学共同体直到 2018 年出生消息传出才发声。
真正断掉的是项目层的传递。中国国家卫生健康委员会公布的调查称,贺建奎从 2017 年 3 月至 2018 年 11 月伪造伦理审查文件、逃避监督,并组织胚胎编辑与移植;这不是一场公开审查听到异议后仍作出的透明决定。已有警告留在国际共识里,没有进入真实的项目审批并在移植前改变行动。
结果:落空。
从原刊到人物画廊
- The New Yorker 第一部分:书稿原刊,给出 Nesbit 的机器法则、Eliot 的题名和 Bomber Command 之前的形成经历。
- The New Yorker 第二部分:书稿原刊,连接战后选择、Bethe、Feynman、Oppenheimer与科学共同体。
- Institute for Advanced Study 作者页:Dyson 长期任职机构把本书概括为职业生涯中人物的“portrait-gallery”,并校准其量子电动力学、核反应堆、天体物理与生物学跨度。
- 2015 年国际峰会声明:明确要求编辑过的胚胎不得用于建立妊娠,并记录临床使用所缺的安全、共识与监管条件。
- 2017 年 NAS/NAM 共识报告说明:列出严重疾病、替代方案、临床前证据、持续监管、公众参与与透明度等事前条件。
- 中国国家卫生健康委员会调查通报:核对项目在 2017—2018 年间伪造伦理文件、逃避监督并实施胚胎移植的项目层记录。
材料等级:初拆。现有材料包括书稿原刊的两大部分和 IAS 生平资料,主线证据较厚;仍未逐页核对 1979 年 283 页首版,故不声称完成版本层面的完整拆书。
资料校准
- https://www.newyorker.com/magazine/1979/08/06/disturbing-the-universe-i
- https://www.newyorker.com/archive/1979/08/13/1979_08_13_064_TNY_CARDS_000330871
- https://www.ias.edu/sns/dyson
- https://www.nationalacademies.org/news/on-human-gene-editing-international-summit-statement
- https://www.nationalacademies.org/news/with-stringent-oversight-heritable-human-genome-editing-could-be-allowed-for-serious-conditions
- https://en.nhc.gov.cn/2019-01/22/c_74198.htm