返回

第三十八章 谷雨

首页
关灯
护眼
字:
上一章 回目录 下一页 进书架
    第三十八章 谷雨 (第1/3页)

    病毒事件的技术调查报告在三月下旬正式发布。报告全文很长,附录里密密麻麻排满了技术分析数据——传播路径的拓扑图、感染时间线的逐秒还原、病毒代码的逐层反编译注释、以及针对标准化反馈回路协议漏洞的详细技术剖析。但核心结论只有寥寥几条,被印在报告正文的扉页上:病毒利用的是神经接口标准化反馈回路协议的固有漏洞,该漏洞在多年前制定行业标准时已被一名安全顾问提出,但在当时被标注为“低风险”而搁置;病毒代码由锐思科技内部AI辅助安全测试系统生成,在设计者设定的终止条件因旧版固件兼容问题失效后扩散;事件暴露出神经接口行业在安全协议设计中的系统性缺陷——在设计时只考虑了信号传输的效率,没有为“认知过程的自主性”预留任何防护机制。

    报告没有点名任何安全公司。但正文末尾有一段被多家科技媒体逐字拆解的措辞——“部分企业在事件发生后迅速推出了有效防护产品,其技术储备的充分程度值得行业借鉴。”这句话在一家科技媒体的分析文章中被反复引用了三次,每一次都被配以不同的语气——第一次是中性复述,第二次是疑问句,第三次是在括号里加了一个问号:“值得行业借鉴(?)”另一家媒体在报道中引用了一位匿名安全分析师的话,说调查报告的措辞之所以如此含蓄,是因为“预判性储备”在现行法规中不被视为违法——“但这不等于它不应该被质疑。利用系统性漏洞的必然性进行商业布局,在道德上属于另一种形式的投机。”

    信息安全中心的一位退休专家在个人专栏里写了一篇文章,措辞克制但观点极其锋利。他写道:“调查报告确认了病毒利用的是行业底层协议中一个已知但被搁置的漏洞。这个漏洞不是某一个人放进去的——是整个行业在追求效率时共同做出的选择,把安全审查推迟到‘下一个版本’,把风险留给‘以后处理’。那些在事件后迅速推出防护产品的安全公司,确实没有制造病毒。但他们在漏洞被搁置时选择沉默,在漏洞被利用时选择收割。这种行为在现行法律中不被定义为违法——这是法律的问题,不是他们的问题。但行业伦理不应止步于法律底线。”

    锐思科技的CEO在报告发布第五天宣布引咎辞职。他在官网上发布了一封致歉信,措辞简洁,没有推卸责任。他写道:“作为CEO,我对公司产品的安全性负有最终责任。我未能确保安全测试的隔离环境达到应有的标准,未能预见AI生成代码在真实网络中的扩散风险。我向所有感染者、向所有因此事件受到困扰的用户、向公众致以诚挚的歉意。我即日起辞去CEO职务。”他的名字在致歉信末尾被签得很用力,笔迹压透了纸面。

    程瀚被正式批捕的消息是在CEO辞职后不久公布的。罪名是“过失以危险方法危害公共安全”。警方在通报中简要说明了案件进展——程瀚在审讯中承认自己在模拟环境中的推演存在重大缺陷,对AI生成代码在真实网络中的扩散风险估计不足,愿意承担法律责任。他的代理律师在法院门口被几个科技记者拦住,说了几句话就走进了大门:“程瀚对自己的行为深感悔恨。他当时确实认为模拟环境中的终止条件是有效的——他犯的是认知错误,不是主观恶意。他愿意承担法律责任,但希望行业能从这次事件中吸取教训,而不是只找一个替罪羊。”

    周明远在星核科技工位上读到这篇报道时,手指在触控板上停了一下。窗外望京的楼群在春雨后初晴的阳光下反射着柔和的白光,有几只灰椋鸟在对面楼顶的空调外机上跳来跳去。他想起自己在瑞联签手术同意书之前的那些晚上——他把所有能翻的技术白皮书都翻了个遍,查到了所有能查到的排异反应发生率数据,在知情同意书的每一页都做了标记。他后来才知道,那套数据是经过统计口径调整的,真实的排异反应发生率比官方数据高出好几倍。他不认识程瀚,但他认识那种“我以为自己算清楚了”的感觉。这种感觉不会因为换了角色——从签字人变成审查者——就自动消失。它只是从一种形态变成了另一种形态。以前是他自己承受计算错误的后果,现在是他坐在伦理委员会的审查席上,用自己走过的路去验证别人提交的每一个参数。他把报道页面关掉,继续修改安全基线修订建议。

    三月下旬到四月初,星核科技安全部门在病毒事件技术调查报告的基础上,正式向工信部标准研究院提交了神经接口安全协议修订建议。这份建议是在周明远的技术分析基础上逐条形成的——他在病毒事件后连续工作了近两周,把安全基线文档中所有涉及反馈回路协议的部分从头到尾重新逐条审视了一遍,标记出了六处潜在风险点,其中三处与病毒利用的漏洞同源。

    修订建议的核心是两条。第一条:将所有已知风险点对应的安全措施从“建议执行”升级为“强制认证”——任何新上市或升级迭代的产品,在通过强制认证之前不得进入市场;已上市产品须在规定时间内完成补充认证。第二条:建立跨企业安全信息共享机制——任何一家企业发现的安全漏洞,须在规定时限内通报全行业共享平台,不得以商业秘密为由延迟或拒绝通报。

    在安全协议修订建议正式提交后不久,星核科技技术伦理委员会召开了第二季度第一次常规会议。周明远作为技术侧代表坐在长桌左侧中间偏下的位置,手边放着一杯白开水和一份打印好的修订建议副本。陈默坐在靠墙的列席座位上,面前摊着一本翻开的笔记本,扉页上那句“以下数据来自一名被试在近两年间多次回调的长期随访记录。每个参数都对应着一段真实经历。请在引用时,记住这一点”已经被她翻得边角发毛,但她每次开会都会摊开同一页。

    会议的前三个议程是常规审查——一个外部合作项目的知情同意书模板修订、两个内部测试方案的数据隐私保护措施。周明远逐项审阅,提了几条修改意见,法务部代表做了记录。到了第四个议程,他从自己的文件夹里抽出一页打印好的条款草稿,放在桌上。

    “病毒事件暴露了一个之前被我们忽视的维度。伦理审查不仅要管人体试验和临床试验——还要管内部安全测试。尤其是当测试涉及生成潜在危险代码时。”他把条款草稿往桌子中央推了推,“我提议在伦理委员会审查范围中增加一条新的强制规定:任何涉及生成潜在危险代码的内部安全测试,须在完全隔离于真实网络环境之外的模拟平台上运行,模拟平台不得接入任何可连接真实神经接口网络的协议栈;测试代码须采用非持久性架构,运行结束后自动清除,不得在存储介质中保留可重新激活的副本;测试方案须经本委员会审批后方可执行。”

    法务部代表把条款逐字逐句读了两遍,问了一个问题:什么叫“潜在危险代码”?这个概念在法律上目前没有明确定义,如果定义过于宽泛,将来在执行时可能被扩展解释。周明远说他的定义是——任何能够通过神经接口标准化协议进行自我复制、并可能对用户的认知过程造成非自愿性干扰的代码,无论其设计初衷是攻击性还是防护性。他说这个定义不是从法律条文里来的,是从病毒事件中提取的。他之前和法务部讨论过措辞,最终草稿中使用了“可能对用户的认知过程造成非自愿性干扰”这一经过反复推敲的表述,避免过于宽泛的打击面。

    委员会投票——五票赞成,零票反对,零票弃权。条款全票通过。陈默在笔记本上飞快地记下了这个条款的编号和核心内容,编号前面加了一个星号,表示这是病毒事件后新增的第一条强制审查条款。她在星号旁边画了一个极小的圈——和她在安全基线文档扉页上画过的那个圈一模一样。

    散会后,陈默在走廊里追上正在往电梯方向走的周明远。她手里拿着笔记本翻到最新一页,上面的墨迹还没完全干透,在走廊的灯光下微微反光。她说她在整理调查报告附录里的交叉引用资料时,读到了一段她在之前的安全通报中没有注意到的内容。调查报告附录里引用了那个多年前在制定行业标准时提出漏洞预警、但被搁置的安全顾问的技术意见书原文。她说这个人当时在意见书里写了这样一段话:“这个漏洞不会因为被忽略而消失——它只是从纸面上转移到每一个未来用户的神经系统里。今天我们省下的是一个条款的修改时间,将来付出的代价是真实的人被劫持的记忆。”

    她在电梯门口停下来,把这段话逐字逐句念给周明远听。她说这是调查报告附录里的原文引用,脚注编号很靠后,大概没几个人会翻到那一页。调查报告中也没有提到那个安全顾问的名字,只标注了意见书的提交机构和一个归档编号。

    周明远站在电梯门口,手指按着开门键。走廊里的灯光把他投在灰蓝色地毯上的影子拉得很长。他说这个人比他更早看到风险——早了好多年。那时候大多数人还不知道神经接口是什么,这个人已经在说“每一个未来用户的神经系统”。他说今年伦理委员会的工作计划里有一项是整理行业伦理案例库——把她刚才读到的那段话加进去,作为第一条。

    陈默在笔记本上飞快记下。电梯门合上,楼层数字开始往下跳。周明远靠在电梯墙上,想起自己在回调期间无数次对张薇说“我不确定我还能不能回去”。那些话在当时只是被试在测试日志里的主观陈述,后来变成数据,后来变成安全基线,后来变成行业标准草案里的一条脚注。现在,一个没有被记载名字的安全顾问在多年前写下的一段没有被采纳的警告,也将被写进伦理案例库。这就是积累——不是胜利,不是终点,是一个人接着一个人,在这条越来越长的防线上各自守住自己站过的位置。

    四月中旬,千禧数学难题被解出的消息正式公开。论文被上传到全球预印本平台,标题简洁得几乎像是刻意低调——“On the Solution to a Millennium Prize Problem”(《关于一道千禧年大奖难题的解法》)。作者署名是一个匿名的研究小组,摘要只有寥寥几行,说本证明“基于对特定神经增强算法的数学特征分析”,不涉及任何实验细节。论文全文超过两百页,核心证明被压缩在中间三章,逻辑链条严密得像一座用纯数学语言搭建的哥特式大教堂——每一块石头都精确地契合在相邻的石头上,每一个承重点都有对应的力线支撑。

    国际数学界在几天内完成了对证明的独立验证。几位顶尖数学家分别审阅了论文的不同部分——一位数论专家验证了证明的代数结构,一位拓扑学家逐条检查了几何构造的每一个引理,一位数理逻辑学家确认了所有推导步骤的逻辑有效性。他们各自的验证报告在学术讨论组里被热烈讨论,最终结论是一致的:证明在数学逻辑上是完整且严谨的,论文的核心贡献——一个新的数学工具,被称为“神经增强辅助推演框架”——在纯数学层面上是成立的。这个框架的价值不在于它“用计算机辅助人脑”,而在于它提供了一个全新的公理化视角,重新组织了已有数学知识的体系结构。在这个意义上,证明的数学贡献是独立的——即使抛开“神经增强”这个标签,论文中提出的公理化框架本身也是数学发展的一个突破。

    但争议几乎在验证完成的同一时间爆发。问题的焦点不是“这个证明对不对”,而是“这个证明是怎样被发现的”。论文使用了“神经增强辅助推演框架”这一术语来指代认知增强技术在数学推理中的应用,但在方**部分,对“神经增强”的具体技术路径只做了极有限的描述。论文只提到,研究者在证明的关键步骤中使用了“高精度神经反馈接口以提升逻辑推理的连贯性”,但没有说明这些接口是被加载在谁身上、在什么条件下被加载、以及这些条件是否经过了独立的伦理审查。正是这种技术细节上的留白,将学术争论从“数学问题”引向了“伦理问题”。

    国际数学界迅速分化。一部分学者主张,数学真理的效度只取决于逻辑正确性,与发现者的身体状态无关——这种立场在数学史上有着深厚的传统,数学被普遍认为是最“纯粹”的学科,其真理不依赖于发现者的社会条件或身体状况。另一部分学者则持反对意见。一位英国数学家在《卫报》发表评论,措辞克制但立场极其鲜明:“如果这个证明的关键步骤依赖于建立在活人实验基础上的认知增强技术,那么数学界至少需要在荣誉授予时明确注明这一点。未来的数学史上,当这一证明被列为人类智慧的里程碑时,读者有权知道——这里的‘人类’究竟是什么意思。”一篇匿名的评论文章在数学界内部被广泛转发,核心论点是:“当人类智慧不再完全是人类的智慧,数学还是人类的数学吗?”这种态度在那些有着悠久医学伦理传统的国家获得了大量共鸣。而多国家的主流媒体则更倾向于强调证明的“里程碑意义”,将伦理争议放在次要位置,甚至不少国家根本没提伦理的事。在某些科技媒体的头条报道中,“千禧难题被解出”的标题旁边配图是一块被点亮的巨型屏幕,屏幕上只有几行公式,没有面孔,没有名字,没有任何暗示人类存在的视觉元素。

    合众国官方对此保持完全沉默。外交部发言人在例行记者会上被问及此事时,只回答:“合众国政府注意到了相关学术进展,不对学术研究的具体方法发表评论。”这个回答被多家国际媒体引用为“刻意回避”。其中一家欧洲主流媒体在报道中

    (本章未完,请点击下一页继续阅读)
上一章 回目录 下一页 存书签