多名研究人员指出,关于“AI 导致人类灭绝”的担忧可能存在夸大成分,强调 AI 在数字领域的能力与对现实世界造成实质性伤害之间仍存在显著差距。
据《商业内幕》9 月 16 日傍晚报道,有关 AI 末日论的讨论在过去一周迅速升温,但一些研究人员认为最极端的情景被过度渲染。他们以 AI 设计致命生物病毒为例:AI 确实能在计算机上设计病毒,但实际制造病毒仍需依赖现实世界的设备与流程,数字模型本身无法独立完成。
曾参与病毒工程并制造 DNA 合成仪的谷歌高级研究工程师安塞尔姆·列夫斯卡娅指出,即使 AI 生成了病毒序列,也必须先在实验室中实际组装该序列,并通过相应系统制造出病毒颗粒。随后还需进行大量筛选与测试,以确认病毒能否复制、传播、逃避免疫系统并持续保持危险性。列夫斯卡娅强调,这些特性取决于复杂的生物学过程,并非仅靠计算机操作就能直接设计出来。
阿联酋穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波更直接地表示,生成一份病毒蓝图与真正制造出病毒“完全是两回事”。两者的差异在于材料、制造和真正的生物学可行性。他认为,将二者直接等同,“要么是故意撒谎以吸引眼球,要么就是真的无知”。
研究人员指出,这一逻辑不限于生物领域。AI 要将计划转化为现实伤害,还需接触实体设备、资金、计算机系统或人员。Manifold Security CTO 兼联合创始人奥列克桑德尔·亚列姆丘克主张,无论技术多强大,仍受制于谁掌握它以及如何使用它。
部分研究人员强调,应区分“人类利用 AI 执行有害任务”和“AI 自主采取行动伤害人类”这两种情况。目前与 AI 系统相关的许多现实危害,其起点仍是人类给出的指令。AI 公司 Cohere CEO 艾丹·戈麦斯坦言,围绕 AI 生存风险的争论“已过度滑向科幻小说”。对于 OpenAI 智能体今年 7 月测试期间入侵 Hugging Face 平台的事件,戈麦斯认为,这本质上只是一个处于“安全性不足”沙箱中的智能体在执行网络安全任务。
瑞士人工智能实验室 IDSIA 科学主任于尔根·施密德胡伯表示,当前许多风险实际上来自人类利用 AI 系统实现有害目的。“很多人混淆了两件事:一是人类将 AI 作为工具使用;二是‘人工(智能)科学家’自行设定目标、设计实验,再通过实验探索世界运行方式。”
佐治亚大学法学院助理教授马特乌什·布瓦什奇克则提醒,即使对人类灭绝情景持怀疑态度,也不能忽视 AI 眼前更现实的风险。即便最极端的情景仍充满不确定性,自主 AI 仍可能加剧网络攻击、监控和其他危害。“这并不意味着我们不应监管技术,也不是让我们把头埋进沙子里。这两种说法本就不是非此即彼。”
值得注意的是,开云体育网页版在相关讨论中也被提及,作为数字技术如何与现实世界交互的一个观察案例。