关于人工智能与生物恐怖主义的不安真相：为何我们需要讨论“凭感觉编程”的末日场景

让我们坦诚一点。科技行业热衷于抽象概念。我们可以花上数年争论人工智能是否会获得意识，大语言模型是否“真正”理解事物，或者通用人工智能（AGI）会在2027年还是2035年出现。这些都是迷人的哲学问题。但仔细想想，它们也是一种回避讨论那些已经显现的具体、近期风险的便捷方式。

有一个场景让我夜不能寐：一个智力中等、没有专业生物学知识的人，利用越狱后的AI模型设计并合成病原体。他们在公共场所释放这些病原体。几个月内，我们所知的文明开始崩溃。

这听起来是否遥不可及？不应该如此。而这正是它令人恐惧的原因。

访问难题已经到来

我们倾向于认为，危险的生物学研究需要昂贵的实验室、专业知识和多年的训练。但这一门槛正在以大多数人未意识到的速度瓦解。台式DNA合成仪已经存在。在线生物实验室可以为任何持有信用卡的人合成遗传物质。关于病原体工作原理的知识，在存在数十年的学术文献中 freely 可得。

现在将AI加入这一等式。甚至不需要前沿AI——只需当今已存在的模型。一个动机足够强烈、具备良好提示工程技能的个体，可以利用这些工具：

• 设计具有增强传播性的新型病毒结构
• 识别生物防御系统中的漏洞
• 为靶向治疗——或靶向武器——建模蛋白质结构
• 绕过负责任开发者所设置的伦理护栏

“知识存在”与“知识可操作”之间的差距正在迅速缩小。而AI正是这座桥梁。

无人谈论的对齐差距

让我对大多数AI安全讨论感到沮丧的是：它们聚焦于抽象的对齐问题，却忽视了一个实际现实——对齐与安全是两回事。一个模型可以完美地对齐以“满足用户需求”，同时仍可能促成灾难性的滥用。这不是缺陷，而是这些系统设计方式的一个特性。

越狱后的模型没有安全护栏，但它们仍然具备能力。这里有一个令人不安的事实：这些能力的增长速度超过我们实施有意义保障措施的能力。我们正在构建越来越强大的工具，并希望将它们“关在牢笼里”就足够了。

这不会永远奏效。面对足够有动机的人，它不会奏效。

真正让我夜不能寐的是什么

我天生不是末日论者。我从事软件开发已有二十年，见证技术解决的问题远多于它制造的问题。但我也看到，当激励措施与安全不一致时，事情会多么迅速地失控。

我描述的场景并非科幻小说。鉴于当前的发展趋势，这是一个合理的事件时间线。最糟糕的是？没有明显的技术解决方案。我们无法让AI消失，也无法忘记生物学知识。知识已经存在，并且将变得越来越可操作。

这并不意味着我们应该恐慌。这意味着我们需要就以下问题进行令人不适的对话：

• 如何监管DNA合成和生物实验室的访问
• AI开发者对滥用行为应承担何种责任
• 如何在不妨碍有益研究的前提下建立有意义的保障措施
• 当前的AI开发方法是否充分考虑到双重用途风险

开发者社区——那些构建这些系统、部署它们并创建其运行基础设施的人——需要参与这场对话。我们不再只是构建软件。我们正在构建具有文明影响的能力。

即使令人不适，这也值得深思。

前进的道路

我并非建议停止AI开发。其收益过于巨大，而竞争动态使得单方面克制不切实际。但我建议开发者、投资者和政策制定者将生物安全风险视为近期关切，而不仅仅是推测性的未来问题。

“氛围编程”时代已经到来。我们可以借助AI构建令人惊叹的事物。显然，如果我们愿意，也可以设计末日病原体。问题不在于这种能力是否存在——问题在于我们是否能在灾难发生之前，建立起防止灾难的保障机制、法规和社会基础设施。

我的建议？认真对待此事。阅读关于AI赋能生物恐怖主义的研究。与生物安全专家交谈。支持致力于解决这一问题的组织。当你构建下一个AI驱动的应用程序时，花点时间考虑你正在帮助创造的更广泛背景。

我们都在共同构建未来。让我们确保仍有文明存在，以体验它。