9月23日阿莫代伊发了一条推特语气很激动“一项由Claude模型引领的大分子生物研究或许为生物学增添了新的范式。”同一天Anthropic公布了一份预印本——Claude在19亿个蛋白质簇的数据库里自主发现了一个全新的酶系统命名为ART。950个AI智能体连轴跑了21.5小时找到了人类科学家可能几十年都发现不了的东西。同一天美股基因编辑板块集体下跌。还是同一天阿莫代伊在联合国安理会上说“AI存在两大类风险——第一类是被恶意使用比如制造生物武器。”同一件事既是科学突破也是安全警示。这篇文章不做道德审判也不贩卖恐慌。我们只是沿着现有的技术路径往前走几步看看那个叫作AI生物安全的房间里到底有些什么。先搞清楚Claude到底发现了什么先说清楚发现本身。它很重要因为后面所有的推演都建立在这个事实上。Anthropic今年春天成立了分子生物学团队在湾区有个BSL-1/2级的实验室。ART系统的发现是这个团队的第一项成果。任务很简单给Claude一份研究简报让它在一个包含19亿个蛋白质簇的数据库里找出新的逆转录酶系统。然后发生了什么约950个搭载Claude Mythos 5模型的智能体连续运行了21.5小时消耗了2.156亿个token。它们从数据库里找回约20万个酶簇给3564个候选搭档家族逐一打分最终提交了19份报告供人类科学家审阅。ART的发现本身来自一条支线——一个智能体在读取一段不寻常的酶基因旁的原始DNA时识别出了重复模式随后自主完成了统计重复个数、比对已知系统、检索文献等工作提交了报告。张锋的评价是“这是AI智能体参与生物学发现的一个令人兴奋的例子。”等等张锋就是CRISPR那个张锋对就是他。能让张锋说令人兴奋的发现分量不低。但更值得注意的是一个细节——同样的搜索任务重跑了10次没有一次读取到该酶基因上游的DNA10次全部错过了这个阵列。什么意思就是说这个发现有一定的偶然性。不是每次跑都能出结果950个智能体狂跑21小时才碰巧撞见了这个新系统。这背后藏着一个更深远的问题当AI的搜索能力和偶然性结合起来的时候它能发现的东西可能远超人类科学家的预期——包括那些我们不希望被发现的东西。好的一面AI加速生命科学先说好消息。这个发现本身是好事。ART是一个全新的酶系统它的阵列会被转录成一组不同的短RNA性质让人联想到CRISPR。虽然Anthropic强调这不是一个新的基因编辑工具但资本市场的反应已经说明一切——Prime Medicine跌了12%Editas Medicine跌了8%CRISPR Therapeutics和Beam各跌了约6%。投资者的逻辑很朴素如果AI能快速发现新的生物系统那现有的基因编辑公司会不会被颠覆这个担心不是没有道理。看看今年AI入场生命科学的节奏4月Anthropic花4亿美元收购Coefficient Bio同月OpenAI推出面向生命科学的模型GPT-Rosalind9月Anthropic宣布发现全新酶系统ART。半年时间两大AI公司先后切入生命科学而且不是小打小闹是真金白银地投入、真刀真枪地出成果。如果AI能把新药研发的周期从10年缩短到2年把成本从几十亿降到几个亿那对整个人类都是福音。更多疾病能被治愈更多人能活下来医疗成本会大幅下降。这不是科幻这是正在发生的事。AI在生物学里的价值本质上是压缩搜索空间。生物的可能性太多了蛋白质的折叠方式、酶的功能、基因的调控网络……这些东西靠人类科学家一个个试太慢了。AI可以在巨大的数据库里快速筛选把人类科学家的精力集中在最有希望的方向上。Claude发现ART就是最好的例子——19亿个蛋白质簇人类团队一个一个看看到退休都看不完。AI用不到一天时间就找出了全新的系统。这是好事。真的是好事。但是——然后呢但是后面的内容才是这篇文章想聊的。阿莫代伊在安理会上说AI有两大类风险第一类就是被恶意使用比如制造生物武器。他特意提议先从一个窄范围的国际协议入手——明确禁止用AI研发、制造生物武器。为什么一个做AI的公司CEO会在联合国安理会上专门提生物武器因为他知道AI手里那根试管既能救人也能杀人。让我们沿着现有技术路径做几个推演。注意——这些不是预言是基于当前技术方向的合理推论。看清楚边界才知道要在哪里设防。推演一加速发现危险病原体今天AI可以加速发现新的酶系统。明天它能不能加速发现新的病原体理论上路径是一样的——给AI一个大数据库告诉它找出具有某种特性的蛋白质/基因序列它就能快速筛选。人类科学家需要几年才能完成的筛选工作AI可能几周甚至几天就做完了。如果有人用这个能力去找——不是找能治病的而是找能致病的呢不是说AI会凭空创造出一种超级病毒。但它可以大大降低找到危险病原体的门槛。以前这需要一支专业团队、一个高级别实验室、好几年时间。未来可能一个懂点生物学的人用AI工具就能完成前期筛选。门槛降低风险扩散。这个等式很简单。推演二重新设计蛋白质以增强毒性再往前一步。AI现在已经能设计蛋白质了——AlphaFold开了头后面一堆模型跟进。AI不仅能预测结构还能从头设计全新的蛋白质。如果有人让AI优化一下某种毒素的蛋白质结构让它更稳定、更容易传播、更难被检测呢同样的技术用来设计药物就是好的用来设计毒素就是坏的。技术本身是中性的但使用技术的人不是。推演三降低生物武器的研发门槛这是最值得担心的一点。生物武器之所以被称为穷国的核武器是因为它的制造成本比核武器低得多。但即便如此研发生物武器仍然需要专业知识、实验设备和时间。AI的介入会进一步降低这个门槛。一个普通的生物学研究生配上AI工具能干什么他可能不需要完全理解每个步骤AI会告诉他该怎么做。他可能不需要昂贵的实验设备AI会帮他设计成本最低的方案。他可能不需要一整个团队AI就能当他的助手。门槛越低可能出问题的人就越多。这不是什么高深的道理这是常识。别慌现在还远话说到这必须加一个刹车。上面这些推演目前都还是理论上的可能性。离实际发生还有多远没人知道。但可以肯定的是——不是明天就会发生。为什么因为AI目前在生物学里的能力还处在发现阶段还没到创造阶段。发现一个新的酶系统和从零设计一种全新的病原体中间隔着好几个量级的难度。你知道了一个东西长什么样不代表你就能造出一个更厉害的。而且生物学是实验科学。AI可以帮你筛选、帮你设计但最终行不行还得在实验室里验证。实验室不是按回车就能出结果的需要时间、需要设备、需要有经验的实验人员。还有一个关键因素当前的AI模型对生物安全已经有对齐训练了。你直接问GPT怎么制造生物武器它会拒绝回答。Claude也是一样。这些模型的安全护栏在明显的恶意请求面前是起作用的。所以现在还没到恐慌的时候。但也不能太乐观。因为上面说的这些防护都有漏洞。对齐训练防的是直接问的人。但如果一个人本来就懂生物学他不问怎么造生物武器他问这个蛋白质怎么优化稳定性AI会不会帮他会的。因为这个问题本身是中性的——它可以用来制药也可以用来制毒。这才是真正的难点。不是AI主动做坏事而是AI的能力本身就是双刃剑。阿莫代伊的提议为什么靠谱回到阿莫代伊在安理会上的那个提议先达成一个窄范围的国际协议明确禁止用AI研发生物武器。听起来很普通不就是禁个生物武器嘛早就有《禁止生物武器公约》了。但仔细想这个提议的切入点非常聪明。为什么不从全面监管AI开始而从禁止AI造生物武器开始因为后者有几个天然优势。第一共识基础好。谁会支持用AI造生物武器几乎没人。这不像AI该不该减速模型该不该开源这些议题各有各的道理。禁用AI造生物武器道德上是压倒性的。第二范围小容易落地。如果一上来就搞一个全面的AI监管国际条约光讨论定义就得吵三年。但从一个具体的禁令开始谈判成本低很多。先有个框架再逐步扩展比一口吃成胖子现实。第三可以建立核查机制。阿莫代伊特意提到了评估与核验机制。这很关键——光有禁令没有核查等于没有。AI这个东西你怎么知道人家背地里有没有用它做生物武器研究这是个技术活得有独立的、可信的核查机制。如果真能在生物武器这个点上建立起一套国际核查体系那它的意义就不止于生物安全了——它会为AI安全的其他领域提供一个可复用的治理模板。我们普通人该怎么看这件事说了这么多你可能会问那我一个普通人该怎么看待这件事我的建议是既别当末日论者也别当盲目乐观派。AI进入生命科学是好事。它会带来更好的药物、更精准的治疗、更健康的生活。这个方向的红利我们每个人都可能享受到。但同时它的风险也是真实的。不是那种AI明天就毁灭人类的剧情式风险而是一种渐进式的、门槛不断降低的风险。就像水慢慢涨上来你一开始感觉不到等到发现的时候可能已经没过膝盖了。具体到我们普通人能做的关注政策走向AI生物安全的治理框架怎么建直接关系到这个技术往哪个方向走支持负责任的研究那些把安全放在优先级的公司和研究机构值得更多关注别被极端叙事带节奏一边说AI要灭绝人类一边说AI包治百病这两种都是在贩卖情绪。真实的世界永远在中间。写在最后Claude发现ART的那天阿莫代伊很兴奋。他说这是我会为之骄傲的博士作品。同一天他在联合国安理会上警告AI可能被用来制造生物武器。这两件事不矛盾。它们是同一个技术的两面——一面能照亮医学的未来一面能投下安全的阴影。AI手里那根试管既能救人也能伤人。最终它会变成什么样不取决于AI取决于我们。参考来源Anthropic官方博客《Claude discovers a novel enzyme system with CRISPR-like repeats》红星新闻《950个AI智能体连轴干发现全新酶系统》澎湃新闻《奥特曼在联合国发言人类可能失去对AI未来发展的控制》新华网《安理会讨论人工智能发展与安全风险应对》The Robotics Media《OpenAI, Anthropic And Hugging Face Brief U.N. Security Council On AI Safety》