人工智能的尖端数字计算能力意味着人工智能系统能够在早期发现疾病，管理化学反应，并解释宇宙的一些奥秘。

但是，这种几乎能力无限的人工智能也有一个缺点。

新的研究强调了人工智能模型可以很容易地被训练成善意的，它也能设计成找到假想的生物武器制剂。用现有的人工智能进行试验，研究员在短短 6 个小时的时间里，识别了 40000 种假想的生物武器化学品。

换句话说，虽然人工智能可以令人难以置信地强大，当涉及发现化学组合和药物化合物以改善健康时，同样的力量可以被用来产生出潜在的致命物质。

该团队在一次国际安全会议上进行了试验，让一个名为 MegaSyn 的人工智能系统检测分子的毒性。在实验中，有毒分子被保留而不是被消除。更重要的是，该模型还被训练成将这些分子组合在一起，在极短的时间内产生假想的 4 万个生物武器。

结果发现，许多生成的化合物甚至比烈性神经毒剂 VX 的毒性更强。因此，这项新研究背后的作者对他们研究的一些细节进行了保密，并认真讨论了是否完全不公开这些结果。

在接受 The Verge 采访时，这篇新论文的主要作者和研究所在的 Collaborations Pharmaceuticals 公司的高级科学家 Fabio Urbina 解释说，从 " 好 " 的人工智能转变为 " 坏 " 的人工智能并不需要太多步骤，该实验是对人工智能带来的危险的警告。

研究人员现在呼吁 " 重新审视 " 人工智能系统可能被用于恶意的目的。

该研究论文题为 "Dual use of artificial-intelligence-powered drug discovery"，已发表在《自然 - 机器智能》期刊上。

前瞻经济学人 APP 资讯组

论文原文：https://www.nature.com/articles/s42256-022-00465-9