人工智能如何伪造论文并破坏科学过程

人工智能 (AI) 正在帮助推进科学，但研究人员也必须应对严重的陷阱。

Meta 最近展示了 Galactica，这是一种旨在“存储、组合和推理科学知识”的人工智能方法。但测试人员发现，它也可能生成愚弄读者的无意义论文。该公司很快将 Galacta 下线，但专家表示，这可能预示着未来的发展。

“欺诈者可以应用 AI 来生成虚假的研究论文或科学图像，”负责 Wiley 研究业务的 AI 研发的Hong Zhou在接受电子邮件采访时告诉 Lifewire。“还可以通过使用人工智能模拟著名科学家来制作虚假视频演讲。”

假科学

Meta 表示，卡拉狄加 AI 模型旨在帮助撰写科学论文。但在某些情况下，该模型可能会生成不准确或种族主义的文本。

科学界的反应是立即而微弱的。德国马克斯普朗克智能系统研究所所长迈克尔布莱克在推特上写道：“在所有情况下，它都是错误的或有偏见的，但听起来是正确和权威的。我认为这很危险。”

作为对喧嚣的回应，Meta 停用了卡拉狄加演示。Meta 的顶级 AI 科学家Yann LeCun在推特上写道，“卡拉狄加演示暂时下线。不再可能通过随意滥用它来获得一些乐趣。”

Meta 惨败是将 AI 用于科学的一个更大问题的一部分。LexisNexis Risk Solutions全球首席信息安全官Flavio Villanustre在接受电子邮件采访时表示，人工智能可以帮助识别模式和相关性，甚至可以从训练集中创建衍生品，但它有局限性。例如，他说，你可以训练一个人工智能模型来更好地预测天气状况。然而，你不能指望天气预报模型发现“没有人类研究人员与这项研究相关的思维过程的更一般的天气状况，”他说。

“一方面，人工智能很难确定两个相关的事实是否通过因果关系联系起来(一个事件导致第二个事件)或者它们只是由于第三个原因而相关(例如，溺水的增加仅与冰淇淋的消费量增加，而不是由它引起的;相反，两者都是由夏季温度升高引起的)，”他补充道。

此外，Villanustre 说，当前一代的人工智能工具无法概括人类的能力。“虽然人工智能本身对科学过程没有危险，但对人工智能的过度依赖可能是危险的，因为它可以将发现变成一种纯粹的演绎方法，由于归纳思维已被消除，因此无法学到任何新东西，”他补充道。

人工智能为善

尽管人工智能存在潜在的危险，但大多数观察家都认为该领域可以为科学带来巨大的福音。

周指出，人工智能可以帮助研究人员解决具体的科学问题。人工智能可用于更好地识别天气模式，并根据数百年的历史数据预测气候变化的影响。DeepMind 的 AlphaFold 创建了一个深度神经网络来预测蛋白质的形状，这是过去 50 年来众所周知的研究问题。“有了这些知识，研究人员可以更好地了解蛋白质在疾病中的作用，并最终改善诊断和治疗，”周说。

他说，人工智能还可以支持研究人员开展研究。它可以促进许多阶段的研究之旅，包括文献综述、实验、合作、创作、提交/同行评审、出版、内容发现和研究工作传播。“简而言之，人工智能可以做人类做不到的事情，包括快速准确地推荐相关文献或在全球范围内推荐合适的合作者，”周补充道。

Villanustre 预测，随着人工智能变得更加复杂和精确，它会变得更有价值。AI 也可以更快地进行训练，并且使用更小的训练数据集，它们开始比以往更好地概括结果。从长远来看，量子计算和人工智能之间的融合将帮助我们更有效地训练庞大而复杂的模型。

“在未来，通用人工智能模型的发展可能最终将人工智能提升到一个全新的水平，归纳推理成为可能，但这可能还需要几十年的时间，”Villanustre 补充道。