大型语言模型永远不会真正具有智能，专家称

大型语言模型永远不会变得智能，专家说

大型语言模型（LLMs）只是模拟语言交流功能的工具。

科技公司是否即将通过他们强大的AI模型创造出思考机器，如一些高管所声称的那样？一位专家并不这么认为。

我们人类倾向于将语言与智能联系在一起。我们倾向于被那些拥有更强语言技能的人所吸引，无论是作为演说家还是作家。

但是最新的研究表明，语言和智能并不是同一件事，Cognitive Resonance的创始人本杰明·赖利（Benjamin Riley）在The Verge的一篇文章中说。这对AI行业来说是一个坏消息，因为该行业正寄希望于创造一个全知的通用人工智能（AGI），并且已经在使用大型语言模型架构。

“问题在于，根据当前的神经科学，人类的思考在很大程度上是独立于语言的——我们没有理由相信，更加复杂的语言建模将会创造出一种与人类智能相媲美或超过人类智能的智能，”赖利写道。“我们使用语言来思考，但这并不意味着语言就是思考。理解这一区别是区分科学事实和AI狂热的CEO们的推测性科幻的关键。”

为了说明，AGI将是一个全知的AI系统，能够在广泛的任务中达到或超过人类的认知能力。但是在实践中，它通常被认为是帮助解决人类无法解决的所有最大问题，从癌症到气候变化。通过说他们正在创造一个这样的系统，AI领导者可以为该行业的过度支出和灾难性的环境影响辩护。

AI资本支出失控的部分原因是对扩张的痴迷：通过为AI模型提供更多的数据和使用越来越多的GPU来为其提供动力，AI公司使他们的模型成为更好的问题解决者，并且在对话能力方面更加像人类。

但是“LLMs只是模拟语言交流功能的工具，而不是独立的认知过程——思考和推理——无论我们建造多少数据中心，”赖利写道。

如果语言对于思考是必要的，那么去掉语言应该会去掉我们的思考能力。但是事实并非如此，赖利指出，引用了去年在《自然》杂志上发表的一篇评论中总结的几十年的研究。

例如，功能性磁共振成像（fMRI）显示，人类大脑在不同的认知活动中会激活不同的区域，赖利指出。当我们思考一个数学问题与一个语言问题时，我们并没有使用相同的神经元区域。同时，对于那些失去了语言能力的人的研究表明，他们的思考能力基本上没有受到影响，因为他们仍然可以解决数学问题，遵循非语言指令，并理解他人的情绪。

甚至一些领先的AI人物也对LLMs持怀疑态度。其中最著名的是图灵奖获得者和现代AI的“教父”扬·勒昆（Yann LeCun），他曾是Meta的顶级AI科学家。勒昆长期以来一直认为LLMs永远不会达到通用智能，他相信应该追求所谓的“世界”模型，这些模型是通过训练它们在各种物理数据上来理解三维世界，而不是仅仅依靠语言。这种观点可能导致了他最近的离开；尽管勒昆的观点，Meta的CEO马克·扎克伯格已经转向将数十亿美元投入到一个新的AI部门，用于创建一个使用LLMs技术的人工“超智能”。

其他研究也支持LLMs有一个硬性上限的想法。在《创造性行为杂志》上发表的一项新分析中，一位研究者使用了一种数学公式来确定AI“创造力”的限制，结果令人震惊。由于LLMs是一个概率系统，它们会达到一个点，无法生成新的和独特的输出，这些输出不是无意义的。因此，该研究得出结论，即使是最好的AI系统也永远不会超过合格的艺术家，它们可以为你写一封漂亮的邮件。

“虽然AI可以模仿创造性行为——有时非常令人信服——但其实际的创造能力是有限的，永远无法达到专业或专家标准，在当前的设计原则下，”研究作者、南澳大利亚大学工程创新教授大卫·H·克罗普利（David H. Cropley）在一份关于该研究的声明中说。

“一位熟练的作家、艺术家或设计师可以偶尔创造出真正原创和有效的东西，”克罗普利补充说。“一个LLM永远不会这样做。它总会产生一些平庸的东西，如果行业过于依赖它，它们最终会陷入公式化和重复的工作中。”

这并不是一个令人乐观的征兆，如果LLMs驱动的AI应该想出新的创新并推动我们对世界的理解的边界。那么，它如何能够发明“新物理学”，正如埃隆·马斯克所说的那样，或者解决气候危机，正如OpenAI的CEO萨姆·阿尔特曼所建议的那样，如果技术难以创造出不是基于现有写作的新句子？

是的，一个AI系统可能会以有趣的方式重新混合和回收我们的知识，”赖利写道。“但这就是它所能做到的全部。它将永远被困在我们编码在数据中的词汇和训练它的基础上——一个死寓言机器。

请注意，中文版本是由 AI 辅助翻译的，因此可能存在细微错误。

作者

Ai Base Network (ABN), ABN ASIA由具有深厚学术背景的人员创立，他们在美国、荷兰、匈牙利、日本、韩国、新加坡和越南等国家有工作经验。ABN Asia是学术界和技术相遇的地方。凭借我们领先的解决方案和优秀的软件开发服务，我们帮助企业提升水平，走向全球舞台。我们的承诺：更快。更好。更可靠。在大多数情况下：也更便宜。

无论您需要IT服务、数字咨询、现成软件解决方案，还是想向我们发送招标要求（RFPs），都请随时与我们联系。您可以通过[email protected]与我们联系。我们随时准备为您提供所有技术需求的帮助。