研究揭示AI智慧增长带来的潜在风险

文章标题：大型语言模型愈加“能说会道”，但可靠性却在下降

IT之家9月29日消息，一项最新研究在人工智能领域引发了广泛关注。
随着大型语言模型（LLM）的技术进步，它们的能力越来越强大，但似乎也越来越容易编造事实。
这引发了一个重要的问题：这些更聪明的AI聊天机器人，是否真的变得更加可靠？答案可能令人感到不安。

一、研究概述

该研究发表在《自然》杂志上，研究人员主要关注了一些业界领先的商业LLM：OpenAI的gpt系列、Meta的LLaMA以及由BigScience创建的开源模型BLOOM。
通过广泛而深入的测试，研究团队发现，尽管这些LLM在许多情况下的回答变得更加准确，但在整体上，其答案的可靠性更差，给出错误答案的比例甚至比旧模型更高。

二、LLM的现状与挑战

大型语言模型（LLM）已经取得了令人瞩目的技术进步。
如今，它们几乎可以回答一切。
这种无所不能的表现背后，隐藏着一些严重的问题。

测试中，这些模型被问及了从数学到地理等各种主题的问题，并被要求执行一些复杂任务。
更大、更强大的模型给出了最准确的答案，但在面对更复杂的挑战时，其准确率较低。
这意味着，随着模型的复杂性增加，它们给出错误答案的比例也在增加。
这对于依赖这些AI模型做出决策的用户来说，是一个严重的警告。

三、具体案例分析

研究指出，一些最大的撒谎者是OpenAI的GPT-4和o1。
这些模型在回答某些问题时，错误率令人震惊。
这并不是特定模型的问题，而是所有被研究的LLM似乎都呈现出同样的趋势。
对于Meta的LLaMA系列模型，没有一个能够达到60%的准确率，即使是最简单的问题。
当被要求判断聊天机器人的回答是准确还是不准确时，一小部分参与者的判断错误率达到了10%到40%。

四、问题剖析与解决方案探讨

这种可靠性的下降并不是单纯的偶然现象。
随着模型变得更加复杂，它们在处理复杂信息和细节时可能会出现更多的混淆和误解。
过度追求回答速度也可能导致准确率的下降。
为了解决这个问题，研究人员提出了一个可能的解决方案：限制模型的回答范围。
瓦伦西亚人工智能研究所的研究员JoséHernández-Orallo表示，可以设置一个阈值，当问题具有挑战性时，让聊天机器人说“不，我不知道”。
这也可能暴露出技术的局限性。
因此，如何在保证模型能力的同时提高可靠性，将是未来研究的重要课题。

五、观点与影响

对于这项研究，格拉斯哥大学的科学和技术哲学家MikeHicks进行了尖锐的评论。
他表示：“在我看来，这就像我们所说的胡说八道，它越来越擅长假装知识渊博。
”我们也不能因此就全盘否定大型语言模型的潜力。
它们在很多领域已经展现出了惊人的能力，并改变了我们与计算机的交互方式。
问题在于如何更好地训练和管理这些模型，使它们在提供信息时更加准确和可靠。

六、展望

未来，随着技术的不断发展，大型语言模型的能力还将继续提升。
研究人员需要密切关注这些模型的性能和可靠性问题。
同时，企业和开发者也需要考虑如何在使用这些模型时平衡能力和安全性。
毕竟，AI模型的可靠性对于用户来说至关重要。
只有建立更加完善的训练和评估体系，才能确保大型语言模型在未来的发展中真正为人类带来福祉。

---

---

相关标签： AI、 人工智能、

上一篇：合合信息携手母公司递交IPO喜讯

下一篇：引领业界新潮流