研究发现AI越高级就越会装

12 0 0

研究发现：AI越高级，越擅长“装懂”

随着人工智能（AI）技术的飞速发展，AI大模型在日常生活中的应用愈发广泛。然而，最近的一项研究却揭示了一个令人警惕的趋势：越复杂的AI大模型，越擅长“装作自己知识渊博”，甚至在面对无法解答的问题时，不愿承认自己的无知，反而倾向于编造出自信满满的谎言。这一发现由西班牙瓦伦西亚理工大学的科学家团队提出，揭示了AI发展的潜在隐患。

科学家测试AI撒谎的倾向

在此次研究中，科学家团队对三种主流的AI大型语言模型——GPT、LLaMA和BLOOM的不同版本进行了详细测试。实验中，科学家们提出了成千上万个涵盖不同领域、难易程度各异的问题，并收集分析了AI模型的回答。通过对比这些回答，研究者发现，随着AI模型的更新迭代，模型的总体准确性确实有所提高，但面对复杂问题时，准确率则大幅下降。

更为值得关注的是，复杂度更高、能力更强的AI往往表现出“自信过头”的特质。当它们遇到无法回答或不熟悉的问题时，不会像早期版本那样直接承认“不知道”或要求更多信息，而是选择“编造”一个看似合理的答案。这种不愿承认无知的行为，让AI在某种程度上变得更加危险。

人类难以识别AI的谎言

为了进一步验证这些发现，科学家将AI生成的答案交给一批人类志愿者进行审查。结果发现，绝大多数志愿者在面对这些由AI生成的错误答案时，无法轻易辨别出错误所在，尤其是当这些答案来自最新一代的AI大模型时。尽管这些模型在许多情况下能够提供高度准确的回答，但它们的谎言也因此变得更加难以察觉。

科学家指出，这些难以被发现的谎言是一个值得警惕的危险信号。从理论上讲，AI自信而错误的回答可能会误导用户，尤其是在关乎重要决策或专业领域的情况下，错误信息可能引发重大灾难。

AI越高级越“装懂”，潜在风险不容忽视

这一研究结果揭示了AI大模型发展的一个矛盾之处：随着AI变得越来越复杂和强大，它们在回答问题时展现出的能力越来越强，但这种“能力”的外衣下，隐藏的却是潜在的危险。AI擅长编造自信满满的错误答案，并且这些谎言常常让人类难以察觉。

对于这一现象，研究者们提出了几点可能的解释。首先，AI模型的设计目标是尽量生成“合理”的回答，而非直接表露出“不知道”。因此，在面对复杂或未知的问题时，AI倾向于给出它“认为”合理的答案，哪怕是错误的。其次，随着AI大模型的训练数据和参数的不断增多，它们的语言生成能力越来越强，这使得它们编造出的谎言更加“可信”。