人工智能为什么会自信地编造内容

AI 最棘手的一点在于：它可能完全错误，却听起来十足肯定。它没有紧张的语气，也不会说“可能”。它能像陈述事实一样流畅地说出捏造的事实。

这些自信的错误被称为幻觉。了解它们为什么会发生，是防止自己受骗的第一道防线。

请记住 AI 的工作方式：它会一个接一个地预测可能出现的词语。它不是在数据库中查找事实，而是在生成听起来正确的文本。

大多数时候，听起来正确与事实正确是一致的。但有时，听起来最自然的句子其实完全是假的，而 AI 没有内置的警报来告诉它这一点。

AI 实际上并不知道什么是真的。它没有意识，内部也没有事实核查器，只是在生成貌似合理的语言。

所以它可以完全自信地编造统计数字、日期或引语。对 AI 来说，听起来可信的谎言和事实看起来完全一样：两者都只是可能出现的词语模式。

当 AI 不知道某件事时，它通常不会直接承认。相反，它会用符合答案模式的内容来填补空白。

如果您询问一个它从未学过的冷门事实，它可能不会承认自己不知道，而是流畅地编造一个貌似合理的回答。正是这种填补空白的倾向催生了幻觉。

您向 AI 索要某本特定书籍中的一段引语。它给出一段优美、贴切且标注了准确出处的引语。听起来完美无缺，只是这段引语根本不存在。

AI 生成了一段听起来像那本书中的引语。没有恶意，也没有意识，只是模式匹配自信地出了错。这种情况发生得比初学者预想的更频繁。

幻觉集中出现在某些内容周围：具体事实、数字、日期、姓名、来源和引语。细节越精确、越冷门，风险就越高。

概括性的解释通常比较可靠。最容易被 AI 自信编造的，往往是确切的引用、精确的统计数字和冷门的名称。了解这一点，您就知道什么时候需要格外谨慎。

AI 模型根据截至某个时间点的数据学习，因此可能不太了解近期发生的事件。当被问到新近发生的事情时，它可能会猜测，并把猜测当作事实呈现。

对于近期新闻、价格或快速变化的主题，请尤其保持怀疑。AI 可能会自信地描述一个已经不存在、甚至从未存在过的世界。

了解 AI 并没有试图欺骗您，这一点很有帮助。它完全没有意图。幻觉是其工作方式产生的副作用，而不是它选择误导您。

这很重要，因为这意味着您无法通过要求 AI 诚实来解决问题。它已经认为自己正在提供帮助。防护措施必须来自您。

如果您不加核实地全盘接受每个自信的回答，最终一定会根据某些错误信息采取行动：报告中的错误事实、捏造的来源，或错误的日期。

解决办法不是停止使用 AI，而是明智地使用它：依靠它进行思考和起草，并在依赖具体事实之前核实那些重要的信息。

养成一种简单的心态：AI 是聪明又快速的助手，但偶尔会自信地犯错。相信它提供方向，但要仔细核对细节。

这不是偏执，而是您面对任何单一来源时都会采取的同样的审慎态度。了解幻觉的存在，已经让您领先于大多数用户。

请 AI 提供一些冷门而具体的信息，例如精确的统计数字或来自不太知名来源的引语。然后尝试在其他地方核实。

您可能会发现那是它自信编造的内容。亲眼见过一次幻觉，会比单纯听说它可能发生，更牢固地记住这堂课。

让我们检验一下核心观点。

幻觉是自信编造的答案。它们之所以发生，是因为 AI 会预测貌似合理的词语，却无法真正辨别真假，因此它会填补空白，而不是承认自己不知道。

具体事实、数字、引语、来源和近期事件的风险最高。AI 并不是在撒谎，因为它没有意图。防护措施在于您自己：相信它提供方向，核实具体细节。