识别编造答案的危险信号

您不可能总有时间核实所有信息。因此，学会识别答案可能是编造的警示信号会很有帮助，这些信号会提醒您放慢脚步并进行核实。

一旦了解这些危险信号，可疑的答案就会开始自动显现。这种直觉是您能够培养的最有价值的 AI 技能之一。

当答案精确得令人怀疑时，请保持警惕：例如精确到某个百分比、具体的日期，或一段措辞完美且过于贴切的引语。

现实生活杂乱无章，而编造的细节往往异常整齐。当某件事精确得超出了 AI 合理上可能知道的程度时，请把这种精确视为危险信号，而不是证据。

最明显的识别信号，是自信满满的引用：一项研究、一本书、一位作者，或一段引语。AI 喜欢编造这些内容，因为它们听起来很权威。

只要 AI 点出某个具体的来源或引用某人的话，您就应该拉响警报。捏造的参考资料极其常见。在确认引用确实存在之前，绝不要相信它。

您越是偏离常识范围，人工智能的立足点就越薄弱。面对罕见、专业或地方性主题，它可参考的内容更少，也更容易进行猜测。

如果您询问的是生僻内容，却得到了一份流畅而详尽的回答，请格外保持怀疑。对于小众主题，越是自信的回答，越可能是在编造。

您询问一件规模不大的历史事件，人工智能回复了人名、日期和一段工整的引文。读起来就像教科书。

这里所有危险信号都出现了：小众主题、可疑的具体细节，以及一段引文。无论回答听起来多么权威，这正是您在相信之前必须核实的回答类型。

当您询问新近发生的事情、当前价格、最近的头条新闻或上周的事件时，请留意那些自信满满的回答。人工智能的知识有截止时间，可能并未涵盖这些内容。

如果它毫不犹豫、也不作任何说明，就回答一个明显近期的问题，请怀疑这只是猜测。最新事实是自信错误的典型高发领域。

有时，人工智能会在同一个回答中自相矛盾，或者在您再次询问时改变说法。这种摇摆表明它是在生成内容，而不是回忆事实。

如果您重新询问后得到不同的事实，那么两者都不值得信任。真实事实会保持稳定；编造的事实则会漂移。不一致是一个明显的危险信号。

请留意那些听起来很详细、却始终不真正下结论的回答：话很多，但可核实的实质内容很少。人工智能可能正在用大量内容掩盖知识上的空白。

如果您去掉自信的语气后，发现没有任何实际可以检查的内容，那么这种空洞感值得您重视。文风不等于实质。

快速试探一下会很有帮助。您可以问人工智能：您确定吗？能告诉我这些内容来自哪里吗？有时它会收回自己编造的说法。

如果您追问后，它突然变得含糊其辞，或承认自己并不确定，那就证实了您的怀疑。一个在一次追问下就站不住脚的自信说法，很可能从一开始就不可靠。

如果某件事好得不真实、整齐得过分，或方便得令人难以置信，请听从您的直觉。很多时候，您的直觉会在意识到问题之前先察觉到不对劲。

这里的危险信号——完美的细节、引用、小众主题和近期事件——都会进一步强化这种直觉。当直觉发出警报时，请放慢脚步，在依赖回答之前先进行检查。

向人工智能提出一个带有危险信号的问题：询问一个生僻事实、要求提供引文，或询问非常近期的事情。仔细查看回答中是否有警示迹象。

然后用“您确定吗”追问它，观察接下来会发生什么。有意识地练习这一过程，可以训练出您日后会自动使用的直觉。

让我们测试一下您识别危险信号的能力。

了解回答可能是编造的危险信号：过于完美的细节、点名的来源和引文、小众主题、近期事件、自相矛盾，以及空洞的含糊其辞。

用“您确定吗”进行试探；如果某件事看起来过于整齐，请相信您的直觉。这些迹象会告诉您何时应该放慢脚步并进行核实，而这正是您能培养的最有价值的人工智能使用直觉。