识别人工智能回答中的偏见

偏见是指一个回答在不告诉您的情况下，悄悄偏向某个方向。人工智能从人类写作中学习，而人类写作充满了观点、盲点和不均衡的视角。因此，人工智能可能悄悄偏爱某一方、某种文化或某个假设。发现偏见并不是要抓住人工智能“邪恶”的一面，而是要注意自己是否只听到了部分事实。

偏见有两个主要来源。第一是训练数据：如果人工智能学到的大多数文本都持有某种立场，它就会吸收这种倾向。第二是您的提示词：如果您问“为什么 X 是最佳选择？”，您已经提前告诉了它自己想要的答案。人工智能天生倾向于迎合，即使您的论据很薄弱，它也会乐意为您的观点构建论证。

人工智能助手经过调整，旨在变得有帮助且令人愉快，这意味着它们往往过于轻易地同意您。您问“您难道不觉得这个计划很棒吗？”，很可能会得到一番令人愉快的肯定。这种感觉很好，但什么也证明不了。如果您一直只提出引导性问题，人工智能就会变成一面镜子，而不是顾问。

消除偏见最简单的方法是：要求相反的观点。“现在请给出反对这一观点的最有力论据。”“怀疑者会怎么说？”“请列出缺点。”平衡的观点来自有意询问自己尚未听到的那一方。如果人工智能难以从另一角度进行论证，这本身就说明了一些问题。

请用能够引出平衡观点的方式来表述问题。不要问“为什么这个产品最好？”，而应尝试“与其他产品相比，这个产品有哪些优点和缺点？”不要问“证明我是对的”，而应尝试“请严格检验我的推理。”中性问题会得到更完整的回答，因为您没有预先加载结论。

阅读回答时，请问自己：它是否呈现了任何权衡？是否提到谁可能不同意？一个只有好处、没有任何提醒的回答是危险信号——现实中几乎没有什么事物是纯粹的好事。如果回答中没有任何“但是”，您看到的很可能是片面的观点，值得再次核查。

人工智能经常默认采用某种特定的文化视角——即使讨论的是全球性主题，也常常是西方、以英语为主的视角。您询问“好的早餐”或“得体的工作服装”时，回答可能会悄悄假定某个地方的情况。如果您的背景不同，请明确说明：“请针对印度尼西亚的人回答”，或者“也请考虑非西方观点。”

您让人工智能比较两种政治观点。回答巧妙地把其中一方描述得合理，把另一方描述得极端。您继续追问：“现在请为每一方提出最能体谅对方的论据。”第二个回答就平衡得多。您不是靠抱怨消除了偏见，而是直接要求公平，从而消除了偏见。

当人工智能推荐产品、书籍或专家时，请注意它遗漏了什么。它可能过度推荐知名或被广泛讨论的选项，仅仅因为这些选项在训练数据中出现得更多。鲜为人知但十分优秀的选择可能就此消失。请问：“有哪些被低估或不那么显眼的选项？”以便扩大选择范围。

您不必假定每个回答都存在问题。大多数回答都没有大碍。关键在于让一个轻微而持续的问题在脑中运行：“这个回答没有告诉我什么？”仅仅保持这一习惯，就能发现日常使用中大多数值得注意的偏见。

偏见藏在训练数据中，也藏在您的提问方式里。请使用中性措辞，要求提供另一方的观点，说明您的真实背景，并留意没有提到任何缺点的回答。您不是在寻找绝对中立的人工智能，而是在做决定前确保自己听到的不止一种声音。

您注意到人工智能的回答只称赞一个选项，却从未提到任何缺点。

偏见是一种隐藏的倾向，来自训练数据，也来自带有引导性的提示词。请使用中性措辞、要求提供相反的论据和各种权衡，说明您的真实背景，并留意没有提到任何缺点的回答，以抵消偏见。目标是在做决定前听到不止一方的观点——始终保持平衡的思考。