公平、偏见与现实伤害

人工智能从海量人类文本和图像中学习，而人类留下的记录包含不公平、刻板印象和盲点。因此人工智能可能吸收并重复这些模式——不是出于恶意，而是因为它反映了被输入给它的内容。理解这一点有助于您更公正地使用人工智能，并在它出错时及时发现。

偏见会以具体的方式显现出来。要求图像生成器生成“一位 CEO”时，画面可能主要呈现某一种性别或种族。筛选简历的工具可能偏爱某些姓名。翻译可能默认医生是男性、护士是女性。这些并非假设——每一种情况都曾在真实系统中发生过，并影响过真实的人。

当带有偏见的人工智能参与招聘、贷款、警务或医疗保健决策时，造成的伤害并不是抽象的。人们可能被一个看似中立、却暗中偏袒某些群体的系统拒绝工作、贷款或公平待遇。“计算机都这么说了”的光环会让不公平的决定显得客观，从而使人们更难提出质疑。

偏见主要通过训练数据进入系统：如果过去的数据反映了过去的歧视，人工智能就会学着重复这种歧视。偏见也可能来自系统的构建者，以及他们进行过哪些检验。机器并不是主动决定不公平，而是在忠实复制有缺陷数据中的模式。垃圾进，偏见出。

您可能不会构建人工智能系统，但会使用它的输出结果。如果您让人工智能筛选候选人、撰写绩效评估或评判他人，它的偏见就会变成您自己的决定。请保持警觉：这个输出会不会不公平地让某人处于不利地位？对于任何会影响他人机会或尊严的事情，都应加入人工复核。

您可以引导人工智能生成更公平的结果。要求提供多样化示例：“展示不同类型的人”“加入来自不同文化的观点”“避免刻板印象”。生成有关人物或角色的内容时，请明确要求多样性，而不要接受默认结果，因为默认结果往往偏向数据中的多数模式。

用公平视角审阅人工智能的输出。它是否假定某种职业对应某种性别？它是否用狭隘、陈词滥调的方式描述某个群体？它是否完全遗漏了某些观点？指出刻板印象，您就能纠正它：“这种表述依赖刻板印象——请以公平的方式重写。”您是拒绝让这种偏见发布出去的编辑。

想象一下使用人工智能给求职者排名。如果过去的录用结果偏向某一方向，人工智能可能在不知不觉中把相似的个人资料排得更高，并压低其他人的排名——即使他们是优秀候选人。盲目依赖它可能不公平，而且在许多地方还可能违法。人工智能可以协助筛选，但对于影响人们生计的决定，必须由人承担最终责任。

开发人员正在积极减少偏见，工具也在不断改进。您需要做的是保持务实的警惕，而不是陷入绝望。请利用人工智能的巨大优势，同时 kritisch地审视涉及公平的输出。保持警觉的用户只要拒绝接受有偏见的结果，就能让人工智能更安全。

如果您发现人工智能工具生成了明显带有偏见或有害的输出，请进行举报——大多数平台都有反馈按钮。您的举报能帮助开发人员修复影响许多人的模式。把公平视为每个人的职责，而不只是工程师的职责，系统才会变得更好。

人工智能会从训练数据中映照出人类偏见，而当这种偏见影响有关人们的决策时，就会造成真正的伤害。在您自己的使用过程中保持警觉，在提示中要求多样性，发现刻板印象，让人在重大决策中保持主导，并报告问题。只要拒绝继续传递它的偏见，您就在帮助构建更公平的人工智能。

您计划使用人工智能工具帮助为某个职位的求职者排名。

人工智能会从有缺陷的训练数据中映照出人类偏见，而当这种偏见推动有关人们的决策时，就会造成真正的伤害。在您使用人工智能时保持警觉，要求多样性，发现刻板印象，让人在重大决策中保持主导，并报告问题。拒绝继续传递偏见，就是参与构建更公平的人工智能。