公平与问责

在人工智能开发中，公平性意味着确保人工智能系统公平地对待所有个人和群体，不带有偏见或歧视。

问责制是指能够确定谁应对人工智能系统的行为和结果负责，尤其是在出现问题时。

不公平的人工智能可能在现实世界中造成严重伤害，包括：

• 歧视：根据受保护特征拒绝提供机会（例如贷款或工作机会）。
• 排斥：未能服务或代表某些用户群体。
• 信任的削弱：用户会失去对人工智能系统及其背后组织的信任。

确保公平性能够建立信任，并促进更加公平的社会结果。

人工智能系统可能会做出复杂的决策，因此，当错误或伤害发生时，了解谁应当负责至关重要。问责制包括：

• 可追溯性：能够追溯决策的来源。
• 责任：明确设计、部署和监控工作的负责人。
• 补救：为个人提供质疑决策并寻求补救的机制。

这有助于促进负责任的创新，并保护用户。

公平性并非只有一种标准。不同维度包括：

• 个体公平：相似的个人应获得相似的结果。
• 群体公平：不同人口群体获得正面或负面结果的比例应当相近。
• 程序公平：做出决策的过程应当公平且透明。

通常，优化某一种公平性可能会与另一种公平性发生冲突，因此需要谨慎权衡。

为确保问责，组织可以实施相关框架，在人工智能生命周期的各个阶段明确角色和责任：

• 指定角色：任命人工智能伦理负责人或审查委员会。
• 明确政策：记录人工智能伦理开发的指导原则。
• 审计轨迹：记录模型版本、数据来源和决策参数。
• 人工监督：针对关键的人工智能决策加入人工审核。

这些结构有助于确保人工智能部署透明且负责任。

公平性必须在每个阶段都得到考虑，而不能事后补救。关键步骤包括：

• 具有代表性的数据：确保训练数据反映目标人群的多样性。
• 偏差检测工具：使用软件识别并缓解数据和模型中的偏差。
• 公平性指标：在模型评估期间定义并跟踪具体指标（例如机会均等、人口统计均等）。

主动进行设计可以预防许多公平性问题。

在开发和部署期间，可以通过以下方式加强问责制：

• 文档记录：全面记录数据来源、模型架构和训练过程。
• 版本控制：管理模型和数据的变更，以便回滚和审计。
• 可解释性：设计能够提供决策理由的模型（上一课已介绍）。
• 反馈闭环：建立机制，让用户报告问题或质疑人工智能的决策。

这些实践能让人工智能系统更易于审计，也更加透明。

设想有一个能够批准或拒绝信用申请的 AI SaaS。为确保公平性和问责制：

• 公平性：即使系统没有明确使用种族或性别等因素，也不得基于这些因素不公平地使申请人处于不利地位。这意味着需要检查代理变量或差别影响。
• 问责制：如果申请被拒，系统最好能够提供清晰易懂的理由。此外，还应建立人工审核和申诉人工智能决策的流程。

这样可以确保透明度，并为用户提供申诉途径。

公平性和问责制并非一次性任务，而是需要持续投入：

• 定期审计：定期检查人工智能系统，发现意外偏见或性能漂移。
• 影响评估：开展评估，了解人工智能决策对社会的影响。
• 利益相关者参与：让不同群体（例如用户、伦理学家和法律专家）参与人工智能的开发与审查过程。

这有助于长期维护伦理标准。

以下哪些做法同时有助于人工智能开发中的公平性和问责制？

本课强调了公平性和问责制在开发符合伦理要求的人工智能系统中的关键作用。我们了解到，公平性确保获得公平的对待和结果，而问责制则明确责任并建立补救机制。

通过主动将公平性纳入设计、建立健全的问责框架，并持续监控人工智能系统，我们可以打造更加值得信赖、更加负责的软件即服务产品。