人工智能伦理与治理框架
EU 人工智能法案概览、模型卡片、数据集说明书和负责任人工智能检查清单。
人工智能伦理与治理框架 是 CoddyKit 上的免费 Learn AI with Python 课时。 这是第 4 节课，共 4 节。 你可以在下方免费阅读本课时的完整内容 — 然后在浏览器中使用内置代码编辑器和全天候 AI 导师进行实践。 这是 Learn AI with Python 学习路径的一部分，你的进度在网页和 CoddyKit 应用中同步。 Learn AI with Python 课程共包含 4 节课。
为什么治理很重要
功能强大的模型也会带来实际风险：歧视、隐私损害、错误信息和安全失效。人工智能治理是一套政策、流程和文档，用于确保人工智能系统在整个生命周期内合法、公平并且可问责。
EU 人工智能法案
EU 人工智能法案是一项具有里程碑意义的法规，会按照风险对人工智能系统进行分类，并根据风险程度施加相应义务。它采用四级风险金字塔。
风险等级：不可接受
位于顶层的不可接受风险系统会被全面禁止。例如政府社会信用评分，以及利用人们脆弱性的操纵性系统，都属于这一类。无论采取何种防护措施，都不得部署这些系统。
风险等级：高风险
高风险系统（医疗设备、招聘、信用评分和关键基础设施）可以使用，但受到严格监管：它们必须进行风险管理，使用高质量数据，做好日志记录，接受人工监督，并在进入市场前完成合规性评估。
风险等级：有限风险与最低风险
较低的风险等级受到的监管较轻：
- 有限风险（聊天机器人、深度伪造）需要保持透明，例如告知用户他们正在与人工智能互动
- 最低风险（垃圾邮件过滤器、游戏人工智能）基本不承担任何义务
风险金字塔总结
从上到下，EU 人工智能法案中的风险金字塔依次为：不可接受（禁止）、高风险（严格要求）、有限风险（透明度义务）和最低风险（可自由使用）。大多数日常人工智能应用都属于最底下的两个等级。
模型卡片
模型卡片是一份与模型一同发布的简短标准化文档。它说明模型的用途以及不应使用模型的场景，帮助后续使用模型的团队做出知情决策。它相当于人工智能模型的营养成分标签。
模型卡片：预期用途
预期用途部分会说明主要目的、目标用户，以及明确列出的不适用场景。这可以防止误用，例如将使用英语推文训练的情感分析模型应用于法律合同。
# Intended use:
# - Primary: classify product reviews as positive/negative
# - Users: internal analytics team
# - Out of scope: medical or legal text模型卡片：性能
性能部分会报告各项指标，最好按子群体分别列出，并说明所使用的评估数据。分组指标可以揭示模型是否对所有人都有效，还是只对多数群体有效。
# Performance:
# - Overall accuracy: 0.91
# - By language: en 0.93, es 0.84
# - Eval set: 10k held-out reviews模型卡片：注意事项
注意事项和局限性部分会列出已知的失效模式、偏差以及模型性能会下降的条件，例如资源匮乏的语言或分布外输入。坦诚说明注意事项有助于建立信任并防止伤害。
负责任人工智能检查清单
团队会在发布前通过审查负责任人工智能检查清单来落实治理要求：
- 训练数据是否具有代表性，并且已获得必要同意？
- 我们是否衡量了各群体之间的公平性？
- 对于高风险决策，是否有人进行监督？
- 受影响的用户是否能够获得解释？
- 是否已发布模型卡片并制定监控计划？
快速检查
测试您的治理知识。
回顾
您学习了人工智能伦理与治理：
- 欧盟人工智能法案风险金字塔：不可接受（禁止）、高（严格）、有限（透明度）、最低（自由使用）
- 模型卡片记录预期用途、性能（分组统计）和注意事项
- 负责任人工智能检查清单将原则转化为上线前的检查关卡
常见问题解答
「人工智能伦理与治理框架」课时是免费的吗？
是的 — 「人工智能伦理与治理框架」的完整文本可在网页上免费阅读。要进行交互式练习（内置代码编辑器和全天候 AI 导师）并解锁 Learn AI with Python 课程的其余内容，请升级到 CoddyKit PRO。 Learn AI with Python 课程共包含 4 节课。
「人工智能伦理与治理框架」这节课中我会学到什么？
EU 人工智能法案概览、模型卡片、数据集说明书和负责任人工智能检查清单。 你通过在浏览器中直接运行的动手代码来练习 Learn AI with Python，全天候 AI 导师会在你学习这节课的过程中回答你的问题。
学习 Learn AI with Python 需要有经验吗？
无需任何先前经验。CoddyKit 上的 Learn AI with Python 课程适合初学者到高级学习者，你可以从这里开始或从头开始，按照自己的节奏学习。 这是第 4 节课，共 4 节。
「人工智能伦理与治理框架」课时需要多长时间？
大多数 CoddyKit 课程大约需要 5–10 分钟。每节课都很精短且互动，所以你能稳步进步，并在网页和应用中从离开的地方继续。
我能在这节 Learn AI with Python 课中编写并运行代码吗？
能。每节 Learn AI with Python 课都包含内置代码编辑器，你可以在浏览器中直接编写并运行真实代码，并获得即时 AI 反馈 — 无需本地设置。
此课程中的所有课时
- 检测机器学习模型中的偏见
- 用于模型可解释性的 SHAP 值
- LIME：局部可解释性说明
- 人工智能伦理与治理框架