定义

道德知识库（EKB）是一个结构化的数据存储库，其中包含指导方针、原则和记录的伦理约束，这些约束规范人工智能系统的开发、部署和运行。它超越了简单的数据存储，而是将道德和社会期望积极地编码到人工智能模型的运行逻辑中。

为什么它很重要

在普及人工智能的时代，不受约束的模型可能会延续或放大社会偏见，导致不公平的结果、声誉损害和监管风险。EKB充当了一个关键的保护屏障，确保人工智能的决策符合既定的人类价值观、法律要求和组织道德规范。

工作原理

EKB集成了多个组件。它们存储了记录的公平性指标、隐私政策（如遵守GDPR）、偏见检测规则和预先批准的决策路径。当人工智能系统查询EKB时，它接收到的不仅是事实数据，还有限制其可能输出的背景伦理参数。

常见用例

• 偏见审计： 自动标记违反预定义公平性阈值的训练数据或模型输出。
• 内容审核： 应用细致的伦理规则来过滤有害或歧视性的内容。
• 决策支持系统： 确保贷款批准或招聘建议符合反歧视法律。

主要优势

实施EKB可带来信任和合规性的可证明改进。它为伦理决策提供了可审计的记录，降低了代价高昂的监管罚款风险，并增强了公众对人工智能技术的接受度。

挑战

主要挑战包括定义普遍的伦理原则（因为伦理是依赖于上下文的）、将定性伦理规则集成到定量模型中的复杂性，以及随着社会规范的演变而维护EKB。

相关概念

该概念与人工智能治理、可解释人工智能（XAI）和数据溯源密切相关。虽然XAI关注决策的原因，但EKB决定了该决策在首先是否在伦理上是允许的。