偏差（Bias）
理解 AI 偏差从哪里来，它和幻觉、对齐、公平性有什么区别，以及为什么治理偏差不能只靠“去掉敏感词”。
偏差（Bias）
偏差，指的是 AI 系统在数据、模型、目标或使用流程中形成的系统性倾向：它会让某些群体、输入、判断方式或结果持续更有利，另一些持续更不利。
[!info] 一句话先记住：AI 偏差不是“说了冒犯的话”这么窄，而是系统在真实场景里长期、稳定地把结果推向某个方向。
先记住这 3 点
- 偏差可能来自数据，也可能来自目标、评估和产品流程。
- 偏差不一定是有意歧视；无意的样本缺口、历史数据和指标设计也会造成伤害。
- 治理偏差不能只看平均准确率，要看不同群体、场景和失败后果。
给普通人的解释
想象一个招聘系统学习过去十年的录用记录。表面上，它只是在找“历史上更可能被录用的人”。但如果过去的记录本来就对某些学校、地区、性别或职业路径不公平，模型就可能把这种历史倾向学下来。
这时问题不一定是模型“讨厌谁”。更常见的情况是：
- 训练数据没有充分代表某些人群；
- 标签继承了过去决策里的偏见；
- 目标函数只奖励效率，不惩罚不公平后果；
- 评估只看总体准确率，没看分群表现；
- 产品上线后缺少申诉、复核和持续监测。
所以 AI 偏差更像一条链：数据怎么来、目标怎么设、评估怎么看、系统怎么用，都会影响最后的结果。
偏差通常从哪里来
1. 数据偏差
数据没有覆盖真实世界，或某些群体在数据里被过度代表、代表不足、错误标注。
比如语音识别系统如果主要用某些口音训练，就可能对其他口音更容易识别错误。
2. 历史偏差
数据准确记录了过去，但过去本身并不公平。
这类偏差最麻烦：数据可能“真实”，却不代表应该被复制。招聘、信贷、教育推荐、司法辅助决策里都要特别小心。
3. 目标偏差
系统优化的指标不完整。
如果只追求点击率，推荐系统可能放大极端内容；如果只追求处理速度，客服系统可能牺牲少数复杂用户的体验。
4. 评估偏差
测试方式看起来通过了，但没有覆盖关键失败场景。
一个模型总体准确率很高，不代表它对每类人、每种语言、每个地区、每种输入质量都可靠。
5. 部署偏差
同一个模型放进不同流程，影响会完全不同。
模型只是给建议，和模型直接决定贷款、录用、医疗分诊，风险等级不一样。有没有人工复核、告知、申诉、日志和监测，也会改变偏差造成的实际后果。
它和相近概念有什么区别
偏差 vs 幻觉（Hallucination）
幻觉 是模型生成了不被证据支持的内容；偏差是系统性倾向。一个回答可以没有编造事实，但仍然对某类人或某种观点持续不公平。
偏差 vs 对齐（Alignment）
对齐 关注系统目标和人类意图是否一致；偏差关注结果是否因数据、设计或流程而系统性倾斜。偏差可能是不对齐的一种表现，但两者不是同义词。
偏差 vs 训练数据问题
训练数据 是偏差的重要来源，但不是唯一来源。目标函数、评估集、产品界面、权限和复核流程同样会制造或放大偏差。
偏差 vs 可解释性（XAI）
可解释性帮助人检查“为什么会这样判断”，但解释本身不会自动消除偏差。一个系统可以给出看似合理的解释，却仍然在统计上持续伤害某些群体。
事实、争议和边界
比较稳的事实
NIST 等机构已经把偏差视为 AI 风险管理的重要组成部分，并强调它可能出现在 AI 生命周期的多个阶段，而不只是模型训练阶段。
仍有争议的地方
“公平”不是只有一个数学定义。不同公平指标可能互相冲突：例如追求不同群体的错误率一致，可能和追求总体准确率最大化发生冲突。具体场景里该采用哪种定义，需要法律、伦理、业务和受影响群体一起判断。
不能写成定论的地方
不要把某个厂商声称的“无偏模型”当成事实。偏差通常只能被识别、缓解、监测和治理，很难被一次性永久清除。
常见误解
误解 1：偏差就是输出里出现歧视性词语
不够。冒犯性输出只是显眼的一种表现。更隐蔽的偏差，是系统长期对某些人给出更差机会、更高误判率或更少解释。
误解 2：数据越多，偏差越少
不一定。更多数据可能只是更大规模地复制现实中的不平衡。如果数据来源、标注方式和使用场景没有被检查，规模反而会放大问题。
误解 3：把敏感字段删掉就没偏差了
也不一定。地区、学校、消费记录、语言习惯等变量可能间接代理敏感属性。真正的检查要看输出影响，而不是只看输入字段有没有“敏感词”。
为什么普通读者需要知道它
因为 AI 越来越多地参与推荐、筛选、排序、审核和辅助决策。你不需要会训练模型，也应该能问出几个关键问题：
- 这个系统用什么数据训练和评估？
- 它有没有按人群、地区、语言、场景检查失败率？
- 结果会直接影响人的机会、权益或安全，还是只作为参考？
- 用户能否知道、质疑、申诉或要求人工复核？
能问出这些问题，就已经比只看“准确率 95%”更接近真实风险。
延伸阅读
参考来源
- NIST SP 1270, Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
- NIST, AI Risk Management Framework
- ISO/IEC TR 24027:2021, Bias in AI systems and AI aided decision making
最后审核时间：2026-05-07