AI 偏见与公平互动演示

实验目的

认识 AI 偏见的来源和影响，理解提升算法公平性的基本思路。

实验原理

机器学习模型从训练数据中归纳规律。如果数据中某些群体样本偏少，或带有历史上的不公平标注，模型就会学到这些模式，并在预测时延续甚至放大。偏见常见来源有数据偏差、标注偏差、特征选择和目标设定偏差。公平性可以通过比较各群体的通过率、准确率等指标来检查。

实验器材

• 演示用训练数据集
• 不同群体的样本分布图
• 模型预测结果
• 各群体通过率与准确率等公平性指标
• 调整数据或参数的操作控件

实验步骤

1. 先查看训练数据中各群体的样本数量和分布
2. 运行模型，记录各群体的预测结果
3. 对比不同群体的通过率、准确率等指标
4. 分析差异可能出自数据、标注还是目标设定
5. 调整数据或参数后再次运行，观察差异变化

实验现象与结论

当某类群体样本偏少或标注带有偏见时，模型对该群体的结果明显较差或不一致。补充均衡数据、检查特征、设定公平性指标后，差异通常会缩小。结论：AI 的偏见多数来自数据和设计，需要在开发和使用中持续检测与纠正。

常见问题

AI 为什么会有偏见？

主要因为训练数据不均衡或带有历史偏见、标注不一致，以及目标设定不合理，模型学到后会延续甚至放大。

怎样减少 AI 的偏见？

可以均衡和审查数据、选择合适的特征、用分群指标检测公平性、保留人工复核，并在上线后持续监测。