通俗版
从历史数据里学规律,如果历史本身就不公平,它也会学去。比如过去某个岗位男性多,筛简历的 就可能给女性打低分。偏见往往藏在数据里,不仔细检查很难发现。
工程版
指系统输出对特定群体产生系统性不公平结果,来源包括数据的代表性不足或历史偏差、标注偏差、目标函数与评估指标的选择,以及部署场景的变化。常用缓解办法有数据审计、分群体评估、公平性约束和人工复核;不同公平性定义之间可能相互冲突,需要按场景权衡。
文言
算法偏见,AI 习于偏颇之数据,而待人不公者也。
举个例子
让画“一位医生”,结果几乎全是中年男性;画“一位护士”,几乎全是年轻女性——这就是从数据里学来的刻板印象。
容易搞混
算法偏见通常不是开发者故意的,但“不是故意的”不等于没有影响;它也不同于 胡编事实的。