计算机研究与发展

作者：范卓娅,孟小峰,

关键词：算法公平, 公平计算, 社会偏见, 数据偏见, 模型偏见,

算法公平问题由来已久，且随着社会变革历程不断花样翻新.随着数字化转型的加速推进，算法公平问题的根源逐渐由社会偏见转向数据偏见与模型偏见，算法给人带来的剥削变得更为隐蔽，而影响更为深远.尽管社会科学各领域对公平问题研究已久，但大部分仅停留在定性的表述上.作为计算机科学与社会科学的交叉问题，数字化转型下的算法公平不仅要继承社会科学各领域的基本理论，更要具备公平计算的方法与能力.由此，从算法公平的内涵出发，从社会偏见、数据偏见与模型偏见3个维度总结现有的算法公平计算方法，最后对算法公平指标和公平方法进行实验对比，进而分析算法公平计算面临的挑战.实验表明，原始模型的公平性与准确性之间存在权衡关系，公平方法的公平性与准确性之间存在一致关系.在公平指标上，不同公平指标之间的相关性差异较大，这说明了多样的公平指标的重要性.在公平方法上，单一的公平方法效果有限，这说明了探索公平方法组合的重要性.

来源：2023年第9期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2023年第9期