Fairlogue：面向临床AI模型的交叉公平性工具包，检测隐藏偏见

大多数AI公平性工具比较单一人口群体，遗漏影响交叉群体的复合差异。Fairlogue是解决这一临床机器学习空白的新工具包。

问题

传统公平性分析一次检查一个属性——例如分别按种族或性别比较结果。这遗漏了关键的交叉效应：模型可能在种族和性别上看起来都公平，但可能严重不利于特定的种族-性别组合。

Fairlogue的三个组件

临床评估

在All of Us数据集上测试：

• 任务 — 青光眼手术预测
• 受保护属性 — 种族和性别
• 发现 — 识别出单轴分析完全遗漏的显著交叉差异

为什么重要

医疗AI模型做出关乎生命的决策。如果这些模型在多种人口因素交叉处存在隐藏偏见，某些患者群体可能系统性地接受更差的治疗。