联系我们

卫生保健

如果训练有素,该算法可以解决医疗保健中的种族偏见

mm

更新

 on

斯坦福大学,哈佛大学和芝加哥大学的一组研究人员训练了算法 在膝盖X线检查中诊断关节炎。 事实证明,当将患者的报告用作该算法的训练数据时,在分析黑人患者的记录时,该算法比放射科医生更准确。

算法偏见问题

指某东西的用途 机器学习 医疗领域中的算法可以潜在地改善患有各种疾病的患者的预后,但是使用AI算法来诊断患者也存在有据可查的问题。对已部署的AI模型的影响进行的研究发现,许多重大事件涉及算法偏差。这些 包含算法 即使所有报告的症状都是相同的,这也使得少数族裔向心脏病科转诊的人数少于白人患者。

的作者之一 研究加州大学伯克利分校公共卫生学院的Ziad Obermeyer教授决定采用AI来调查放射科医生诊断X射线与患者报告的疼痛程度之间的差异。尽管黑人患者和低收入患者的疼痛程度较高,但他们的X射线解释得分与普通人群相同。关于报告的疼痛程度的数据来自NIH,研究人员希望调查人类医生在数据分析中是否遗漏了任何东西。

据《连线》报道,为了确定这些差异的潜在原因,Obermeyer和其他研究人员设计了一种 计算机视觉 根据美国国立卫生研究院的数据训练模型。该算法旨在分析X射线并根据图像预测患者的疼痛程度。该软件设法在图像中找到与患者的疼痛程度高度相关的模式。

当算法中出现看不见的图像时,模型将返回对患者报告的疼痛程度的预测。该模型返回的预测与放射线医生分配的评分相比,与患者实际报告的疼痛水平更接近。对于黑人患者尤其如此。 Obermeyer通过Wired解释说,计算机视觉算法能够检测出与黑人患者更常见的疼痛相关的现象。

正确的培训系统

据报道,用于评估X射线的标准最初是根据1957年在英格兰北部进行的一项小型研究的结果制定的。用于制定骨关节炎评估标准的初始人群与现代联合国的多种人群截然不同。状态,因此在诊断这些不同的人时会犯错误也就不足为奇了。

这项新研究表明,如果正确训练了AI算法,它们可以减少偏差。培训基于患者自身的反馈而不是专家的意见。奥伯梅耶和同事 先前证明 普遍使用的AI算法优先于白人患者而不是黑人患者,但是Obermeyer还表明,根据正确的数据训练机器学习系统可以帮助防止偏见。

许多机器学习研究人员都熟悉该研究,这是值得注意的警告。研究团队开发的AI模型是一个黑匣子,研究人员本身不确定该算法在X射线中检测出哪些特征,这意味着他们无法告诉医生他们缺少哪些特征。 。

其他放射科医生和研究人员的目标是深入研究黑匣子并发现其中的图案,希望能帮助医生了解他们所缺少的东西。埃默里大学放射学家兼教授朱迪·吉乔亚(Judy Gichoya)正在收集更多套更广泛,种类更多的X射线来训练AI模型。 Gichoya将让放射科医生对这些X射线进行详细记录。这些注释将与模型的输出进行比较,以查看是否可以发现算法检测到的模式。

专门从事以下工作的Blogger和程序员 机器学习 深度学习 话题。 Daniel希望帮助他人将AI的力量用于社会公益。