联系我们

论文探讨了如何降低在医学上使用人工智能的风险

mm

更新

 on

人工智能程序能够以多种不同方式改善医疗保健。例如,AI应用程序可以使用 计算机视觉 帮助医生根据X射线和FMRI诊断疾病。 机器学习 通过从人类可能无法在医学数据中找到的数据中提取微妙的模式,算法还可用于帮助降低假阳性率。但是,伴随着可能性而来的是新的挑战,最近在《科学》杂志上发表了一篇新文章, 检查了可能的风险和监管策略 用于医学机器学习技术,以最大程度地减少在医学环境中使用AI可能产生的负面影响。

扩大AI在医疗保健领域的应用

人工智能正在其在医疗领域的应用迅速扩展。由AI推动的医疗领域的最新发展包括创建一家新制药公司,该公司旨在使用AI来开发新药物,创建AI驱动的远程健康传感器以及分析CT扫描和X射线的计算机视觉应用程序-射线。

更准确地说,Genesis Therapeutics是一家初创公司,旨在使用AI来加快药物发现过程,希望开发出可以减轻衰弱性疾病严重程度的药物。 Genesis Therapeutics只是使用AI的近170家不同公司之一 研究新药配方。 同时,在健康监控设备方面,iRhythm和法国AI初创公司Cardiologs正在利用AI算法来分析EEG数据并 监控健康 患有心脏病的人中有发生并发症的风险。该公司设计的软件可以检测到心脏杂音,这是由湍流引起的。

最后,最近一项研究如何将计算机视觉应用于医学图像的研究发现,计算机视觉系统 表现至少好或更好 在检查CT扫描以发现小出血时,比专业放射线医师要多得多。在研究CT扫描仅一秒钟之后,该研究中使用的算法便能够做出预测。计算机视觉系统还能够定位大脑内的出血。

因此,尽管在医疗保健中使用AI的潜在好处是显而易见的,但在医疗保健领域采用AI的副作用却是会出现哪些新的挑战和风险,这一点尚不清楚。

调节领域

正如TechXplore报道的那样,为了评估在医疗保健中使用AI的潜在弊端,一组研究最近在《科学》杂志上发表了一篇论文,旨在得出预测AI潜在问题的答案,并探索针对这些问题的潜在解决方案。 可能出现的问题 在医疗保健领域使用AI所产生的后果包括对治疗的不当建议,从而导致伤害,隐私问题和算法偏见/不平等。

FDA仅批准了使用“锁定算法”的医疗AI,该算法在每次运行时都能可靠地产生相同的结果。但是,人工智能的大部分潜力在于其学习和响应新型输入的能力。为了使“自适应算法”能够更多地使用并获得FDA的批准,本文的作者深入研究了如何减轻与更新算法有关的风险。

作者主张,机器学习工程师和研究人员应专注于在部署的整个生命周期中对模型进行连续监视。建议使用的监视AI系统的工具包括AI本身,它可以帮助自动提供有关AI行为的报告。多个AI设备也可能互相监视。

“为了管理风险,监管机构应特别关注持续监控和风险评估,而不是计划将来的算法更改, ” s帮助论文的作者。

该论文的作者还建议监管机构应着重开发识别,监控,评估和管理风险的新方法。本文运用了FDA用来规范其他形式医疗技术的许多技术。

正如该论文的作者所解释的:

“我们的目标是强调医疗AI / ML系统如何做出反应或适应其环境的意外变化可能带来的风险。细微的,通常无法识别的参数更新或新型数据可能会导致巨大且代价高昂的错误。”