联系我们

伦理

国际科学家呼吁提高AI12博下载app的透明度

已发表

 on

来自玛格丽特公主癌症中心,多伦多大学,斯坦福大学,约翰·霍普金斯大学,哈佛大学公共卫生学院和麻省理工学院等各个机构的一组国际科学家呼吁在人工智能(AI)12博下载app中提高透明度。这项呼吁背后的主要力量是根据这项12博下载app释放重要的发现,这些发现可能有助于加速癌症的治疗。 

有关计算12博下载app人员之间透明度的问题,科学家呼吁科学期刊提高其标准的文章发表在 性质 2020年10月14日。该小组还主张其同事应在出版物中发布代码,模型和计算环境。 

该论文的标题为“人工智能的透明度和可重复性。” 

发布AI12博下载app详细信息

Benjamin Haibe-Kains博士是玛格丽特公主癌症中心的高级科学家,也是该出版物的第一作者。 

Haibe-Kains博士说:“科学进步取决于12博下载app人员审查12博下载app结果并复制主要发现以供学习的能力。” “但是在计算12博下载app中,要完全访问AI12博下载app的细节,还没有一个广泛的标准。这不利于我们的进步。” 

麦金尼(McKinney)等人发表了一项Google Health12博下载app后,人们开始担心。早在2020年的一本主要科学期刊上,就有人称AI系统在乳腺癌筛查方面的鲁棒性和速度优于人类放射科医生。该12博下载app在各种顶级出版物中引起了媒体的广泛关注。 

无法复制模型

12博下载app之后引起的主要担忧之一是,它没有彻底描述所使用的方法以及代码和模型。缺乏透明度意味着12博下载app人员无法学习该模型的运行方式,从而导致该模型无法被其他机构使用。 

“从理论上讲,麦金尼等人。12博下载app很美。”海贝·凯恩斯博士说。 “但是,如果我们不能从中学到东西,那么它几乎没有科学价值。”

Haibe-Kains博士被联合任命为多伦多大学医学生物物理学副教授。他还是Vector Vector Institute for AI的会员。 

“12博下载app人员更有动力发表自己的发现,而不是花费时间和资源来确保他们的12博下载app能够被复制,”Haibe-Kains博士继续。“期刊容易受到‘hype’的人工智能,可能会降低接受不合格论文的标准’包括使12博下载app可重复的所有材料—通常会违反自己的准则。”

这种环境意味着AI模型可能需要更长的时间才能达到临床设置,并且该模型无法被12博下载app人员复制或从中学习。 

12博下载app人员小组提出了各种框架和平台来纠正此问题,并允许共享方法。 

Haibe-Kains博士说:“我们对AI在癌症患者中的实用性寄予厚望。” “分享和建立我们的发现—这才是真正的科学影响。”

 

亚历克斯·麦克法兰(Alex McFarland)是一位历史学家和新闻工作者,报道了人工智能的最新发展。