联系我们

人工神经12博下载app

AI研究人员开发了一种计算置信区间的快速方法,可以报告何时应该模型’t Be Trusted

mm

已发表

 on

麻省理工学院的研究员 have recently 开发了一种技术 这使 深度学习 12博下载app模型以快速计算置信度,这可以帮助数据科学家和其他AI用户知道何时信任模型提供的预测。

基于的AI系统 人工神经12博下载app 这些天来,越来越多的决定负责,包括许多涉及人们健康和安全的决定。因此,神经12博下载app应该具有某种方法来估计其输出的可信度,从而使数据科学家能够判断其预测的可信度。最近,来自哈佛大学和麻省理工学院的一组研究人员设计了一种神经12博下载app的快速方法,可以在预测的同时生成模型的置信度指示。

在过去的十年中,深度学习模型变得越来越复杂,现在,它们在数据分类任务上可以轻松胜过人类。深度学习模型正在人们无法使用,驾驶自动驾驶汽车并通过扫描诊断医疗状况的领域中使用,可能会危及他们的健康和安全。在这些情况下,仅凭99%的模型准确度是不够的,只有1%的模型失败才有可能导致灾难。结果,需要有一种方法,数据科学家可以确定任何给定预测的可信度。

有几种方法可以与神经12博下载app的预测一起生成置信区间,但是估计神经12博下载app不确定性的传统方法相当慢并且计算量很大。神经12博下载app可能非常庞大和复杂,充满了数十亿个参数。仅生成预测可能在计算上很昂贵并且会花费大量时间,而生成预测的置信度则需要更长的时间。先前的大多数量化不确定性的方法都依赖于对12博下载app进行采样或反复运行以获得其置信度的估计值。对于需要高速流量的应用程序来说,这并不总是可行的。

据麻省理工学院新闻报道,亚历山大·阿米尼(Alexander Amini)领导了麻省理工学院和哈佛大学的联合研究人员小组,根据阿米尼(Amini)的说法,他们的研究人员开发的方法使用称为“深度证据回归”的技术来加速不确定性估计的生成过程。阿米尼(Amini)通过麻省理工学院(MIT)解释说,数据科学家既需要高速模型,又需要可靠的不确定性估计,以便可以辨别出不可靠的模型。为了既保持模型的速度又产生不确定性估计,研究人员设计了一种仅通过一次模型即可估计不确定性的方法。

研究人员以这样的方式设计神经12博下载app模型,即在每个决策旁边都会生成概率分布。12博下载app在训练过程中会保留其决策依据的证据,并根据证据生成概率分布。证据分布代表模型的置信度,代表模型的最终决定和原始输入数据的不确定性。为输入数据和决策捕获不确定性非常重要,因为减少不确定性取决于了解不确定性的来源。

研究人员通过将不确定性估算技术应用于 计算机视觉 任务。在对模型进行一系列图像训练后,它会生成预测和不确定性估计。对于错误的预测,12博下载app正确地预测了高度不确定性。 “它已针对12博下载app产生的错误进行了校准,我们认为这是判断新不确定性估算器质量的最重要的事情之一, ”阿米妮对模特说’s test results.

研究团队随后对其12博下载app架构进行了更多测试。为了对这项技术进行压力测试,他们还测试了“分布失调”数据上的数据,这些数据集是12博下载app从未见过的对象组成的。正如预期的那样,12博下载app报告了这些看不见的物体的不确定性更高。在室内环境中进行训练时,在室外环境中进行图像测试时,12博下载app显示出很高的不确定性。测试表明,该12博下载app可以突出显示其决策何时受到高度不确定性的影响,并且在某些高风险情况下不应被信任。

研究小组甚至报告说,该12博下载app可以识别图像被篡改的时间。当研究团队用对抗性噪声修改照片时,12博下载app会以高不确定性估算值标记新修改的图像,尽管这种效果太微妙,普通观察者无法看到。

如果该技术证明可靠,则深入的证据回归可以总体上提高AI模型的安全性。根据Amini的说法,在风险情况下使用AI模型时,深入的证据回归可以帮助人们做出谨慎的决定。 正如阿米尼(Amini)在麻省理工学院新闻中解释:

“We’重新开始看到更多的这些[神经12博下载app]模型从研究实验室流到现实世界,进入正在触碰人类并可能危及生命的后果的情况。该方法的任何用户,无论是否’医生或车辆乘客座位上的人员,需要意识到与该决定相关的任何风险或不确定性。”