联系我们

思想领袖

可解释性:保险和银行业人工智能的下一个前沿

mm

已发表

 on

分析研究科学家Ori Katz博士 厄尼克斯 .

科幻小说家亚瑟·克拉克(Arthur C. Clarke)指出:“任何足够先进的技术都无法与魔法区分开。”确实,有时会有先进的技术,例如新的 机器学习 算法,就像魔术。机器学习的不断发展的应用程序,包括图像分类,语音识别及其在保险业和银行业的使用,似乎具有超凡脱俗的特性。

许多公司都对改变传统的分析12博下载app保持警惕,这是正确的。魔术是危险的,尤其是如果对魔术的了解不够深的话。神经网络和树集成算法是“黑匣子”,其内部结构可能极其复杂。同时,几项研究[1]显示了神经网络和基于树的算法如何能胜过由经验丰富的精算师构建的最精心调整的传统保险风险12博下载app。这是由于新算法能够自动识别数据中的隐藏结构。神经网络和基于树的算法的神秘性和实用性并列在一起。在分析12博下载app的准确性与其“可解释性”水平之间存在固有的权衡。如果我们无法理解12博下载app如何得出结论,我们如何信任12博下载app?我们是否应该屈服于魔术,牺牲我们的信任并控制我们无法完全理解的准确性?

经理和分析师并不是唯一关心这种权衡的人。在过去的几年中,监管机构已开始探索魔术的阴暗面,以增强其监控这些行业的能力。银行和保险业在许多方面受到严格监管,当前的监管趋势包括仔细研究用于进行预测的12博下载app。例如,《欧洲通用数据保护条例》(GDPR)的第71号指令规定,客户应有权在做出单个自动化决策后获得解释。自制定以来,该法规的这一要素一直是引起高度争议的学术辩论的中心。

解释“黑匣子”分析12博下载app的迫切需求导致了一个新的研究领域的出现:可解释的人工智能。专家们正在开发工具,使我们能够窥探黑匣子并至少释放出一些魔力。研究人员创建了两种类型的工具:“全局可解释性”工具和“本地可解释性”工具,“全局可解释性”工具可以帮助我们理解驱动整体12博下载app预测的关键特征,而“本地可解释性”工具则用于解释特定的预测。

下图是局部可解释性的示例。它基于诺贝尔奖获得者经济学家劳埃德·沙普利(Lloyd Shapley)的想法,后者开发了一种博弈论方法来计算在同一任务中合作的多个参与者的贡献。在可解释人工智能中,“参与者”是12博下载app的特征,而“任务”是12博下载app的预测。描述每个功能的贡献的数字称为“ Shapley值”。研究人员最近开发了快速估计Shapley值的方法[2],使我们能够在不同特征之间公平地分配预测。

使用Shapley值解释特定客户的预期续订需求

该图基于模拟数据,显示了需求12博下载app的结果,该12博下载app预测了汽车保险单更新的可能性。这是针对特定客户的本地说明。需求12博下载app基于决策树的复杂集合,但是该图显示了每个特征对最终预测的独立贡献。在此示例中,12博下载app预测数据中的平均个人将以0.64的概率续订该策略。但是,对于此特定客户,预测概率要高得多,为0.72。该图可让您查看造成这种差异的原因。

尽管我们不能完全理解此复杂12博下载app的内部结构,但“谢普利值”使我们能够了解特定预测的最重要特征,从而阐明了魔术的一部分。通过对总体上的各个Shapley值进行平均,我们可以查看哪些特征最重要,并获得12博下载app的全局可解释性。其他流行的可解释性工具包括“置换特征重要性”,本地拟合的简单替代12博下载app以及反事实示例,仅举几例[3]。

新的可解释性工具是机器学习发展中必不可少的下一步。它们可以使保险公司和银行了解并信任他们的机器学习12博下载app,遵守新法规,并为客户提供有价值的信息。现在,我们可以部分地克服准确性和可解释性之间的折衷,并享受新机器学习12博下载app的优势,而不必担心它们的黑盒性质。

在我们快速数字化的世界中,完全由分析驱动的是保险公司和银行的基准生存标准。这种能力一直很重要,但是随着2020年给我们带来的动荡的市场条件变得至关重要。保险公司和银行需要更智能的分析来为复杂的新现实建模,以便他们可以根据其业务决策并更快更好地为客户提供服务。可解释性工具可以使保险公司和银行实现这一目标。随着时间的流逝,我们将到达不再认为机器学习12博下载app神奇的地步,而是将其视为任何数据驱动型业务的核心工具中的必不可少的工具。

资料来源:

[1]Bärtl,M.,&Krummaker,S.(2020年)。出口信贷融资中的索赔预测:四种机器学习技术的比较。风险,8(1),22。

诺尔(A.),萨尔兹曼(R.)&Wuthrich,M.V.(2020)。案例研究:法国汽车第三方责任索赔。可在SSRN 3164764获得。

福桑(M.A.)&Murfi,H.(2018年)。 XGBoost用于保险索赔预测的准确性。诠释J.高级软计算。 Appl,10(2)。

Weerasinghe,K.P.M.L.P.,&Wijegunasekara,M.C.(2016)。数据挖掘算法在汽车保险索赔预测中的比较研究。欧洲国际科学技术杂志,5(1),47-54。

[2] Lundberg,S. M.,&Lee,S.I.(2017年)。解释12博下载app预测的统一方法。在  神经信息处理系统的进展 (pp. 4765-4774).

[3]有关更多详细信息,请参见此处: //christophm.github.io/interpretable-ml-book/index.html

Ori Katz是以下机构的分析研究科学家 厄尼克斯 ,这是一家为保险公司和银行提供高级评级,定价和产品个性化解决方案的全球提供商。 Katz博士对数据科学和机器学习的发展前沿及其在保险和金融领域的应用进行研究,以便为Earnix产品开发未来的方向。他拥有博士学位。经济学硕士,经济学硕士和理学学士学位特拉维夫大学工业工程专业。加入Earnix之前,Ori在特拉维夫大学和布朗大学教授经济学,并在多家研究机构工作。他在经验研究方面拥有10多年的经验。