联系我们

思想领袖

介绍了AI的新透明度– Thought Leaders

mm

更新

 on

由Balakrishna D R,高级副总裁,服务头部 - 能源,通讯,服务和AI和自动化服务, Infosys。

2020年1月9日,世界卫生组织向公众通知了中国冠心病疫情。前三天,美国疾病控制和预防中心已经出局了。但这是一个加拿大健康监测平台,他们都击败了它们,早于2019年12月31日早期向客户发送爆发的话!该平台,Bluedot采用人工智能驱动的算法,彻底防止外语新闻报道,动物和植物疾病网络,以及官方宣言,使其客户推进警告,以避免武汉这样的危险区域。

在过去的几年里,人工智能已成为当今快速变化经济的转型,中断和竞争优势的关键来源。从疫情跟踪到国防到医疗保健,以及之间的一切,AI都获得了广泛的采用。普华永道预测,在2030年,AI可以为全球经济贡献高达15.7万亿美元,目前的增长率。

然而,对于所有希望AI带来,它仍然弥补了透明度和可信度的未解答的问题。需要了解,预测和信任AI系统的决策能力,特别是在对生命,死亡和个人健康至关重要的领域。

 

进入未知数

当首先引入自动推理系统以支持决策时,他们依赖于手工制作的规则。虽然这使得易于解释并修改其行为,但它们并不可扩展。机器学习基于模型的模型来解决后一种需要;他们不需要人为干预,可以从数据训练 - 越多越好。尽管深度学习模型在其建模容量和适用范围内无与伦比,这些模型在大多数情况下都是黑匣子的事实,提出了对他们广泛使用情况的令人信服,可信度和偏见的令人不安的问题。

目前没有直接机制来追踪深度学习模型隐含地使用的推理。利用具有黑盒子性质的机器学习模型,主要的可解释性被称为HOC解释性,这意味着解释源自模型产生的输出的性质和性质。目前尚未追求从神经网络提取来自神经网络的规则(作为深度学习),因为网络已经变得过大而多样化,因为对于易行规则提取。因此,迫切需要将可解释性和透明性引入AI建模的非常织物。

 

夜晚,进入光线

这种担忧创造了对机器学习透明度的需求,这导致了可解释的AI或Xai的增长。它旨在解决阻碍我们完全信任AI决策的能力的主要问题 - 包括偏见和透明度。这种新的AI领域带来了责任,以确保AI享受社会,并为所有参与者提供更好的结果。

Xai. 对帮助AI系统和算法固有的偏差是至关重要的,这些偏差由其背景和经验无意地导致展示偏差的AI系统的开发的人们编程。不需要的偏见,例如对特定国籍或种族的歧视可能会蠕变,因为系统基于真实数据对其添加价值。为了说明,可能会发现典型的贷款违规者来自特定的种族背景,然而,基于这可能是针对公平实践的任何限制性政策。错误的数据是另一个偏见的原因。示例,如果特定的面部识别扫描仪因人的繁重或脸部落在脸上的肤色而不准确的时间,则可以引入偏差。最后,如果您的样本数据不是整个人口的真实表示,则偏见是不可避免的。

Xai. 旨在解决AI系统的黑匣子决策如何到达。它检查并试图了解做出决策所涉及的步骤和模型。它回答了重要的问题,如:为什么AI系统做出特定的预测或决定?为什么AI系统没有做别的? AI系统何时成功或失败? AI系统何时对您可以信任的决定提供足够的信心,以及AI系统如何正确错误?

 

可解释,可预测和可追溯的ai

在AI系统中获得解释性的一种方法是使用本质上可解释的机器学习算法。例如,更简单的机器学习形式,例如决策树,贝叶斯分类器和其他在决策中具有一定的可追溯性和透明度的其他算法。它们可以提供关键AI系统所需的可见性,而不会牺牲过多的性能或准确性。

注意到需要解释深度学习和其他更复杂的算法方法,美国国防高级研究项目局(DARPA)正在追求努力通过许多资助的研究举措产生可解释的AI解决方案。 DARPA描述了三个部分的可解释性,包括:预测准确性,这意味着模特将解释如何达成结论,以改善未来的决策;决定理解 和信任来自人类用户和运营商,以及检验和行动的可追溯性由AI系统进行。

可追溯性将使人类能够进入AI决策循环,并在需要时,能够停止或控制其任务。 AI系统不仅预计执行某项任务或施加决策,还提供了透明报告,为什么与支持理由采取具体决策。

目前可能无法标准化算法甚至XAI方法,但肯定可能可以标准化透明度/可解释性水平的水平。标准组织正在努力实现这些透明度水平的共同,标准谅解,以促进最终用户和技术供应商之间的沟通。

随着各国政府,机构,企业和公众来依靠基于AI的系统,通过更清晰的决策过程透明度赢得他们的信任将是基本的。推出专门致力于Xai的第一个全球会议,国际人工智能联席会议:关于可解释的人工智能的研讨会,进一步证明Xai的年龄来了。

Balakrishna博士,普遍称为巴厘岛,是一位高级副总裁兼能源,通讯,服务(ECS)业务部门 Infosys。 迎合能源,公用事业,电信,媒体,娱乐和服务行业。

他还负责AI和自动化单位,负责推动Infosys的内部自动化,并提供独立的自动化服务,利用市场领先产品。

巴厘岛已经拥有25年以上的Infosys,并在不同的地理位置和行业垂直方面发挥了销售,方案管理和交付作用。 巴厘岛有矛头,创造垂直实践,行业咨询组和解决方案,为客户提供差异化​​的增值服务。

在他以前的角色中,他已经领导了ECS的ADM,SAP和测试服务线,也是班加罗尔开发中心的主管,并在加拿大的第一个全球发展中心进行Infosys。他为各种财富500个客户提供了几个大型课程。巴厘岛参加并在多个行业论坛上发言。