联系我们

思想领袖

公司如何创建负责任和透明的AI– Thought Leaders

mm

已发表

 on

通过 埃里克·帕特诺斯特(Eric Paternoster),Infosys公共服务首席执行官

Google母公司Alphabet的首席执行官Sundar Pichai将AI的发展描述为“比火或电更深刻”,而COVID-19为释放该技术的前景带来了新的紧迫性。现在,AI的应用已成为人们关注的焦点,它改进了COVID的处理方式,跟踪了潜在的COVID载体,并为零售网站的供不应求的用户部署了实时聊天机器人。这些应用表明,人工智能可以提高企业的弹性并造福整个社会。

因此,与“云原生”一起,最后一个季度的流行语可能只是“人工智能优先转型”,行业从业者认为,即使在COVID消失之后,这一术语也将适用。对于许多公司而言,降低成本(即使供应与需求匹配的供应链算法)和令人钦佩的生产率提高(即当银行实时使用文件和身份验证时)的承诺实在令人难以置信。

为什么要进行人工智能优先转型?

在以人工智能为先的转型中,企业将人工智能作为北极星,不仅要智能地使用它,而且还要以某种方式影响大规模由人员,流程和系统做出的决策。它可以使组织适应员工,合作伙伴和客户之间不断变化的动态。这使他们能够快速发展并满足不断变化的需求,同时创造长期的竞争优势。

但并非所有公司都处于相同的AI成熟度水平。有一些可以称为“常规AI组”或H1。这些经验和投资较少的公司通常使用经典算法,例如已有250年历史的朴素贝叶斯算法或随机森林(由田锦镐在1995年开发)来增强现有系统中的分散情报。 AI的这种使用严格地基于规则,并且非常僵化,缺乏从发现的规则中进行概括的能力。然后是“深度学习 组”或H2。这些公司采用更复杂的AI(包括神经机器翻译和基于转录的系统)来挖掘对话见解。这样的系统具有更大的功能,但并不能轻易解释为什么要这样做。他们也缺乏透明度。对于这两个群体,使用的AI通常不可靠或不可靠,并且会做出有偏见的决策,从而引起政府机构,监管机构和公众的强烈关注。

这些公司需要立即采取行动,将其AI实施进一步发展-进入AI自学和产生的第三阵营(H3)。在这一点上,人工智能系统是半监督的,甚至是无监督的。它们是透明的,并通过多任务学习实现“常识”。这些系统可提供更丰富的情报,并提供实时,可操作的见解。这是通过在各个阶段都可以解释和解释的,管理完善,受监管的AI来完成的。

如何努力实现更负责任的透明AI

越来越多地使用AI来管理学校,工作空间和其他公共实体。在这些情况下,AI的公平和透明比以往任何时候都更为重要。但是,随着社会在AI爆炸式增长中开展工作,监管机构在AI技术的适当开发和部署方面提供的指导有限。因此,公司有责任带头。范围更广的科技行业必须发挥财力和人力资本的作用,将零散的AI的初始实现转变为高效,创新,负责任和透明的情报驱动型生态系统。为了进入这个领域,公司应该做以下四件事:

  • 让人类处于循环中:AI模型通常设计为独立于人类操作。但是,在许多情况下,人为因素至关重要。人类需要重新审视决策,避免偏见和错误,而这些偏见和错误常常会干扰AI项目。两个用例包括欺诈检测和涉及执法的案例。我们建议公司随着时间的推移缓慢而持续地聘请AI从业者,以立足于他们的AI至上之旅。
  • 消除有偏见的数据集:无偏数据集是建立可靠,公平和非歧视性AI模型的关键先决条件。为了了解其重要性,人工智能被银行用于筛选简历和信用评分,甚至进入了某些司法系统。在这种情况下,无法制止的偏见产生了非常实际的影响。
  • 确保决策是可以解释的:此功能已为许多大型新闻媒体所采用,这是正确的。 XAI帮助解释了为什么AI系统做出特定决定。它揭示了深度学习模型的哪些功能比其他功能更多地用于预测或假设。理解功能的重要性并能够证明如何做出决策对于使用案例(例如自动驾驶汽车和 计算机视觉 用于医学活检。
  • 可靠地再现发现:在研究项目中普遍需要的是,AI模型在给出长期预测时应该保持一致。此类模型在提供新数据时不应分阶段进行。

这四件事将创建透明的,由情报驱动的生态系统,朝着我们所谓的“活着的企业”迈进。在这里,无偏见的,可解释的决定是实时做出的,整个企业都是受人统治的有感觉的有机体。阅读 信息系统知识研究所白皮书 to find out more.

埃里克·帕特诺斯特(Eric Paternoster)是该公司的首席执行官 信息系统公共服务 Infosys 子公司专注于美国和加拿大的公共部门。在此职位上,他监督公司战略和执行以实现可盈利的增长,并就战略,技术和运营向公共部门组织提供建议。他还担任Infosys公共服务委员会和Infosys BPM的McCamish子公司的职务。

埃里克(Eric)在多家公司的公共部门,医疗保健,咨询和商业技术领域拥有30多年的经验。在担任现职之前,他是高级副总裁兼保险,医疗保健和生命科学业务部门负责人,在那里,他的业务从9000万美元增长到了超过7亿美元,在美洲,欧洲和亚洲拥有60多个客户。 Eric于2002年加入Infosys,担任美国东部和加拿大业务咨询主管。