联系我们

采访

Alyssa Simpson Rochwerger,Real World AI的合作社– Interview Series

mm

更新

 on

Alyssa Rochwerger是一名客户驱动的产品领导者,致力于建立解决真实人类难题的产品。她曾担任过众多产品领导力的角色机器学习组织。她曾担任图8(由Appen收购的产品的VP),AI和数据的VP申请,以及IBM Watson的产品主任。她最近离开了空间来追求她使用技术来改善医疗保健的梦想。目前,她担任加利福尼亚蓝盾的产品总监,在那里她幸福地被大量的数据包围,许多难题,而且只有机会积极影响。

我们讨论她的新书:AI的现实世界:负责机器学习的实用指南

在本书的介绍中,您将描述如何作为IBM产品经理您首次遇到AI系统的问题,当轮椅中的一个人的图片被算法作为“失败者”分类时,提供了偏见的信息。这是一个关于AI偏见的唤醒电话多少?

我不会称之为叫醒叫醒,就像我第一次建立一个基于机器的产品(我只是几个月的角色),但我尚未知道这项技术如何适当地努力放入卫兵并积极减轻不需要的偏见。这是一种眼部开放的经验,锐化了我对这个问题的关注–并让我敏锐地意识到前进。股权,访问和包含是我热情的主题–并且已经很久了–我甚至在大学获得了我对残疾学生的宣传奖。这次在IBM的经历帮助我从技术透视中了解了系统性社会偏差在基于机器学习的产品中,如果团队没有积极缓解,那么它是如何容易的。我很高兴在一个关心股权的机构上工作,并将资源付诸缓解。

你亲自学习了什么研究和写作这本书?

在个人纸条上–我不得不在切换工作时刻上写这本书,在导航科迪德时拥有一个1岁的人。我学会了如何雕刻出现这种优先事项,以及如何从家人那里寻求帮助,这为我提供了我的注意力。

专业–有这么多参与者真是太棒了,他们愿意和慷慨地与我们一起出版的故事。我经验中的机器学习专业人员是一个令人难以置信的周到和慷慨的一群人–愿意帮助别人并分享错误和经验教训。不幸的是,许多这些课程遗嘱故事未包括本书,或者必须明显地匿名,因为令人担忧的是,如果在错误的光线中可以让公司或个人看起来很糟糕的信息。虽然这肯定是课程的标准,但个人我觉得它太糟糕了–如果他们对别人有所帮助,我就是学习和生长的大信徒。

你希望人们读到这一点的一些最重要的教训是什么?

我希望人们能够了解机器学习并不是超级可怕或难以理解。这是一个强大而有时的脆弱技术,需要指导和结构,以取得艰难的问题。这也对这项技术的负责任的道德使用对成熟和成功至关重要–并且重点关注早期减轻有害偏见是商业成功的关键。

本书中描述的AI性别偏见的一个例子是苹果信用卡向女性发布了较低的贷方,而不是男性。这是如何省略性别作为选项的一个例子,未能考虑可以作为性别代理的其他变量。该示例展示了没有“性别”的输入,不可能弄清楚结果直至释放最终产品后偏置。什么是您相信的某些类型的数据输入,不应省略以避免对性别或少数群体的偏见?

没有艰难和快速的规则–每个数据集,用例和情况都不同。我会鼓励从业者进入细节和细微差别的问题,解决机器学习算法正在应用于解决的问题–和有害的偏见可以编码到该决定中。

本书描述了与AI团队通信时的主要责任是精确定义对业务重要的结果。在您看来,企业在这项任务中经常失败?

我会在我的经验中说,大多数时候,结果都没有定义或仅在宽松或高水平上定义。详细了解有关特定结果的细节是提前设置团队成功的简单方法。

这本书谈到了意识到AI系统不是“设置它并忘记它”的系统类型的重要性。你能简要讨论这个吗?

这是大多数公司在推出新的ML系统时制作的经典错误。现实变化 –时间通过,昨天真的是真的(训练数据)明天可能不是真的。这取决于你的情况,但在大多数情况下,能够基于更新的信息来学习和调整并做出更好的决定是重要的。

基于机器学习的产品基本上是决策者。将此等同于人类示例–这就像一场高赌注足球比赛的裁判。很多时候,如果这是一个训练有素的裁判经验,裁判会做出良好的决定,比赛继续–但有时,裁判要么糟糕的话–或者不确定是什么打电话–并需要回去查看视频–询问其他一些人以做出特定的戏剧决定。相似地–ML产品需要反馈,培训,有时并不自信。他们需要有备份选项来回去以及新信息,以便随着时间的推移越来越好。一个好的裁判将会多余的时间,并更好地判断。

您能否谈谈创建一个跨职能团队的重要性,这些团队可以通过使用AI来确定最好的问题是什么?

机器学习技术通常适用于非常难以与其他方法解决的特定问题。任何难题–它需要一个团队成功。当公司对AI新的时候–通常存在一个虚假的叙述,即孤独的机器学习科学家,甚至机器学习团队可以自己解决问题。我从未发现这是真的。它需要一个不同的背景和解决困难问题的方法–并且肯定会成功部署机器学习技术。

谢谢你的伟大采访,为读者(尤其是商业管理人员)有兴趣学习更多,我建议他们读完这本书AI的现实世界:负责机器学习的实用指南.

antoine tardif是一个未来谁对AI和机器人的未来充满热情。他是首席执行官blockventures.com.,并投资于超过50个AI和区块链项目。他是联合创始人证券.IO.专注于数字资产,数字证券和投资的新闻网站。他是Unite.ai和A成员的创始合作伙伴福布斯技术委员会。