联系我们

伦理

AI事件数据库旨在提高AI算法的安全性

mm

更新

 on

任何足够大的系统都会有错误,而纠正这些错误的一部分就是拥有一个可以分析影响和潜在原因的数据库。就像FDA维护药品不良反应数据库,或者美国国家运输安全委员会维护航空事故数据库一样, AI事件数据库 是一个数据库 旨在对AI系统的故障进行分类 并帮助AI研究人员设计出避免这些故障的新方法。 AI事件数据库(AIID)的创建者希望,它将帮助AI公司开发更安全,更道德的AI。

什么是AIID?

美国国际开发署是AI合作组织(PAI)组织的产品。 PAI最初由Facebook,Apple,Amazon,Google,IBM和Microsoft等大型科技公司的AI研究团队的成员于2016年成立。自那时以来,该组织已从更多组织(包括各种非营利组织)招募成员。在2018年,PAI开始为AI故障创建一致的分类标准。但是,没有任何AI事件可作为该分类的基础。因此,PAI创建了AIID。

根据TechTalks,AIID的格式是由国家运输安全委员会维护的航空事故数据库的结构告知的。自1996年开始收集报告以来,商业航空旅行系统已通过对事件进行存档和分析来设法提高航空业的安全性。希望类似的AI事件库可以使AI系统更安全,更合乎道德且更可靠。 美国国际开发署还从“常见漏洞和披露”数据库中汲取了灵感,该数据库是一个显着软件故障的存储库,该软件故障跨越各种不同的行业和学科。

Sean McGregor是IBM Watson AI XPRIZE的首席技术顾问。 McGregor还负责监督AIID实际数据库的开发。 McGregor解释说,AIID的目标最终是防止AI系统引起har,或至少降低不良事件的严重性。正如麦格雷戈所说, 机器学习 与传统的软件系统相比,这些系统实质上更加复杂且不可预测,因此,无法以与其他软件相同的方式对其进行测试。机器学习系统可以以意想不到的方式改变其行为。麦格雷戈指出, 深度学习 当学习系统进入一个非结构化的世界时,它们可能意味着“故障发生的可能性更大,更加复杂并且更加危险”。

记录了超过1,000个与AI相关的事件

自从最初创建AIID以来,已经有1000多个与AI相关的事件记录到数据库中。在数据库中的所有事件中,涉及AI公平性的问题是最常见的不良事件类型。这些公平事件中有许多涉及政府机构使用面部识别算法。 McGregor还指出,与机器人相关的事件越来越多地被添加到数据库中。

数据库的访问者可以执行查询,根据关键字,事件ID,来源或作者等条件在数据库中搜索事件。例如,搜索“ Deepfake”将返回7个报告,而搜索“机器人”将返回158个报告。

一个用于AI故障和意外运行事件的集中式数据库可以帮助研究人员,工程师和伦理学家监督AI系统的开发和部署。科技公司的产品经理可以在使用AI推荐系统之前使用AIID来查看是否存在任何潜在问题,或者AI工程师可以了解创建AI应用程序时需要纠正的潜在偏差。同样,风险管理人员可以使用该数据库确定与AI模型相关的潜在负面影响,从而使他们能够提前计划并制定缓解潜在危害的措施。

美国国际开发署的基础架构是灵活的,因为它可以创建新工具来查询数据库并提取有意义的见解。 AI和McGregor伙伴关系将合作设计一种灵活的分类法,该分类法可用于分类所有不同形式的AI事件。该团队希望,一旦创建了灵活的分类法,便可以将其与自动记录AI事件的自动化系统结合使用。

“ AI社区已开始彼此共享事件记录,以激发对其产品,控制程序和研究程序的更改,” 麦格雷戈通过TechTalks感叹. “该网站于11月公开发布,因此我们才刚刚开始意识到该系统的好处。”