联系我们

思想领袖

确保负责任的12博下载app的5大基础

mm

已发表

 on

我们看到12博下载app / ML系统在处理新数字经济中生成的数据海洋方面取得了压倒性的增长。但是,随着这种增长,有必要认真考虑12博下载app的道德和法律含义。

随着我们将越来越复杂和重要的任务委托给12博下载app系统,例如自动贷款批准,我们必须绝对确定这些系统是负责任的和可信赖的。减少12博下载app的偏见已成为许多研究人员关注的重点领域,并具有巨大的道德隐含意义,我们赋予这些系统的自主性也是如此。

负责任的12博下载app概念是一个重要的框架,可以帮助您建立对12博下载app部署的信任。负责任的12博下载app有五个核心基础支柱。本文将探讨这些内容,以帮助您构建更好的系统。

1.重现性

在软件开发界有句老话:“嘿,它可以在我的机器上工作”在ML和12博下载app中,该短语可以调整为:“嘿,它可以在我的数据集上工作。”就是说 机器学习 模型通常往往是一个黑匣子。许多训练数据集可能具有固有的偏差,例如采样偏差或确认偏差,这些偏差会降低最终产品的准确性。

为了帮助使12博下载app / ML系统具有更高的可重复性,从而使其更加准确和值得信赖,第一步是标准化MLOps管道。即使是最聪明的数据科学家也拥有自己喜欢的技术和库,这意味着人与人之间的特征工程和结果模型也不统一。通过使用诸如MLflow之类的工具,您可以标准化MLOps管道并减少这些差异。

帮助提高12博下载app / ML系统可重现性的另一种方法是使用所谓的“黄金数据集”。这些是具有代表性的数据集,从本质上讲,它们在发布用于生产之前会充当新模型的测试和验证。

2.透明度

如前所述,许多机器学习模型,特别是神经网络,都是黑匣子。为了使它们更具责任感,我们需要使它们更具解释性。对于诸如决策树之类的简单系统,很容易理解系统如何以及为什么做出特定决策,但是,随着12博下载app系统的准确性和复杂性的提高,其可解释性通常会下降。

有一个新的研究领域称为“可解释性”,该研究领域甚至试图为透明的复杂12博下载app系统(如神经网络和 深度学习。它们使用代理模型来复制神经网络的性能,但它们也试图对重要的功能给出有效的解释。

这一切都导致公平;您想知道为什么要做出某个决定,并确保这个决定是公平的。您还希望确保不考虑不适当的功能,以免偏见不会渗入您的模型。

3.问责制

负责任的12博下载app最重要的方面也许是问责制。关于这个主题的讨论很多,即使在政府部门也是如此,因为它涉及哪些政策将推动人工智能的发展。这种以政策为导向的方法决定了人们应该处于哪个阶段。

问责制需要强大的监视器和指标来帮助指导决策者和控制12博下载app / ML系统。问责制确实将可复制性和透明性联系在一起,但是它需要以12博下载app伦理委员会的形式进行有效的监督。这些委员会可以处理政策决定,决定什么是重要的衡量标准以及进行公平性审查。

4.安全性

12博下载app安全着重于数据的机密性和完整性。系统在处理数据时,希望它们处于安全的环境中。您希望既要在数据库处于静止状态时也要对其加密,也希望通过管道对其进行加密,但是在将数据以纯文本形式输入到机器学习模型中时,仍然存在漏洞。同态加密等技术通过允许在加密环境中进行机器学习训练来解决此问题。

另一方面是模型本身的安全性。例如,模型反转攻击使黑客能够学习用于构建模型的训练数据。还有模型中毒攻击,它们会在模型训练时将不良数据插入模型中,从而完全破坏其性能。测试您的模型是否受到诸如此类的对抗性攻击,可以使其安全可靠。

5.隐私权

Google和OpenMined是两个最近一直优先考虑12博下载app隐私的组织,而OpenMined主持了关于此主题的最新会议。随着GDPR和CCPA等新法规的实施,以及潜在的新法规的推出,隐私将在我们训练机器学习模型的过程中发挥核心作用。

确保您以隐私感知方式处理客户数据的一种方法是使用 联合学习。这种分散式的机器学习方法在本地训练不同的模型,然后将每个模型汇总到一个中央集线器中,同时保持数据的安全性,安全性和私有性。另一种方法是引入统计噪声,以免泄漏客户的个人价值。这样可以使您继续使用汇总,以使个人数据完整无损,并且算法无法使用。

保持12博下载app负责

 最终,使12博下载app负责任取决于设计12博下载app / ML系统的每个组织。通过在负责任的12博下载app的这五个方面中的每一个方面有意地追求技术,您不仅可以受益于人工智能的力量,还可以通过可信赖和直接的方式这样做,这将使您的组织,客户和监管机构感到放心。

Dattaraj Rao,创新与研发架构师 Persistent Systems,是《从Keras到Kubernetes:机器学习模型到生产的旅程》一书的作者。 Dattaraj在Persistent Systems领导12博下载app研究实验室,该实验室研究计算机视觉,自然语言理解,概率编程,强化学习,可解释12博下载app等方面的最新算法,并展示了其在医疗保健,银行和工业领域的适用性。 Dattaraj在机器学习和计算机视觉方面拥有11项专利。