联系我们

面试

北美商业秘密实践主席Bradford Newman– Interview Series

mm

已发表

 on

布拉德福德专门研究与商业秘密和人工智能有关的问题。他是ABA 12博下载app小组委员会主席。布拉德福德(Bradford)在2019年被《每日日报》(Daily Journal)认可为加利福尼亚州20大12博下载app律师之一,在提议联邦12博下载app工作场所和知识产权立法方面发挥了重要作用,该立法于2018年成为美国众议院讨论草案。他还开发了旨在确保算法公平性的12博下载app监督和公司治理最佳实践。

是什么最初激发了您对人工智能的兴趣? 

我代表了世界’多年来是12博下载app产品和技术的领先创新者和生产者。我的兴趣一直是走出帷幕,了解法律和技术方面 机器学习,并观察12博下载app的发展。我为各种领域的应用程序所着迷而着迷。

 

您是人工智能的合理监管的积极倡导者,尤其是在保护公共健康的监管方面,您可以讨论一下您的主要关注点吗?  

我认为,我们正处于人类经历的最深刻的革命之一的初期。从早上起床到睡觉,人工智能都有可能影响我们生活的方方面面—而且,当我们睡觉的时候。许多人工智能’应用将对我们的生活质量产生积极影响,并可能对我们作为一个物种的寿命产生影响。

目前,从计算机科学和机器学习的角度来看,人类仍然非常参与该过程,从算法编码到理解训练数据集,再到处理结果,识别缺点并实现技术的生产。

但是我们在两个主要方面都在与时间赛跑。首先,通常称为“black box”问题:随着人工智能的发展,人类对人工智能的参与和理解将随着时间的流逝而减少’复杂性(认为ANN)不断发展。其次,政府和私人利益对12博下载app的使用将会增加。

我担心的是,将有意和无意地使用12博下载app,这与西方民主的个人自由和自由理想背道而驰。

 

我们如何解决这些问题? 

在社会上,我们不应该解决与人工智能有关的一切,而应解决哪些被禁止和/或部分约束的问题。

首先,我们必须具体确定12博下载app生成的算法输出无法完全或部分做出的决策。这意味着,即使在每个专家都同意输入和输出的数据完全没有偏见,透明和准确的情况下,也必须根据法律禁止将其用于任何类型的预测或实质性决策。

诚然,在我们渴望数学确定性的世界中,这是违反直觉的,但是建立12博下载app“禁飞区”对于维护我们所有人都珍视的自由至关重要,这是我们社会的基石。

其次,对于并非完全禁止的基于12博下载app分析的其他确定的决策,我们需要立法明确定义在决策过程中必须涉及人员的决策。

 

您在提议联邦12博下载app工作场所和IP立法方面发挥了重要作用,该立法已于2018年变成美国众议院讨论草案。您可以讨论其中一些建议吗?

《 12博下载app数据保护法》旨在促进创新,旨在(1)提高人工智能的性质和使用的透明度,并建立公众对人工智能的信任; (2)解决人工智能对劳动力市场的影响,以及(3)保护公众健康和安全。

它包含几个关键组件。例如,它禁止涵盖公司’仅依靠人工智能做出某些决定,包括关于雇用个人或拒绝或限制医疗的决定,并禁止医疗保险发行人仅通过12博下载app分析做出关于医疗覆盖率的决定。它还成立了人工智能委员会—一个新的联邦机构,负责监管与公共卫生和安全有关的12博下载app。并且它要求涵盖实体任命首席人工智能官。

 

您还开发了旨在确保算法公平性的12博下载app监督和公司治理最佳实践。您在12博下载app系统中看到的一些公平性或偏见性当前问题是什么? 

该主题一直是学者们严格审查的重点,现在正引起美国政府机构的关注,例如平等就业机会委员会(EEOC)和原告’吧。大多数情况下,因果是由于培训数据集存在缺陷或对测试环境缺乏理解和透明性造成的。缺乏中央所有权和高级管理层对12博下载app的监督使情况更加复杂。

缺乏技术理解和态势感知是一个重大的责任问题。我已经和几位知名原告谈过’正在寻找12博下载app偏见案例的律师。

 

深度学习 通常会遇到黑匣子问题,即我们将数据输入到 人工神经网络 (ANN),然后我们将收到输出,而没有任何方式知道该输出是如何生成的。您认为这是一个主要问题吗?  

我做。随着算法和神经网络的不断发展,人类越来越不“in the loop,”确实有可能超过临界点,使我们不再能够理解功能和输出的关键要素。

 

随着COVID-19,世界各地的国家都推出了 12博下载app供电的状态监视系统。您对这种监视类型的潜在滥用有多少问题?

从个人权利和自由的角度出发,无视或坦率地说,无视或轻描淡写被滥用的风险是不负责任的。虽然在全球大流行中谨慎进行接触者追踪,基于12博下载app的面部识别提供了一种有效的措施来完成人类无法完成的任务,但社会必须制定关于滥用的法律禁令以及有效的监督和执行机制。否则,我们就将国家个人基本权利的核心要素交还给国家。一旦以批发方式被赠予,我们的自由和隐私的基本要素将不会被退还。

 

您先前曾说过:“如果我们要维护美国人都珍视的自由并成为我们社会的基石,就必须建立12博下载app“禁飞区”。”您能否分享一些您所担心的问题?  

在讨论12博下载app时,我们必须始终专注于12博下载app的基本目的:从非常大的数据集中生成准确的预测分析,然后将其用于对人类进行分类并做出决策。接下来,我们必须检查谁是决策者,他们在决定什么,以及他们基于什么决策。

如果我们了解决策者是对我们的健康,生计和自由产生最大影响的决策者—雇主,房东,医生,保险公司,执法机构以及可以生成,收集或购买12博下载app分析的所有其他私营,商业和政府企业—显而易见,在西方的自由民主制国家中,相对于极权主义政权,应该有不应也不应该完全由人工智能决定的决策。

虽然想到了许多明显的决定,例如在犯罪之前禁止监禁某人,但12博下载app’在我们生活的各个方面的广泛采用提出了许多令人困惑的道德难题实例。例如,如果一种算法准确地预测在饮酒的海滩度假社交媒体上张贴照片的工人比在外面张贴自己锻炼的照片的工人平均早戒烟或被解雇的话,他们应该比在工作前张贴照片的工人早3.5年。是否仅根据算法输出结果拒绝晋升或加薪?如果算法正确地确定平均每天玩视频游戏超过2小时的青少年不太可能毕业于四年制大学,那么是否应该拒绝此类学生入学?如果确定60多岁的因COVID-19相关症状而进入ICU的亚裔妇女的生存率高于70多岁的非裔美国人,则该妇女应否获得优先医疗?

这些过分简化的例子只是众多决策中的几个,这些决策中,仅依赖人工智能就与我们对个人人权要求的观点相抵触。

 

关于12博下载app或Baker McKenzie,您还有什么要分享的吗? 

我非常有能力帮助领导 贝克·麦坚时’真正的国际12博下载app实践 在不断变化的景观中。我们认识到,客户渴望在有关12博下载app的所有方面寻求指导,从谈判合同到建立内部监督,避免产生偏见,到理解新兴的国内外监管框架。

公司希望做正确的事,但是很少有律师事务所具备必要的专业知识和对12博下载app和机器学习的理解,能够为他们提供帮助。对于既是12博下载app迷又是律师的我们来说,这是为客户增加真正价值的令人兴奋的时刻。

感谢您对涉及12博下载app的一些主要社会关注问题的精彩解答。希望更多了解布拉德福德·纽曼的读者应该 点击这里.

安东尼·塔迪夫(Antoine Tardif)是 Futurist 他对12博下载app和机器人技术的未来充满热情。他是 BlockVentures.com并已投资了50多个12博下载app和区块链项目。他是的联合创始人 Securities.io 一个专注于数字证券的新闻网站,是unite.12博下载app的创始合伙人。他也是 福布斯技术委员会。