联系我们

网络安全

AI专家按危险等级对Deepfake和其他19种基于AI的犯罪进行排名

mm

已发表

 on

一个新的 报告 由伦敦大学学院(University College London)出版的论文旨在确定AI在未来15年内可以帮助犯罪分子的多种不同方式。报告中有31位不同的AI专家采用20种不同的方法使用AI进行犯罪,并根据各种因素对这些方法进行了排名。 AI专家会根据各种变量对犯罪进行排名,这些变量包括犯罪的容易程度,犯罪可能造成的潜在社会危害,犯罪者可能赚到的钱数以及制止犯罪的难度。根据报告结果, 假货 对守法的公民和整个社会构成最大的威胁,因为他们被罪犯和恐怖分子利用的可能性很高。

AI专家将Deepfake列为潜在AI威胁列表的首位,因为Deepfake难以识别和应对。甚至在Deepfake专家的眼中,Deepfake都在不断地变得越来越好,甚至其他基于AI的检测Deepfake的方法也常常不可靠。就其危害能力而言,不法分子很容易使用伪造品来抹黑可信赖的专家人物,或者通过假扮亲人或其他可信赖的个人来欺骗他人。如果大量的伪造品,人们可能会开始对任何音频或视频媒体失去信任,这可能使他们对真实事件和事实的有效性失去信心。

UCL计算机科学的Matthew Caldwell博士是该论文的第一作者。考德威尔(Caldwell)强调,随着我们越来越多的活动在线上进行,深造的危险越来越大。 正如UCL新闻引用Caldwell所说:

“与许多传统犯罪不同,数字领域的犯罪可以轻松地共享,重复甚至出售,从而允许将犯罪技术推向市场并提供犯罪作为服务。这意味着犯罪分子可能能够将其基于人工智能的犯罪的更具挑战性的方面外包出去。”

专家团队将其他五种新兴AI技术列为高度关注的新型犯罪潜在催化剂:无人驾驶车辆被用作武器,对AI控制的系统和设备进行黑客攻击,以勒索为目的的在线数据收集,基于AI带有自定义消息的网络钓鱼,以及一般的虚假新闻/错误信息。

根据Shane Johnson的说法UCL的Dawes未来犯罪中心主任,这项研究的目的是确定与新兴技术相关的潜在威胁,并假设如何克服这些威胁。约翰逊说,随着技术变革速度的加快,“我们必须预见未来的犯罪威胁,以便决策者和其他有能力采取行动的利益相关者能够在新的“犯罪收获”发生之前采取行动。”

关于清单上其他十四种可能的犯罪,将它们分为两类之一:中等关注度和低关注度。

受到严重关注的AI犯罪包括滥用军用机器人,数据中毒,自动攻击无人机,基于学习的网络攻击,针对在线活动的拒绝服务攻击,操纵金融/股票市场,蛇油(以AI / ML掩盖欺诈性服务的销售)术语),并欺骗人脸识别。

基于AI的低关注度犯罪包括对艺术或音乐的伪造,由AI辅助的跟踪,由AI编写的虚假评论,逃避AI检测方法以及“防盗机器人”(闯入人们的家中以窃取东西的机器人)。

当然,人工智能模型本身可以用来帮助打击其中一些犯罪。最近,已经部署了AI模型来协助 洗钱计划的发现,检测可疑的金融交易。人工操作员会分析结果,然后批准或拒绝警报,并将反馈用于更好地训练模型。未来似乎很有可能会涉及到AI之间的冲突,犯罪分子试图设计自己最好的AI辅助工具,而安全,执法和其他具有道德的AI设计师则试图设计自己的最佳AI系统。