联系我们

伦理

Facebook删除了由AI生成并用于延续阴谋论的账户

mm

已发表

 on

社交媒体公司一直致力于以各种方式控制2020年选举季节之前的错误信息。 Twitter最近禁止在其平台上投放政治广告,而Facebook刚刚宣布已关闭数百个虚假帐户,群组和页面。这些帐户中有许多似乎是由人工智能生成的配置文件图像,据报道,许多帐户已被用于散布错误信息和阴谋论。

据福布斯报道,Facebook表示,被禁止的帐户和页面与“生活之美”网络或“ TheBL”相关联,Facebook称其与保守派新闻出版集团《大纪元》相关联。根据Facebook的说法,Epoch Media Group已经花费了将近950万美元用于通过现在禁止的许多页面和群组进行广告宣传,其中许多帖子都包含了亲特朗普的阴谋论。尽管Epoch Media Group否认了这些指控,但Facebook指出,它与Graphika和大西洋理事会的数字取证研究实验室(DFRLab)等独立研究人员密切合作,以确定帐户和页面的性质,然后对它们采取行动。

根据Facebook的说法,删除这些帐户是出于“协调不真实的行为”,故意误导他人其身份以及试图进行政治干预。  According to CNET,Facebook说,这些账户经常发布宣传特定政治候选人和意识形态的内容,重点是保守选举,保守政策以及对特朗普总统的大力支持。

Facebook发布了一份长达39页的活动报告,其中涵盖了他们的许多发现。 Facebook报告值得注意的方面之一是,许多被禁止的帐户都是在AI的帮助下创建的。 Facebook的研究人员在报告中指出:

“在本报告作者所知的第一次大规模部署伪造面孔中,数十个伪造帐户具有由人工智能生成的个人资料照片。”

根据报告的发现,由AI生成的图像并不完美,细节往往会掩盖其真实本性。图像的连续元素(例如人的眼镜或头发)通常是不对称的。此外,背景细节经常模糊不清。但是,这些元素乍一看可能并不明显,尤其是考虑到Facebook评论链中个人资料照片的图像尺寸较小时。许多虚假的个人资料似乎也包含虚假的个人资料信息,甚至是由AI可能产生的虚假帖子。

据NBC报道,Facebook安全政策负责人纳撒尼尔·格莱歇(Nathaniel Gleicher)表示,这些帐户的行为使他们被视为虚假信息,并且尝试使用假图片和个人资料信息并不能帮助阻止这些帐户被发现。 Gleicher表示,AI生成的图像实际上使帐户更容易被捕获。格莱歇尔说:

“我们检测到这些帐户是因为它们参与了虚假行为。使用AI生成的配置文件作为使自己看起来更真实的方法实际上并没有帮助。这里最大的收获是网络在使用伪造身份方面的残酷性。这里的新变化是据称这是一家美国媒体公司,利用冒充美国人的外国演员来宣传政治内容。过去,我们在国家行为者身上已经看到了很多。”

但是,来自Graphika和大西洋理事会的独立研究人员表示,不良行为者能够轻松创建如此多的图像并让他们的叙述具有真实性是多么容易。 Facebook和其他社交媒体公司承受着加紧压力,以制止政治错误信息的扩散,这项任务将要求技术上保持领先于那些试图传播错误信息的人。

在Facebook关闭帐户,页面和群组之前,这些实体发布的内容已经达到了数百万人。据报道,至少有5500万个帐户遵循了89个不同的被禁网页之一。大多数追随者是非美国帐户。总共从Facebook删除了大约600个帐户,90个页面和150个组。大约70个帐户也从Instagram中删除。

这个消息就在Facebook即将启动 DeepFake检测挑战,这将持续到2020年3月。Twitter最近还禁止了其嫌疑人来自沙特阿拉伯的近6000个帐户,并故意发布了误导性内容。

专门从事以下工作的Blogger和程序员 Machine Learning Deep Learning 话题。 Daniel希望帮助他人将AI的力量用于社会公益。