联系我们

假货

人工智能开发的虚假信息预警系统

已发表

 on

圣母大学的研究人员正在研究 在线打击虚假信息的项目,包括煽动暴力,撒谎和插手民主选举的媒体运动。 

研究人员团队依靠人工智能(AI)来开发预警系统。该系统将能够在线识别被操纵的图像,fakefake视频和虚假信息。它是使用基于内容的图像检索的可扩展的自动化系统。然后,它可以应用基于计算机视觉的技术来识别多个社交媒体网络上的政治模因。 

蒂姆·温宁格(Tim Weninger)是巴黎圣母院计算机科学与工程系的副教授。 

“模因易于创建,甚至更易于共享,” said Weninger. “当涉及政治模因时,它们可以用来帮助投票,但也可以用于传播不准确的信息并造成伤害。”

Weninger与圣母大学计算机科学与工程系的助理教授Walter Scheirer以及研究团队成员进行了合作。 

2019年印尼大选

该团队在2019年印度尼西亚大选中测试了该系统。他们从Twitter和Instagram上与选举有关的各种来源收集了超过200万张图像和内容。 

在选举中,左倾的中间派现任议员击败了保守的民粹主义候选人。选举后,爆发了暴力抗议,八人死亡,数百人受伤。该小组的研究发现,社交媒体上发起了自发且协调一致的运动,目的是影响选举和煽动暴力。 

协调运动使用了可操纵的图像,这些图像投射出虚假的陈述并歪曲了某些事件。新闻故事和模因是使用合法的新闻徽标捏造的,目的是激发双方的公民和支持者。 

剩下的世界

印度尼西亚2019年大选代表了世界其他地方可能发生的情况。虚假信息,尤其是通过社交媒体传播的虚假信息,可能会威胁民主进程。 

巴黎圣母院的研究团队包括数字取证专家和和平研究专家。该小组认为,正在开发该系统以标记受操纵的内容,目的是防止暴力行为并向新闻工作者或选举监测员警告潜在威胁。 

该系统仍处于研发阶段,但最终将可扩展和个性化,以供用户监视内容。开发系统时面临的最大挑战包括确定扩大数据摄入和处理规模的最佳方法。根据Scheirer的说法,该系统目前正在评估中,下一步是过渡到运营用途。 

该系统有可能被用来监测美国的2020年大选,预计将有大量的虚假信息和操纵。

“虚假时代到了,” said Scheirer. “在一部受欢迎的电影中,用假冒的演员来代替演员可能看起来很有趣,也很轻松,但想象一下一个视频或一个模因的创建,其唯一目的是使一个世界领袖与另一个世界领袖—说他们没有的话’没说。想象一下该内容可以在多平台上共享和传播的速度。考虑这些行动的后果。”

 

亚历克斯·麦克法兰(Alex McFarland)是一位历史学家和新闻工作者,报道了人工智能的最新发展。