研究人员开发了预警系统来对抗网络上的虚假信息

 
圣母大学的研究人员正在使用人工智能开发预警系统，该系统可以在线识别操纵的图像，伪造的视频和虚假信息。该项目旨在遏制协调社会媒体运动的兴起，以煽动暴力，缝制不和并威胁民主选举的完整性。
可扩展的自动化系统使用基于内容的图像检索，并应用基于计算机视觉的技术来从多个社交网络中消除政治模因。
“模因很容易创建，甚至更容易共享，”巴黎圣母院计算机科学与工程系副教授蒂姆·温宁格说。 “当涉及政治模因时，它们可以用来帮助投票，但也可以用来传播不准确的信息并造成伤害。”
Weninger与圣母大学计算机科学与工程系助理教授Walter Scheirer以及研究团队成员从Twitter和Instagram上的各种来源收集了超过200万张图像和内容，这些图像和内容与2019年大选有关印度尼西亚。选举的结果是，偏左的中间派中间派现任议员对保守的民粹主义候选人进行了多数投票，引发了一波激烈的抗议示威，导致八人丧生，数百人受伤。他们的研究发现，自发和协调的竞选活动旨在影响选举并煽动暴力。
这些运动包括显示虚假声明和错误陈述事件的可操纵图像，属于合法新闻来源的徽标被用于捏造的新闻故事和模因，目的是挑衅双方的公民和支持者。
尽管在印度尼西亚大选中明显可见这种运动的后果，但对西方民主选举的威胁已经存在。巴黎圣母院的研究小组由数字法证学专家和和平研究专家组成，他们表示，他们正在开发该系统，以标记可操纵的内容，以防止暴力行为，并实时警告记者或选举监测员潜在的威胁。
该系统处于研发阶段，可以扩展为用户提供量身定制的内容监视选项。 Scheirer表示，虽然仍然存在许多挑战，例如确定扩大数据接收和处理以实现快速周转的最佳方法，但目前正在评估该系统是否可以过渡到运营用途。
他说，就监测美国2020年大选的可能性而言，发展并不算太落后，他们的团队已经在收集相关数据。
Scheirer说：“信息时代到了。” “在一部受欢迎的电影中，用假冒的演员来代替演员可能看起来很有趣而且很轻松，但是想象一个视频或一个模因仅仅是为了让一个世界领袖与另一个世界领袖对抗-说出他们实际上并没有说过的话。跨平台共享和散布。请考虑这些行动的后果。”