为了检测假新闻，这个AI首先学会了写它

 
当今媒体最大的问题之一就是所谓的“假新闻”，这种新闻非常有害，部分原因在于它在表面上与真实的东西相似。 AI工具承诺帮助识别它，但为了让它能够识别它，研究人员发现，最好的方法是让AI学习创造假新闻本身 – 一把双刃剑，虽然可能不像听起来那么危险。
Grover是由华盛顿大学和艾伦研究所为AI(AI2)计算机科学家创建的一个新系统，他非常擅长在无数主题和多种风格上撰写令人信服的虚假新闻 – 而且直接后果也没有懈怠发现它。描述该模型的论文可在此处获得。
假新闻发生器的想法并不新鲜 – 事实上，OpenAI最近宣布其自己的文本生成AI太危险而无法公开发布。但Grover的创建者认为，只有通过将工具创建到那里进行研究，我们才能更好地对抗产生的假新闻。
“我们现在认为，这些模型无法造成严重伤害。也许在未来几年，他们将会，但尚未，“该项目的领导者，Rowan Zellers告诉我。 “我不认为发布太危险了 – 真的，我们需要发布它，特别是研究这个问题的研究人员，所以我们可以建立更好的防御。我们需要所有这些社区，安全，机器学习，自然语言处理，相互交流 – 我们不能只是隐藏模型，或删除模型，假装它从未发生过。“
因此，为此，您可以自己尝试Grover。 (虽然您可能希望先阅读本文的其余部分，以便了解发生了什么。)
AI是通过让它摄取大量真实新闻文章来创建的，这是一个名为RealNews的数据集，与Grover一起被引入。这个120千兆字节的图书馆包含了从2016年底到今年3月的文章，这些文章来自谷歌新闻追踪的前5000个出版物。
通过研究数以百万计的真实新闻文章的风格和内容，Grover构建了一个复杂的模型，说明了如何使用某些短语或样式，在文章中哪些主题和特征相互关联，它们如何与不同的出口，想法和等等。
这是使用“对抗”系统完成的，其中模型的一个方面生成内容而另一个方面评估它是多么令人信服 – 如果它不满足阈值，生成器再次尝试，并最终它学习什么是令人信服的，什么是不“T。对抗设置现在是人工智能研究的一股强大力量，通常用于从头开始创建逼真的图像。
它也不只是吐出随机文章。 Grover是高度参数化的，这意味着它的输出高度依赖于输入。因此，如果你告诉它创建一篇关于连接疫苗和自闭症谱系障碍的研究的假文章，你也可以自由地指出文章看起来好像它出现在CNN，福克斯新闻甚至TechCrunch上。