冒充联合国官员事件，冒充联合国官员行骗

奥飞寺的安妮

量子比特出品| 公众号QbitAI

不知道联合国语音发生器？

最近，一些研究人员确实想出了这个方法。该生成器允许您生成无限量的逼真的联合国演讲风格内容。

快速传播假新闻、巧妙地制造仇恨言论、冒充名人发表演讲……这种模式非常可怕，想想也很不安。

建立这样一个系统需要大量的时间和金钱。

这么想就大错特错了。据研究人员介绍，整个模型只需要13个小时的训练，总成本不超过7.8美元（54人民币）。

换句话说，你可以用半天时间和晚餐时间，让人工智能伪造一系列联合国演讲。 Twitter 用户评论说，他们终于明白为什么有些模型不应该开源了。

最糟糕的。

无法辨别真假的后果

研究人员使用三种类型的任务证明了该模型的有效性，并且在每个任务中该模型保留了相关场景，并且能够生成假新闻和假言论。

一是气候变化和核裁军等一般主题。

气候变化仍然是所有国家的主要关切，世界领导人和马里政府重申致力于通过一系列紧急措施应对气候变化，解决许多人面临的严峻局势。我们呼吁联合国采取站立。作为伊斯兰国家，伊斯兰国家坚信国际合作对于促进和平、安全与发展的重要性。

在这则假新闻中，人工智能模型生成的文本无论语气、用词还是句子逻辑都显得很真实。

第二个任务是效仿联合国秘书长的语气，对这一事件发表公开评论。

这个作业比第一个作业要求输出更清晰的意见，难度也更大。

AI模型是如何运作的呢？我们来看看生成的效果。

联合国秘书长强烈谴责摩加迪沙发生的这一可怕而致命的袭击事件。（略）我们希望国际社会也能响应非洲之角和平与安全的呼声，也希望苏丹继续执行自己的安理会决议体系。

如果是呼吁和平的言论还好，但最可怕的是，这种模式也会产生恶意、煽动性的言论。

研究人员证明的第三个影响是恶意和煽动性言论产生的程度。

在这项任务中，AI针对“难民是恐怖分子”和“移民是艾滋病流行的罪魁祸首”两个命题生成了虚假陈述，内容更加令人毛骨悚然。

这样的模型怎么可能半天时间、54元的成本就做出来呢？

开源模型

研究人员表示，虽然从头开始训练语言模型是一项复杂的任务，需要大量的数据和计算能力，但借助其他人的开源项目进行研究是具有成本效益的。 -质量选择。

在这个项目中，训练数据是1970 年至2016 年7507 次联合国演讲的文本，由Baturo 等人之前的研究整理而成。

有很多演讲，讨论了很多话题。研究人员表示，在使用这个数据集之前，他们将语音分为283,593 个段落，去除了文本中的噪音，并使用spaCy 进行标记。

论文《什么推动了国际发展议程》《1970-2016 年联合国一般性辩论的NLP 分析》地址：

https://arxiv.org/abs/1708.05873

数据集完成后，训练模型又成为一个大问题。现阶段，研究人员使用了开源模型——AWD-LSTM模型来进行预训练。

这是Salesforce 研究院的Stephen Merity 及其同事在2017 年提出的模型，其中他们提出了一套基于单词的语言模型正则化和优化策略，目前LSTM 模型无需修改即可应用。

LSTM 语言模型的正则化和优化论文涵盖：

https://arxiv.org/abs/1708.02182

研究人员使用Wikitext-103 数据集进行预训练。在fast.ai库的帮助下，AWD-LSTM模型最终在13小时内在NVIDIA K80 GPU上进行了训练。该模型的成本很小。 7.80 美元（54 元）。

适用于多种身份

本文由Joseph Bullock 和Miguel Luengo-Oroz 撰写。

第一作者约瑟夫·布洛克有三个身份。一位是联合国全球脉动团队的成员，另一位是英国杜伦大学数据科学研究所的成员，第三位是粒子研究所的成员。物理现象学，杜伦大学。

Miguel Luengo-Oroz 是联合国全球脉动的数据科学家。

这篇论文还将在长滩举行的机器学**人工智能社会公益研讨会上发表。

门户网站

联合国大会第： 号声明的纸上自动语音生成映射人工智能生成文本的风险地址：

https://arxiv.org/abs/1906.01946

原举报地址：

https://www.technologyreview.com/f/613645/ai-fake-news-deepfakes-misinformation-united-nations/

- 就这样-

诚信招聘

量子比特现招聘一名编辑/记者，驻地北京中关村。我们正在寻找有才华和热情的学生加入我们！详情请在量子位公众号（QbitAI）对话界面回复“招聘”。

量子位QbitAI·今日头条署名作者

追踪AI技术和产品新进展