人工智能、深度伪造和虚假信息

今天给大家推送的是兰德公司的报告《人工智能、深度伪造和虚假信息》 缩写 AΙ 人工智能 C2PA 内容来源和真实性联盟 CAI 内容真实性倡议 GAN 生成对抗的网络 GPT-3 第三代通用预训练转换器 OSINT 开源情报 虚假信息正在升级 虚假信息战的一个主要工具是简单的表情包:在社交媒体上分享的图片、视频或文本，传达一种特定的想法或感觉。俄罗斯利用表情包攻击2016年美国大选;那些试图质疑2019年冠状病毒疾病疫苗有效性的人把表情包作为最喜欢的工具。许多人认为，表情符号以及其他常见的、似乎已经过时的虚假信息工具，如假新闻网页和故事以及蛊惑人心的Facebook帖子，已经成功地破坏了美国选举的信心，在美国选民中散播分裂，并增加了阴谋论的采用。然而，计算机科学和人工智能(AI)的进步带来了一种新的、非常有说服力的传递虚假信息的方法:深度伪造（Deepfake）。深度伪造视频是经过合成修改的视频片段，其中描绘的脸或身体经过数字修改，以显示为某人或某物。这样的视频正变得越来越逼真，许多人担心，这项技术将大大增加国内外虚假信息的威胁。这种威胁已经被许多色情网站在目标女性身上实现 人工智 能转换 。 然而，在其他方面，造成严重破坏的可能性尚未显现。例如，一些评论人士表示，他们相信2020年的大选也成为了一个深度伪造视频的目标，并有可能被颠覆。虽然深度伪造并没有出现，但这并不能消除未来选举的风险。 深度伪造和相关人工智能生成的虚假内容对美国和更广泛的国际社会来说都处于高度风险的时刻。在他们的重要报告《真相的衰落：对事实和分析在美国公共生活中作用减弱的初步探索》中，兰德公司的Jennifer Kavanagh和Michael D. Rich强调了四个关键趋势，这些趋势共同表征了美国社会中事实重要性明显下降的特征：在评估事实和对事实、数据的分析解释方面越来越不一致；模糊：观点和事实之间界限的模糊；观点和个人经验相对于事实的相对量的增加，以及由此产生的影响；以及对以前受到尊重的事实信息来源的信任下降。这些趋势如果继续下去，就表明深度伪造将越来越多地找到高度敏感的受众。 本文的目的是为政策制定者提供深度伪造威胁的概览。本文首先介绍了深度伪造的技术和相关的人工智能驱动技术，这些技术为 深度伪造 视频、语音克隆、 深度伪造 图像和生成文本提供了基础。它强调了深度伪造带来的威胁，以及可以减轻这种威胁的因素。然后，本文回顾了正在进行的检测和对抗深度伪造的努力，并总结了对决策者的建议。这一观点是基于对深度伪造和人工智能虚假信息技术已发表文献的回顾。此外，在撰写本文的过程中，作者咨询了12位 造谣 领域的顶尖专家。（ 这句话暴露了全球顶级造谣专家都在美国！ ） 人工智能系统 各种人工智能技术已经成熟，可以用于造谣活动。 深度伪造 视频是一个明显的威胁，但语音克隆、 深度伪造 图像和生成文本也值得关注。本节回顾了这些基于人工智能的虚假信息工具的技术和功能。 深度伪造 视频 如前所述，深度伪造视频包括合成修改的镜头，呈现受试者面部或身体的变化。这些合成视频的图像是通过生成对抗网络(GANs)开发的。沈天祥、刘瑞贤、白菊和李铮对GANs如何创建合成内容进行了出色的描述: GAN系统由一个从随机噪声生成图像的生成器和一个判别器组成，判别器判断输入图像是真实的还是由生成器生成的。这两个组成部分在功能上是对抗性的，他们扮演着两种对抗性的角色，就像伪造者和侦探。经过训练期，发生器可以产生高保真度的伪图像。