►文观察者网陈思佳

(资料图片仅供参考)

“人工智能的快速发展，可能会让2024年大选充斥着虚假视频。”美国《华尔街日报》6月5日以此为题发文称，新兴的生成式人工智能（AI）工具允许用户更加轻松地合成图片和视频，这让美国社会开始担心，随着政治分裂加剧，AI生成的虚假信息可能会干扰明年的美国总统选举。

《华尔街日报》报道截图

文章称，美国民主、共和两党的顾问表示，他们已经开始测试使用ChatGPT等工具帮助起草演讲稿、筹款电子邮件和短信，以及建立选民档案。尽管AI生成的内容仍需要进一步的审查和编辑，但这项技术可以大幅减少竞选活动的筹备时间。

这似乎意味着，AI正在成为“规则的改变者”，它允许美国政客在不依赖顾问和数字专家的情况下，以更低的成本和更快的速度生成内容，帮助政客在竞选活动中实时响应社会事件。

但《华尔街日报》指出，随着生成式AI的快速发展，成千上万的用户只需输入简单的信息，将可以合成复杂的视频、照片、音频和文本。这使得美国选举官员面临新的挑战，即大量虚假信息可能干扰2024年美国总统选举。

曾在美国前总统奥巴马的竞选团队担任数字总监的泰迪·戈夫（Teddy Goff）说：“AI还不会创造出我们从未想象过的全新类型的虚假信息，但它会让生成虚假信息变得更容易、更快速、更廉价。其影响将是相当深远的。”

今年3月，美国网民使用AI生成的“特朗普被捕”图片，一度在网上疯传

事实上，AI生成的虚假信息已经开始干扰美国的政治活动。《华尔街日报》举例称，在今年2月举行的芝加哥市长选举第一轮投票前夕，社交媒体上出现了一段关于候选人保罗·瓦拉斯（Paul Vallas）的音频，伪造瓦拉斯的声音发表了“纵容警察暴力”的言论。

瓦拉斯在2月的第一轮投票中位居第一，但在4月举行的第二轮投票中落败。他的竞选经理布莱恩·汤恩（Brian Towne）表示，竞选团队推测这段音频是用AI伪造的，不过由于音频没有广泛传播，可能没有对投票结果产生太大影响。

汤恩警告说，这起事件可能成为一个“危险的先例”，“对于知情的选民来说，他们能够确定音频是伪造的。但还有会很多不知情的选民，他们可能只看到了一小段视频，然后就倾向于投票反对候选人。”

5月22日，美国社交媒体上还出现过一张“五角大楼附近发生爆炸”的图片。尽管美国政府官员很快证实，相关图片是用AI伪造的，图片发布者的账号已经被封禁，但这起事件一度导致美国股市下跌，并引发混乱。

美国消费者新闻与商业频道5月22日报道：“伪造五角大楼附近发生爆炸的AI生成图像疯传”

《华尔街日报》还提到，美国前总统特朗普的竞选团队和部分共和党人最近也开始合成AI图像，用于嘲讽民主党阵营。4月25日，在美国总统拜登宣布将竞选连任后，美国共和党全国委员会在社交媒体上发布了一段视频，描述了“拜登连任的噩梦场景”。该视频的画面均由AI生成。

美国共和党全国委员会4月25日推文截图，使用AI生成了有关“拜登连任”的场景

美国监管机构已经发出警告，称AI技术可以被用于“邪恶目的”，例如传播有关投票时间和地点、选民登记截止日期或投票方式的虚假信息。美国科技行业领袖也呼吁社交媒体构建新的标签系统，帮助用户确定相关信息是否由AI生成。

美国国家人工智能安全委员会负责人、谷歌前CEO埃里克·施密特（Eric Schmidt）称，“显然，用户不应该在不知道信息来源的情况下，受到虚假信息的影响。”正在大力投资AI技术的美国谷歌和微软公司都表示，它们已经着手研发可以标记AI生成内容的工具。

出于对AI技术可能造成危害的担忧，拜登政府开始考虑对ChatGPT等AI工具进行审查。据《华尔街日报》报道，美国商务部在4月11日正式就问责措施公开征求意见，包括新AI模型在发布前是否应该通过认证程序等问题。

来源|观察者网