自从大约一年前ChatGPT公开发布以来，生成人工智能已经成为一种文化痴迷。

包括微软和亚马逊在内的科技巨头正在向正在开发强大的新生成人工智能模型的人工智能初创公司投入数十亿美元，而可口可乐和大众等品牌也开始将这项技术纳入其营销中。今年的戛纳国际广告节（Cannes Lions Festival）是广告业最大的年度盛会之一，人们对这一新技术和创意前沿充满了兴奋的讨论。

但是，随着对生成式人工智能的兴奋感日益增强，焦虑感也在增加。除了引发人们对知识产权和版权法的担忧外，生成式人工智能还可能在本已浑浊的信息生态系统中搅浑水。在不久的将来，世界将首次认识到一项技术，这项技术可以让几乎任何人都能创造一幅图像或一段视频，描绘某人在做某事，而这个人实际上从未做过。

音频剪辑也是如此；近期，Spotify推出了一项新功能，只需几秒钟的音频，就能自动将播客的声音翻译成多种不同的语言。

最近，人们对深度伪造的恐惧达到了一个新的高度，因为一些知名人士——包括演员汤姆·汉克斯（Tom Hanks）和youtube用户MrBeast——都在社交媒体上宣布，深度伪造的自己是在未经同意的情况下被制作出来的，目的是推广一项服务（汉克斯在Instagram上发帖称这是“某种牙科计划”）。

尽管早期政府正在努力控制人工智能的开发和部署，这项技术仍然不受监管，创造了一种狂野的西部氛围，其中最积极和最消极的属性都很快成为焦点。

政治竞选广告中的生成人工智能

深度造假带来的危险，以及对一种能够区分真假的反技术的需求，因为美国正处于总统竞选周期，在此期间，任何形式的错误信息的风险都明显加剧。

今年4月，在拜登总统宣布他将在2024年寻求连任之后，共和党全国委员会（RNC）发布了一则广告，利用生成式人工智能来想象拜登下一个四年可能会是什么样子。

视频片段以拜登和副总统卡玛拉·哈里斯庆祝又一次选举胜利的数字渲染开场，随后是被封锁的银行、试图穿越美墨边境的移民挤满了格兰德河、国民警卫队站在旧金山街头、一名MS-13帮派成员和其他图像，这些图像显然旨在引起共和党基地许多人心中的恐惧。

作为回应，国会女议员伊维特·克拉克（纽约州民主党人）提出了一项法案，旨在要求披露任何用于政治竞选广告的人工智能生成的图像或视频。

一些政治营销人员也一直在谨慎地关注这些事态发展。总部位于华盛顿特区的GMMB广告公司高级副总裁瓦伦蒂娜•佩雷斯（Valentina Perez）表示:“我们一直在跟踪我们行业中新的人工智能生成内容。”GMMB专门从事民主党候选人的政治竞选活动。

“在政治领域，广告商负有重大责任，因为我们不仅仅是在宣传一种产品；我们正在与人们就候选人、当选领导人和以不同于消费品的方式影响人们生活的重大理念进行沟通，”她说。“（我们必须）考虑我们告诉选民的是什么，以及我们告诉他们的是真的还是假的。”

律师、人工智能专家、布鲁金斯学会（Brookings Institution）技术创新中心（Center for Technology Innovation）客座研究员卡梅伦·克里（Cameron Kerry）表示，人工智能生成的内容极有可能在整个竞选季继续出现在政治广告中，尤其是来自“不负责任的政治行动委员会（pac）和黑暗资本团体”的广告。

标记人工智能生成的内容

一些主要的科技平台已经采取了一些初步措施，以确保在其平台上共享的人工智能生成的内容将被清楚地贴上这样的标签。

TikTok最近公布了一项新政策，要求创作者公开帖子中包含的人工智能生成的内容。该平台还警告说，任何包含未标记的人工智能生成内容的帖子都可能被删除。根据抖音的社区指导方针，“通过扭曲事件真相误导用户，并对视频主体、其他人或社会造成重大伤害的数字伪造（合成媒体或操纵媒体）”也被抖音禁止。

Adobe还宣布，公开发布的新Firefly生成人工智能模型将配备“内容凭证”，这是一种标记系统，用于在该平台上创建的人工智能生成资产。该公司在一篇公司博客文章中将这一披露系统描述为“可验证的细节，可以作为数字‘营养标签’”，“可以显示包括资产名称、创建日期、创建工具和任何编辑在内的信息。”

为了遏制政治领域的错误信息，谷歌上个月宣布，为竞选公职的个人提供的经过验证的政治竞选广告，如果包含人工智能生成的内容或其他形式的数字修改，将需要进行显著披露。

根据谷歌发言人提供给the Drum的一份声明，谷歌的新政策将于下个月生效，也就是2024年大选的前一年。谷歌的新政策建立在一系列旨在提高政治广告透明度的类似努力的基础上。这位发言人写道:“鉴于制作合成内容的工具越来越普遍，我们正在进一步扩大我们的政策，要求广告商披露他们的选举广告何时包含经过数字修改或生成的材料。”“这个（新的）更新建立在我们现有的透明度努力的基础上，它将有助于进一步支持负责任的政治广告，并为选民提供他们做出明智决定所需的信息。”

克里表示，人工智能生成内容的出现将对美国的信息生态系统构成重大风险，而美国的信息生态系统已经受到不信任的困扰。他说:“自从有竞选活动以来，误导性广告就一直存在，但今天的人工智能使大规模的说服性欺骗成为可能。”

克里表示，最终，任何为人工智能生成的内容贴上标签、从而减轻深度伪造风险的努力都必须由政府和私营公司共同执行。“联邦选举委员会可以制定政治广告的标签要求，联邦贸易委员会可以采取行动打击消费者的欺诈行为，国会可以制定额外的规则，但这些（政策）必须由私营部门执行，私营部门可以阻止或删除违规内容。”