首页 > 资讯 > 科学 > 正文
2024-03-22 13:26

深度造假仍然是新事物,但2024年它们可能会对选举产生影响

Deepfakes.

在2016年英国脱欧公投和美国总统大选期间,虚假信息让许多人措手不及。从那时起,一个小型产业开始分析和应对它。

然而,尽管如此,我们进入2024年——这一年全球有40多场选举——比以往任何时候都更担心虚假信息。在许多方面,这个问题比2016年更具挑战性。

自那时以来,技术的进步是其中一个原因,特别是合成介质的发展,也就是所谓的深度伪造。越来越难知道媒体是由电脑捏造的还是基于真实发生的事情。

我们还没有真正了解深度造假对选举的影响有多大。但是一些例子指出了如何使用它们的方法。今年可能会犯很多错误,也会吸取很多教训。

自2016年围绕投票传播虚假信息以来,研究人员出版了无数书籍和论文,记者被重新培训为事实核查和验证专家,政府参与了“大委员会”和卓越中心。此外,图书馆已成为弹性建设战略的重点,并出现了一系列提供分析、培训和资源的新机构。

这些活动并非毫无结果。我们现在对虚假信息作为一种社会、心理、政治和技术现象有了更细致的理解。支持公益新闻和通过教育培养批判性思维的努力也很有前景。最值得注意的是,大型科技公司不再假装是中立的平台。

与此同时,政策制定者们重新发现了他们为公众利益监管技术的责任。

人工智能与合成介质

随着人工智能工具创造合成媒体(部分或全部由计算机生成的媒体)已成为主流,监管讨论也变得更加紧迫。这些深度造假可以用来模仿真人的声音和外表。深度假媒体令人印象深刻的真实,不需要太多的技能或资源。

这是更广泛的数字革命的高潮,在这场革命中,连续不断的技术使几乎所有人都能获得高质量的内容制作。相比之下,媒体的管理结构和体制标准大多是在只有少数专业人员能够接触到制作的时代设计的。

政治造假可以采取不同的形式。在最近的印尼大选中,一段深度造假的视频“复活”了已故总统苏哈托。这表面上是为了鼓励人们投票,但却被指责为宣传,因为这是由他领导的政党制作的。

也许深度造假更明显的用途是传播关于政治候选人的谎言。例如,在斯洛伐克2023年9月议会选举前几天发布的假人工智能生成音频试图将进步斯洛伐克的领导人Michal Šimečka描述为与记者讨论如何操纵投票。

除了明显的破坏政党的努力外,值得注意的是,这一来源不明的深度造假是如何成为少数族裔替罪羊和妖魔化主流新闻业的更广泛努力的例证。

幸运的是,在这种情况下,音频不是高质量的,这使得事实核查人员能够更快、更容易地确认其真实性。然而,民主选举的完整性不能依赖于造假者的无能。

Deepfake音频技术的复杂程度使得检测变得困难。深度造假视频在处理某些人类特征方面仍存在困难,比如手部的表现,但这项技术还很年轻。

同样值得注意的是,斯洛伐克的影片是在竞选的最后几天发布的。这是发起虚假信息和操纵攻击的黄金时间,因为目标和独立记者都忙得不可开交,因此没有时间做出回应。

如果调查深度造假既昂贵、耗时又困难,那么就不清楚选举委员会、政治候选人、媒体,甚至选民在潜在案件出现时应该如何应对。毕竟,来自deepfake的虚假指控可能和真正的deepfake一样麻烦。

深度造假可以用来影响选举的另一种方式是,它们已经被广泛用于骚扰和虐待妇女和女孩。这种性骚扰符合现有的虐待模式,这种模式限制了妇女的政治参与。

问题宁选举诚信

困难在于,目前尚不清楚深度造假会对选举产生何种影响。我们很有可能在今年即将到来的选举中看到其他类似的深度造假。我们甚至可以看到深度伪造以我们还没有想到的方式被使用。

但同样值得记住的是,并非所有的虚假信息都是高科技的。攻击民主还有其他方法。关于选举过程公正性的谣言和阴谋论是一种阴险的趋势。鉴于许多国家只是名义上的民主国家,选举舞弊是一个全球关注的问题。

很明显,社交媒体平台在很多方面促成并推动了虚假信息的传播,但认为问题从网络开始和结束是错误的。在即将到来的选举中,思考虚假信息挑战的一种方式是,思考本应维护民主的制度的力量。

是否有一个独立的媒体系统,能够为公众利益提供高质量的调查?是否有独立的选举行政人员和机构?如有必要,是否有独立的法庭进行裁决?

政治家和政党是否有足够的承诺将民主价值观置于自身利益之上?在今年的选举中,我们很可能找到这些问题的答案。