波考克参议员近日发布了一段由AI生成的视频，其中分别展示了澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）和反对党领袖彼得·达顿（Peter Dutton）宣布全面禁止赌博广告。这些视频虽然看似真实，但实际上完全是人工智能生成的“深度伪造”视频。波考克表示，他制作并分享这些视频，意在警示政界人士，展示AI在即将到来的选举中可能被滥用的风险。
波考克在周六将这些视频发布到社交媒体上，并强调国会只有五周时间来推动立法，禁止在竞选材料中使用AI，否则政治人物可能会成为他所制作的类似“深度伪造”视频的受害者。
他说：“现在是政府采取行动保护我们民主的时候了，确保选举是基于理念的竞争，而不是看谁能制作出最好的深度伪造视频或编出最令人信服的谎言的比拼。”波考克还补充道，随着选举的临近，深度伪造视频的质量和数量可能都会有所提升。
这段视频还可能引发不满，因为它触及了在工党内部引起争议的话题。政府此前多次推迟引入限制赌博广告影响的立法，因为部分后座议员反对其计划削弱全面禁赌广告的建议。
随着越来越多的生成式AI工具变得自由可得且容易使用，在选举中使用深度伪造的风险愈加凸显。海外也曾出现类似情况，两天前，斯洛伐克大选前，一段据称显示进步党领袖讨论如何破坏选举诚信的深度伪造录音引发了广泛争议。
负责特别事务的部长唐·法瑞尔（Don Farrell）的发言人表示，政府正在考虑澳大利亚选举委员会关于在选举中监管AI使用的建议。法瑞尔办公室指出：“这项技术无法停止，它不会消失。我们必须找到一种方法，让澳大利亚人在面对故意虚假信息和内容时获得一定的保护。”
目前，政府正在研究一套选举改革方案，主要涉及捐赠改革和竞选融资，而非AI问题。部分专家对在短短几个月内实施禁令的可行性提出质疑。澳大利亚国立大学管理研究院的安德鲁·休斯博士（Andrew Hughes）表示，这类禁令可能难以执行，特别是在已经发布的内容面前进行应对时。他说：“他们基本上是在对我们眼前的内容作出反应，而不是防止这些内容的出现。”