9月9日，新加坡数字发展和信息部(MDDI)提出了一项新立法，旨在遏制在选举期间使用深度伪造和其他数字操纵的内容。此前，民众担忧人工智能被滥用来传播错误信息。

背景：全球Deepfake流行病

该法案的出台正值全球对deepfake技术被恶意使用（包括用于诈骗和勒索）的担忧日益加剧。

随着新加坡的下一次大选将于2025年11月举行，新立法旨在防止错误信息影响选民的决定。

近年来，深度伪造一直困扰着全球互联网，还扰乱了多个国家的选举。据报道，最近在美国，哈里斯和特朗普的虚假视频正在流传，这正是去年11月起人们所说的“首届AI驱动的选举”的一部分。

作为回应，世界各国都在出台法规来打击选举期间的深度伪造——韩国政府在4月选举前对政治AI生成的内容实施了为期90天的禁令，他们在今年1月至2月中旬期间发现了129起被认为违反公职人员选举法的深度伪造。

2023年12月，新加坡时任总理李显龙和时任副总理黄循财宣传投资平台的深度伪造视频在网上流传，这些视频使用AI来复制他们的声音和面部表情。

今年1月初，新加坡数字发展和信息部长兼智能国家和网络安全部长JosephineTeo女士宣布，新加坡需要开发新的能力来打击诈骗者和在线威胁，包括深度伪造。

她透露了一项价值5000万新元的计划，旨在开发检测和打击错误信息和深度伪造的工具。

除了选举之外，新加坡资讯通信媒体发展局（IMDA）还将为社交媒体平台引入一项新的行为准则，以解决被操纵的数字内容。

此准则将确保平台采取更有力的措施来监控和审核此类内容。IMDA计划在未来几个月内与社交媒体公司合作，以最终确定该准则的细节。

禁止与豁免

根据拟议的法律，发布、分享或转发符合三个特定标准的数字修改内容将构成刑事犯罪：

1.可能影响选民参与等选举结果的逼真仿冒音频或自动电话；

2.伪造图像和视频，歪曲候选人；

3.逼真的AI生成的竞选材料，可能会以正面或负面的方式描绘候选人。

该法案旨在在言论自由和保障选举相关内容的准确性之间取得平衡。

拟议的法律将不包括微小的数字修改，例如美颜滤镜、表情包和动画角色等娱乐内容。

私人通信，例如一对一聊天或家庭群组对话，将不受法律管辖，但更大、更公共的论坛，例如大型WhatsApp群组，可能会根据群组内关系的性质受到禁止。

拟议的禁令也不适用于授权新闻机构发布的内容，以允许对被禁止的内容进行事实报道。

处罚与执行

如果获得通过，该法案将使候选人能够要求选举官（RO）审查歪曲他们的内容。也就是说，虚假言论和陈述可能会导致罚款或失去选举席位。

其他人也可要求对发出选举令到投票日结束期间的非法内容进行审查。

RO可以下令对分发违禁选举广告的人采取纠正措施。不遵守规定的社交媒体平台可能面临最高100万新元的罚款，而个人可能面临最高1,000新元的罚款、最高一年的监禁，或两者兼施。

纠正措施可能包括在选举期内删除或阻止新加坡用户访问内容。

如果该法案获得通过，它将修改《议会选举法》和《总统选举法》，增加新的保障措施来保护选举的公正性。

要受到这项法律的保护，潜在候选人必须首先支付他们的选举押金，并同意在提名日之前将他们的名字列在选举局的网站上。

这些措施也适用于从提名日到投票日期间成功提名的候选人。

与现有法案有何不同？

该法案将在下一次议会会议上提交二次审议。

MDDI还表示，虽然政府已经可以通过《防止在线虚假和操纵法》(POFMA) 来解决违反公共利益的在线虚假信息，但需要采取具体措施来打击在选举期间针对候选人的深度伪造。

我们认为这项新法案不是取代POFMA，而是加强我们在线选举广告法规的一种手段，以提升我们选举过程的完整性。

发言人进一步解释说，在知道事实的情况下，政府可以通过POFMA处理虚假信息。例如，当有人对储备或房价造假时，政府可基于已知事实判定真伪。

“然而，在以政治候选人为主角的深度伪造中，政府要确定一个人说了什么或没说什么、做了什么或没做什么则困难得多。因此，我们需要个人站出来声明这是虚假陈述。”

来源｜‌The Online Citizen、Mothership.sg、vulcanpost

编译｜郑惠敏

审核｜张羽翔

声明：本文来自赛博研究院，稿件和图片版权均归原作者所有。所涉观点不代表东方安全立场，转载目的在于传递更多信息。如有侵权，请联系rhliu@skdlabs.com，我们将及时按原作者或权利人的意愿予以更正。