(华盛顿27日讯)美国乐坛天后泰莱史薇芙特(Taylor Swift)近日成为人工智能(AI)深度伪造(deepfake)图像的受害者,一些看似是她本人的AI生成裸照在社交网迅速传播,引发大量粉丝愤怒抗议,议员呼吁制定新法律,将制作深度伪造图像定为刑事犯罪。
据英国广播公司(BBC)等媒体报导,泰莱史薇芙特的这些AI生成裸照,主要在社交平台X与Telegram传播。照片中展示了性暗示和露骨姿势,它们从社交平台删除前,点击观看次数已是数以千万计。
其中一张照片被浏览4700万次
据悉,有用户在X分享了一张她的深伪裸照,该帐户因而被暂停。但暂停前,这张起初在Telegram上发布的照片已被浏览了4700万次。
X平台在声明中表示,它正在“积极删除”这些图像,并对参与传播这些图像的帐户采取“适当的行动”。
X平台还暂停了数个发布泰莱史薇芙特假照的帐户,但这些照片后来还在其他社交平台上传播。尽管相关的网站尽力将照片删走,但互联网上的任何东西都不会真正永远消失。
众议员呼吁采取紧急行动
美国民主党众议员莫雷尔称这些照片的传播“令人震惊”。莫雷尔去年提出了拟议的《防止亲密图像深度伪造法案》,该法案规定未经同意分享深度伪造色情内容为非法行为,他呼吁就这一问题采取紧急行动。
他表示,这些图像和影片“可能造成不可挽回的情感、经济和声誉伤害——不幸的是,女性受到的影响尤其严重”。
泰莱史薇芙特的粉丝纷纷涌入X平台留言表达愤怒。还有议员对事件作出谴责,且再次发出要保护女性和打击传播此类图片的平台和技术的呼声。
粉丝们还在X平台上重复发布“保护Taylor Swift”这句话,试图淹没那些露骨照片,令它们更难被人找到。
深度伪造使用人工智能(AI)透过挪用某人的脸部或身体来制作他人的影片。2023年的一项研究发现,自2019年以来,在人工智能出现的推动下,窜改影像的创建量增加了 550%。
AI生成色情照将如“海啸”涌现
网络安全公司Reality Defender行政总裁科尔曼表示,该公司有90%的信心认定这些图像是使用扩散模型创建的。
扩散模型(diffusion model)是一种AI驱动技术,可登入超过10万个应用程式和公开的模型。
华盛顿大学电脑科学教授埃齐奥尼警告,人们将看到AI生成的露骨色情照如“海啸”般涌现。
根据去年发布的Deepfakes现况报告,在网络上发布的深度伪造内容中绝大多数是色情内容,其中女性占此类内容目标的99%。
![](https://boron.orientaldaily.com.my/assets/images/logo-article.png)