（新山23日讯）柔佛和谐福利协会主席柯福特指出，随著人工智能（AI）换脸及生成式影像技术（常称为Deepfake，或深度伪造）越来越普及，非自愿AI色情内容已成为不能忽视的社会问题，政府有必要进一步推动专门的AI色情防治法，已不能仅依赖现有法律处理。
他说，马来西亚今年已经通过《2026年网路犯罪法案》，包括针对deepfake及传播经过数码操纵的私密影像所制定的相关罪行及刑罚，显示政府已经意识到科技滥用所带来的新型犯罪问题。
“AI色情的传播速度及技术发展非常快，社会需要的不只是事后追究责任，更需要一套专门针对AI色情的预防、侦测、下架、取证及受害者保护机制。”
柯福特今日发表文告，作出上述呼吁。
他指出，今年1月，通讯及多媒体委员会（MCMC）甚至曾因Grok被反复滥用于生成色情及性露骨内容，以及未经同意操纵女性及儿童影像，而对相关AI服务采取临时限制措施。
“这已经说明问题不是理论上的风险，而是真实发生在我们身边。”
他认为，未来的AI色情防治法至少应涵盖五个核心部分，包括：第一，明确界定AI色情犯罪。无论影像是否真实，只要未经当事人同意，以AI制作、编辑、合成或传播具有色情性质的个人影像，就应该有明确的法律定义及责任。
第二，建立快速下架机制。受害者不应该花上几天甚至数周等待平台处理。AI色情影像最大的特点是传播速度非常快。今天上传，明天可能已经被复制到多个平台，法律必须规定更加明确和快速的处理时限。
第三，追究制作、传播及恶意使用者责任。不能只追究第一个上传的人，也应该根据不同程度，厘清制作、恶意传播、销售、牟利以及利用AI色情内容进行恐吓、勒索或骚扰的法律责任。
第四，加强AI平台的预防责任。不能每次都等到受害者发现自己的脸出现在色情照片之后，平台才开始处理。AI生成平台应该建立更严格的安全机制，包括禁止产生真实人物的色情影像、加强年龄及身分保护、设定内容追踪机制，以及针对恶意重复使用进行限制。
第五，建立AI色情受害者支援机制。目前许多受害者面对相关事件时，不仅不知道该向哪里投诉，也可能因为羞耻及社会眼光而选择沉默。政府需要提供一个清楚的投诉及支援管道，让受害者知道发生事情后应该怎么做、向谁求助，以及如何保存数码证据。
柯福特强调，推动AI色情防治法并不意味著反对人工智能发展，也不是要把所有AI生成内容都视为犯罪。
“政府目前也正在推动AI治理框架，并强调科技发展与风险管理需求并行。数码部今年曾表示，政府正在制定AI治理法案，以处理包括deepfake在内的科技风险，并要求AI系统开发及部署者承担更明确的责任。”
他认为，AI治理法与AI色情防治机制应该要互相配合。AI治理法解决的是人工智能整体如何负责任地发展，AI色情防治法则应该解决一个非常具体而迫切的问题——当AI被用来侵犯一个人的身体形象、性隐私及人格尊严时，法律应该怎么保护他。
他指出，现有《2026年网路犯罪法案》已经是重要的一步，但社会仍应继续讨论是否需要更明确的专门条文及受害者保护机制。相关法案也已经针对传播私密影像设立相关罪行，并针对意图羞辱、伤害、胁迫或威胁受害者的情况提高处理，不能每次都等到科技造成大规模伤害之后，法律才追赶科技。
他促请，政府将AI色情防治列入国家AI治理的重要议程，并与执法机构、通讯及多媒体委员会、科技公司、社群媒体平台、教育机构及妇女权益组织共同制定完整的防治架构。
此外，他也促请，政府推动一套真正能够保护受害者、约束滥用者，也让科技企业承担责任的AI色情防治法律机制。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
