新加坡日前公布首宗通报给个人资料保护委员会的人工智能相关数据泄露事件。一家闻名的企业，原本只是想寄出促销电邮，结果让9万5364名顾客的电邮地址彼此可见。没有黑客入侵，也没有AI自行窃取资料；一次看似平常的营销工作，就令顾客资料失守。
事情如何发生？员工要求生成式AI编写程序，分批发送电邮，却没有说明每位收件人的地址必须对其他人保密。程序把每批顾客的地址放进同一封电邮。测试时，员工只查看程序运行记录，没有打开测试电邮，确认收件人究竟看见什么。代码一经正式执行，错误便迅速扩大。
这起事件最值得警惕的，并非AI“失控”，而是AI让一个未经充分检查的做法，更容易被写成程序、快速执行。过去需要技术人员花时间编写的工具，如今一句指令便能生成。生产门槛降低了，出错的规模却可能随之放大。代码能够运行，不代表它符合商业目的，更不代表它保护了顾客。
问题也不能只归咎于那名员工。监管机构指出，当时企业缺乏指导员工使用生成式AI的政策，也没有主管复核机制。若一项工作会接触大量个人资料，却仅凭一人提出指令、检查运行记录、批准上线，组织就把风险集中在最脆弱的环节。AI生成内容越快，企业越需要认真把关关键决定。
真正有效的“人为监督”，不是让主管在流程末端按一下批准。负责人必须先讲清楚规则：谁可以使用AI生成代码？代码能接触哪些资料？电邮收件人会看到什么？上线前，应使用虚构资料试发，实际打开电邮，检查收件栏、内容和附件；涉及大量顾客的发送程序，还应由另一名懂技术的人独立审查，并先以小批量验证。
企业也要分清两种风险。这次并非把顾客资料输入AI后，由模型泄露；资料是在执行AI生成的程序时，通过电邮外泄。这意味著，即使员工没有向AI上传敏感名单，企业仍须审查AI产出的代码和最终行动。数据保护不能只守住“输入”，还得守住“输出”和“执行”。
事故发生后，企业停止发送、修正程序、通知顾客，并增设双人核验。补救值得肯定，但更好的管理应发生在第一封电邮寄出之前。对任何采用AI的公司而言，培训员工如何提问固然重要，更重要的是教他们辨认风险、验证结果，以及在不确定时及时停下。
AI可以替我们写程序、整理资料、加快工作，却无法替企业向顾客交代。技术越强，管理者越不能把判断外包。我们可以外包工作，但不能外包责任。
本文观点，不代表《东方日报》立场。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
