（华盛顿23日讯）研究人员周四指出，美国亿万富豪马斯克的人工智能（AI）聊天机器人Grok据估于短短11天内，生成300万张女性及孩童的性化不雅照片，其调查揭露引发全球强烈抗议的AI生成露骨内容的规模。
法新社报导，Grok是由马斯克旗下新创公司xAI开发，并整合进社交媒体X平台。Grok最近推出影像编辑功能，使用者只需输入“让她穿上比基尼”或“脱掉她的衣服”等简单文字指令，就能线上编修真人影像。
大量不雅深伪（deepfake）影像在网络上流传，监管机构与受害者均表达强烈愤怒，促使多国对Grok祭出禁令。
研究网络恶意假讯息有害影响的非营利监管组织“对抗网络仇恨中心”（Center for Countering Digital Hate）表示：“X平台上的Grok推出影像编辑新功能后，这项AI工具据估已生成大约300万张色情图片，其中2万3000张疑似是描绘孩童。”
相当于平均每分钟生成190张照片
对抗网络仇恨中心的报告估计，Grok在短短11天内生成如此大量的写实影像，等于平均每分钟产出190张不雅照。
这份报告未提及，有多少影像是在未经当事人同意下生成的。
不过报告写道，Grok不雅照所描绘的公众人物包括美国女演员赛琳娜戈麦斯（Selena Gomez）、歌手泰莱史薇芙特（Taylor Swift）和妮琪米娜（Nicki Minaj），还有瑞典副总理布仕（Ebba Busch）、前美国副总统哈里斯等政治人物。
xAI：传统媒体的谎言
对抗网络仇恨中心首席执行员伊姆兰·艾哈迈德说：“资料清楚表明，马斯克的Grok是生产性侵害（sexual abuse）影像素材的工厂。”
X目前尚未就这项报告的发现置评。法新社透过电子邮件联系xAI后，仅收到简短的自动回复：“传统媒体的谎言。”
在全球反弹声浪下，X上周宣布，在此类行为被视为非法的地区，将对所有Grok和X平台用户就生成身著“比基尼、内衣及类似服装”人物照片的功能，实施“地理封锁”。
此前，加州总检察长已对xAI公司涉嫌发布色情内容展开调查，多个国家也启动了各自的调查。
然而，艾哈迈德指出：“亡羊补牢无法抹去这些伤害。我们必须让科技巨擘负起责任，因为是他们让加害者仅需点击按钮，就能伤害女性和女孩。”
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
