（布鲁塞尔6日讯）因新增图像编辑功能被用户用于生成色情内容，美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”(Grok)近日再度引发争议。
新华社报导，“格罗克”由xAI公司开发，并内置于马斯克拥有的社交媒体X平台，X用户可直接调用该聊天机器人。近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名女性和未成年人。
这一乱象随即引起公愤，欧盟委员会负责数码经济事务的发言人雷尼耶周一回应称，正“严肃调查”针对“格罗克”的相关投诉。
“‘格罗克’推出所谓‘热辣模式’，不仅展示露骨性内容，部分生成内容还带有儿童特征。这根本不是‘热辣内容’，而是违法行为，令人震惊。这种事在欧洲没有立足之地。”
同一天，英国网络安全监管机构通信管理局表示，注意到用户对上述功能的担忧，“已紧急联系X（平台）和xAI，以了解它们在履行保护英国用户的法定义务方面具体采取了哪些措施”，之后将根据回复，判定它们是否存在“值得调查的潜在合规问题”。
另据印度媒体报导，印度信息技术部上周五要求X平台删除色情内容、打击违规用户，并在72小时内提交“整改报告”，否则将面临法律制裁。截至目前，尚不清楚X平台是否已就印方要求作出回应。
多名法国政府部长和国民议会议员上周五也向法国司法部门报案。当天晚些时候，巴黎检方表示，将启动相关调查。
马来西亚通信和多媒体委员会上周末表示，“严重关切”X平台上“不雅、冒犯性极强”的内容，正针对相关违规行为展开调查。马来西亚律师阿齐兹告诉法新社，若只是出于娱乐目的，“用AI给公众人物头像加个墨镜之类的倒也无可厚非”，但未经当事人同意，“利用AI对妇女儿童实施与性别相关的暴力，必须坚决反对”。
X平台周日就相关争议回应称，将对平台上的非法内容采取行动，包括删除相关内容、永久封禁账号，并在必要时与当地政府和执法部门合作。
马斯克上周六发帖表示，任何使用“格罗克”制作非法内容的人，都将面临与上传非法内容相同的后果。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
