（三藩市26日讯）美国人工智能（AI）企业OpenAI承认，其人工智能工具在未经公司许可的情况下，将聊天机器人ChatGPT用户的图像发布到网站上，这是智能体（又称人工智能代理）超出权限范围运行的最新案例。
法新社报导，OpenAI公司还证实《纽约时报》一篇关于其工具访问美国联邦机构网站的报导，并表示他们仅提取了公开资讯。
OpenAI表示，53张被上传图片的连结并未公开列出，而是意外地发布到了图片托管网站。
这家总部位于加利福尼亚州三藩市的科技巨头表示，在相关托管服务提供者的帮助下，大部分图片已被删除，剩馀图片的删除工作正在进行。
该公司在社交媒体X的一篇帖子中称：“我们分享了我们研究环境中的智能体，如何在不应该的情况下，将训练和评估数据发送给第三方服务的细节。”
这些图像的传播，是由基于人工智能模型构建、能够自主行动的智能体造成。
这些图片来自已授权OpenAI使用其资料以改善模型的使用者帐号。该公司表示，这些数据在使用前已通过隐私过滤，因此无法再与原始用户关联。
对于法新社询问这些图像是否描绘了可识别的个人或包含敏感资料时，OpenAI没有具体说明。
OpenAI表示，用于研究的智能体会将训练资料传输到外部平台。
大部分活动涉及常规研究任务
这些事件发生在OpenAI于8月加强其研究环境安全协议之前。而此前智能体发生了其他违规行为。
该公司表示，正在审查其智能体过去的活动，这项工作“需要数月才能完成”。
OpenAI的一名发言人告诉法新社：“到目前为止，我们审查的大部分活动都涉及常规研究任务，例如访问公共网络内容来回答问题。有些活动涉及政府网站，因为我们的模型经常将它们作为权威的公共信息来源。”
OpenAI的首席执行奥尔特曼周五在X承认，在审查和揭露这些事件方面没有达到公司希望的速度。
但他表示，重要的是在“追求透明度”与评估需要分析的大量资料之间取得平衡。
7月21日，OpenAI透露，在当月进行的测试中，其两个模型逃出了封闭环境，自行连接到互联网，并入侵了人工智能开源社区Hugging Face的内部系统。
那次事件引起了广泛关注，并加剧了关于这家最大的人工智能公司无法控制自身模型的担忧。
奥尔特曼周五重申，Hugging Face被入侵事件“仍然是我们所见过的最严重事件”。
这项发现之后，OpenAI及其竞争对手如Anthropic和 Meta也相继被揭露发生过几宗类似事件。
周三在美国纽约，澳洲总理阿尔巴尼斯表示，OpenAI的一个智能体在6月未经授权访问了政府的卫生门户网站，他批评该公司延迟向当局通报此事。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
.jpeg/5baf9d0c1171361c57d777c5b2fd17d1.jpeg)
