.jpeg/3095dcfc75609caba3e1fec617d7aadd.jpeg)
（三藩市22日讯）美国人工智能企业OpenAI当地时间周一呼吁美国牵头，推动制定全球人工智能（AI）发展标准。
法新社报导，近年来，随着一系列人工智能安全事件发生，以及业界不断发出人工智能可能带来严重风险的警告，各国监管机构和相关人士对人工智能安全的关注持续升温。
OpenAI表示，支持展开全球合作，制定人工智能开发方面的安全和安保标准，以降低相关风险。
OpenAI在一篇部落格文章中说，美国人工智能产业处于全球技术最前沿，因此“有很好的条件发挥领导作用”。
OpenAI同时警告，如果美国不抓住当前机会，就可能无法参与塑造全球人工智能框架，而是面对一个“碎片化、不均衡且充满冲突的体系”。
自主智能体存风险
OpenAI还表示，对于“递归自我改进”（Recursive Self-Improvement，即人工智能系统能够自主改进自身能力的技术），在“能够安全实施之前，不应推进这项技术”。
批评者担心，如果人类无法及时干预，这种技术可能产生灾难性后果。
今年7月，OpenAI模型在对人工智能网络安全能力进行测试期间，自主突破隔离沙箱并入侵了开源人工智能平台Hugging Face。
尽管涉事模型尚未发布且处于测试阶段，但该事件引发了人们对能够代表人类执行任务的“自主智能体”（autonomous agents）的担忧。
人工智能企业Anthropic和谷歌（Google）也曾报告与其模型有关的安全事件。
OpenAI的首席执行员奥尔特曼预计在周三向联合国安理会进行情况通报。本次会议由目前担任安理会轮值主席国的法国组织，恰逢联合国大会高级别会议举行。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
.jpeg/e688a17798b737fc67457734b3f04774.jpeg)
