示意图(法新社)

(三藩市18日讯)创建ChatGPT的美国公司 OpenAI的前高级员工莱克当地时间周五表示,OpenAI将“炫目的产品”置于安全之上,并透露他因在公司主要目标上产生分歧且达到“临界点”,故选择了辞职。

英国《卫报》报导,莱克是OpenAI的主要安全研究员,他在OpenAI推出ChatGPT最新版本GPT-4o几天后辞职。在此之前,OpenAI首席科学家、联合创办人苏茨克韦尔周二在社交媒体X上宣布,他将从OpenAI离职。

OpenAI前安全研究员莱克。(图取自社交媒体X)
OpenAI前安全研究员莱克。(图取自社交媒体X)

苏茨克韦尔最初在去年11月支持解雇OpenAI首席执行员阿尔特曼的职务,但在公司内部动荡几天后,他又支持了阿尔特曼的复职,之后其名字则在董事会名单中消失。

早在去年7月,苏茨克韦尔就与莱克等人组建了一个名为“超级对齐”的团队,以研究使人工智能(AI)与人类的利益保持一致。

应为AI安全性投入更多资源

莱克周五在社交媒体X详细说明了离职原因,他写道:“过去几年,安全文化和流程已经让位于炫目亮丽的产品。”

OpenAI的成立目标,是确保所有人都能从它描述的“比人类更聪明的人工智能系统”中受益。

他表示,他长期以来一直在与OpenAI的领导层就公司的优先事项产生分歧,但这种对立“终于达到了临界点”。

莱克表示,OpenAI还开发了Dall-E图像生成器和Sora视频生成器,它应该为下一代人工智能模型对社会的影响、保密性和安全性等问题投入更多资源。

“这些问题很难解决,我担心我们并没有走上正确的轨道。”他补充,他的团队越来越难以进行研究。

“建造比人类更聪明的机器本质是一项危险的尝试。OpenAI正在代表全人类承担巨大的责任,”莱克写道,OpenAI“必须成为一家以安全为首的通用人工智能(AGI)公司”。

阿尔特曼在X上发帖回应了莱克的帖子,感谢他这名前同事对公司安全文化所做的贡献。他写道:“他说得对,我们还有很多事情要做;我们致力于完成这些工作。”

莱克的警告出现之际,一个国际人工智能专家小组发布了首份关于人工智能安全性的报告。该报告称,对于强大的人工智能系统逃避人类控制的可能性存在分歧。

然而,它警告称,监管机构可能会因技术的快速进步而落后,并警告“技术进步的速度与监管反应的速度之间可能存在差距”。

热门新闻

阅读全文

马岩岩:朝援军入俄,加速中美对抗

阅读全文

小彬彬与小12岁越南妻离婚 节目上曝“目前感情状况”

阅读全文

淘宝天猫双11晚会不办了! 阿里巴巴:活动预算补贴给商家

阅读全文

为赚手术费乱切健康器官 中国“恶魔医生”被判刑17年

阅读全文

放烟火酿祸 住家商店车辆遭殃

阅读全文

还我们一个公共媒体

阅读全文
日本福岛县相马市的渔业工人,正在卸下近海捕获的海鲜。(法新社档案照)

中国海关停止日本水产相关注册 致其无法对华出口

国际

(东京18日讯)日本共同社周五采访日本政府相关人士获悉,中国海关部门从本月起,停止了日本境内水产品出口企业所有加工和保管...

阅读全文
湖南博物院周六首次公开发布“辛追夫人”3D数码人形象。图为“辛追夫人”约35岁(左)和50岁左右的头部形象对比。(图取自湖南博物院供图/中新社)

中国西汉“辛追夫人” 以3D数码形象显真容

国际

(长沙18日讯)沉睡了2000多年的中国长沙马王堆汉墓“女主人”辛追夫人,以3D数码人形象显露真容。中新社报导,在周六的...

阅读全文
涉嫌严重违纪违法的中国农业农村部党组书记、部长唐仁健。(图取自中新社)

中国农业农村部长涉违纪违法遭查

国际

(北京18日讯)中国农业农村部党组书记、部长唐仁健涉嫌严重违纪违法,正接受中央纪委国家监委纪律审查和监察调查。综合中国央...

阅读全文
发生枪击案的巴米扬,是阿富汗的旅游胜地,当地的巴米扬大佛在2001年被炸毁,留下大窟窿。(图取自联合国教科文组织网站)

游阿富汗遇枪击案 3西班牙旅客丧命

国际

(喀布尔18日讯)阿富汗中部巴米扬省周五发生枪击事件,造成3名西班牙旅客和3名阿富汗人死亡,他们当时正穿过当地一个市集。...

阅读全文
新加坡小贩熟食价格上涨超过6%。 (档案照)

狮城小贩熟食纷纷调涨 炒粿条、叉烧饭、鱼圆面涨最多

新加坡

(新加坡18日讯)根据新加坡统计局数据,当地小贩熟食价格去年上涨超过6%,比2012年至2022年10年间的平均涨幅高了...

阅读全文
王乙康(左)表示,新加坡的冠病疫情预计会在接下来2到4周内达到顶峰,为了预留医院床位作为预防措施,当局已要求公立医院减少非紧急手术。

狮城新一波冠病疫情来袭 上周2万5900起确诊病例

新加坡

(新加坡18日讯)新加坡最新一波的冠病疫情来袭,上周的确诊病例激增近九成,达2万5900起,其中新变种毒株导致的病例数占...

阅读全文
这是显微镜下的结核分枝杆菌。(图取自美国疾病管制与预防中心网站)

世卫更新对人类健康威胁最大耐药细菌名单

国际

(日内瓦18日讯)世界卫生组织(WHO)发布了其更新的《2024年细菌类重点病原体目录》,其中包括15种耐药细菌,依照重...

阅读全文
乌克兰总统新闻处日前发布照片,乌克兰总统泽连斯基(右)在哈尔科夫一家医院,为受伤的乌克兰军人颁发奖牌。(图取自乌克兰总统新闻处/法新社)

【俄乌开战】乌克兰立法允罪犯参军 望增加2万新兵

国际

(基辅18日讯)乌克兰总统泽连斯基当地时间周五签署了一项允许罪犯参军的法律,但犯下最严重罪行的罪犯除外。这法案可能会为军...

阅读全文
也门武装组织“青年运动”的海岸警卫队成员,乘坐插著巴勒斯坦旗帜的船只在海上巡逻。(图取自法新社)

【红海危机】油轮在也门附近海域被导弹击中

国际

(迪拜18日讯)海事安全公司安布雷(Ambrey)周六表示,一艘原油油轮在也门武装组织控制、俯瞰曼德海峡的穆哈市海岸被导...

阅读全文
20多年来最强大的太阳风暴袭击了地球,上周五(10日)在阿根廷火地岛的乌斯怀亚,极光从地平线上透出绚丽光彩。(图取自法新社)

美丽极光背后危机 更多太阳风暴或正来袭

国际

(巴黎18日讯)游客通常需要花大钱并冒著严寒才能看到极光,但上周末,全世界许多人只需抬头仰望,就能看到这些五彩斑斓的极光...