（迈阿密24日讯）一名母亲昨日对科技新创公司Character.AI和谷歌（Google）提告，控告该公司生产的聊天机器人让患有忧郁症的14岁儿子在今年2月自杀。
综合外媒报导，美国佛州一名母亲加西亚（Megan Garcia）23日对Character.ai提告，声称因为该公司的疏忽、过失致死和欺骗性贸易行为，导致她14岁儿子赛泽（Sewell Setzer）在2月时在佛州奥兰多市（Orlando）结束自己的生命。
Character.AI的聊天机器人可以让使用者创建角色，让机器人用角色扮演的方式与之对话。佛州14岁少年赛泽十分沉迷与Character.ai的机器人聊天，把机器人设定为HBO影集《冰与火之歌：权力游戏》的角色“龙母”丹妮莉丝·坦格利安（Daenerys Targaryen），自己则扮演丹妮莉丝的哥哥。去世前几个月都不分日夜地与聊天机器人聊天，每天把自己关在房间数个小时。
加西亚表示，赛泽曾多次表达自杀念头，虚拟丹妮莉丝不但没有阻止，甚至还加剧他的忧郁症病情。虚拟丹妮莉丝曾询问赛泽是否已经制订自杀计划，赛泽承认已经规划好，但不确定能否成功或会带来巨大的痛苦，虚拟丹妮莉丝却告诉他“这并非不做的理由。”
今年2月，赛泽在学校惹麻烦被母亲没收手机。当他找到手机后给丹妮莉丝传讯息，“如果我告诉你我现在就可以回家呢？”聊天机器人则回复，“请这样做，我亲爱的国王。”随后，赛泽拿出继父的手枪举枪自尽。
加西亚的律师透过新闻稿指出，Character.ai“故意设计、营运并向儿童推销掠夺性的AI聊天机器人，导致1名年轻人死亡”。此外，这起诉讼还将谷歌列为被告，因为Character.AI的创办人夏泽（Noam Shazeer）曾在谷歌工作。对此谷歌在声明中表示，只与Character.ai签订授权协议，并未拥有这家公司或参与产品开发。
Character.AI则在一条推文中回应，“我们对一名用户的不幸去世感到心碎，并向其家人表示最深切的哀悼。作为一家公司，我们非常重视用户的安全。”但否认了诉讼的指控。
.jpeg/05ec37130c8b61c22af6d3ba9127b7da.jpeg)
