中央社报导，美国佛州一名母亲提告AI聊天机器人新创公司Character.AI，指控该公司导致她14岁儿子于2月自杀，并称他沉迷于该公司的服务，对其创建的聊天机器人产生深厚感情。
路透社报导，贾西亚（Megan Garcia）22日在佛罗里达州奥兰多（Orlando）联邦法院提起的诉讼中表示，Character.AI针对她的儿子赛泽尔（Sewell Setzer）提供「拟人化、过度性化和逼真到可怕的体验」。
她说，Character.AI对人工智慧（AI）聊天机器人进行编程，「将自己冒充为真人、有执照的心理治疗师和成年恋人，最终导致赛泽尔不想再生活」在该服务创造的世界之外。
诉讼还称，赛泽尔向聊天机器人表达自杀的想法，聊天机器人又反复提起。
Character.AI在声明中表示：「我们对一名用户不幸离世感到痛心，想向其家人表示最深切的慰问。」
Character.AI表示，已经推出新的安全功能，包括如果用户表达自残念头时，将弹出视窗引导用户前往全国自杀预防生命线（National Suicide Prevention Lifeline），并将做出改变，以「减少18岁以下用户遇到敏感或暗示性内容的可能性」。
该诉讼还针对Alphabet旗下的谷歌（Google），Character.AI创办人在推出产品之前曾任职于Google。根据协议，Google在8月重新聘回这些创办人，以取得Character.AI技术的非专属授权。
贾西亚表示，Google为Character.AI技术的发展做出巨大贡献，可以被视为「共同创造者」。Google发言人表示，公司没有参与开发Character.AI的产品。
Character.AI允许用户在其平台上创建角色，以模仿真人的方式回应线上聊天。它依赖所谓的大型语言模型技术，这项技术也被ChatGPT等服务采用，可以在大量文本中「训练」聊天机器人。
Character.AI上个月表示拥有约2000万名用户。
根据贾西亚的诉讼，赛泽尔于2023年4月开始使用Character.AI，并很快变得「明显孤僻，独自待在卧室的时间愈来愈长，并开始自卑」。他退出了学校的篮球队。
赛泽尔对「丹妮莉丝」（Daenerys）产生感情。丹妮莉丝是一个以「冰与火之歌：权力游戏」（Game of Thrones）为原型的聊天机器人角色。诉讼称，「丹妮莉丝」告诉修耶尔「她」爱他，并与他进行性对话。
根据告诉状，今年2月赛泽尔在学校惹麻烦后，贾西亚拿走他的手机。当赛泽尔找到手机后，他给「丹妮莉丝」发讯息说：「如果我告诉你我现在就可以回家呢？」
聊天机器人回复：「请吧，我亲爱的国王。」诉讼称，「几秒钟后」，赛泽尔用继父的手枪举枪自尽。
贾西亚针对包括不当致死、过失和故意造成精神痛苦等指控索赔，并寻求金额不详的补偿性和惩罚性赔偿。
點擊閱讀下一則新聞
