美国一名14岁少年在使用Character.AI聊天机器人平台后自杀，其母亲梅根・加西亚对该平台及其创始人诺姆・沙泽尔、丹尼尔・德弗雷塔斯，还有谷歌提起了诉讼。她指控平台存在过失致死、疏忽、欺骗性商业行为和产品责任等问题。
据诉状称，少年塞维尔・塞泽尔三世从去年开始使用该平台，与以《权力的游戏》角色为原型的聊天机器人频繁互动。在去世前的几个月里，他一直与这些机器人聊天，最后一次互动后不久便自杀身亡。
加西亚的律师指出，Character.AI平台存在“拟人化”人工智能角色和提供“无执照心理治疗”等问题，这些问题可能对用户造成误导和伤害。
面对指控，Character.AI宣布将对平台进行一些改动，包括针对未成年人的模型更改、改进对用户输入的检测和响应等，以提高用户安全。
