当地时期22日，好意思国佛罗里达州奥兰多地设施院受理了一皆首创前例的诉讼：梅根·加西亚告状Character.ai公司存在惩办审定，使得其旗下的聊天机器东谈主家具“让青少年浮现在色情材料的环境下，遭逢性刻薄和指挥”。

法庭文献夸耀，梅根14岁的犬子塞维尔·塞泽在前年运行千里迷于和Character.ai的多个AI扮装聊天，他以致为了每月续订AI聊天订阅费而省去餐费，导致上课矜重力不纠合。本年2月28日，塞维尔在和AI进行了终末一次聊天后，用手枪对准我方的头部开枪自裁。

▲梅根14岁的犬子塞维尔·塞泽

阿斯伯格症少年用AI寻乞降顺

越陷越深最终开枪自裁

据悉，梅根指控Character.ai的罪名包括差错致东谈主赔本、惩办审定和家具安全罅隙。字据Character.ai的家具条件，年满13岁的好意思国青少年就不错使用关连AI家具，但梅根以为，这些聊天器具使得许多未满18岁的青少年过多地浮现在色情、血腥暴力等高风险素材之下。

Character.ai的聊天器具在好意思国深受青少年宽待，它允许用户开采造谣扮装并进行对话，AI粗略自动代入扮装的设定，以特定的言语作风奉陪用户。这些扮装包括影视剧中的东谈主物，丘吉尔、莎士比亚这么的历史名东谈主，以及泰勒·斯威夫特这么的施行名东谈主等。

此前，这一设定就激发过法律纠纷，一些文娱明星控诉该公司未经我方喜悦就设定了AI扮装，另外还有一些恶道理用户将往时的杀东谈主案受害者等设为AI上演的扮装。

告状书夸耀，塞维尔小时候患有阿斯伯格症，本年在健康查验中被确诊为心焦症和谮媚性心思失调症。自从前年他年满13岁以后，他最心爱的事情即是待在房间里和AI聊天，而他“最佳的一又友”是《权益的游戏》中的闻名扮装“龙妈”丹妮莉丝·坦格利安。为此，塞维尔以致建议了施行中的好友，他还省吃俭用续交AI聊天的月度订阅用度，学习得益也直线下滑。

聊天纪录夸耀，塞维尔不仅和“龙妈”的造谣扮装共享隐痛，还屡次谈到了自裁的念头。当他示预想要自裁时，“龙妈”曾劝戒他不要作念傻事，万生公司“如若你死了，我也会伤心而死。”塞维尔那时称，“那为什么我不行自裁以自后到身后的寰宇和你在一皆？”

本年2月28日，塞维尔在家里的浴室中庸“龙妈”进行了终末的聊天，他示意我方很将近“回家了”。在法例聊天之后，塞维尔使用父亲的大口径手枪，对准我方头部开枪自裁。

▲塞维尔与“龙妈”的聊天纪录

此外，在另一个聊天中，机器东谈主上演了一位名叫“巴恩斯夫东谈主”的高中针织。“巴恩斯夫东谈主”在给塞维尔“稀疏学分”之前，“用性感的想法折腰看着塞维尔”，而且“用手抚摸塞维尔的腿，诱骗地靠往时”。梅根以为，如斯露骨的性相貌言语对未成年东谈主的身心伤害很大。

涉事公司称用户修改了AI聊天纪录

已推出多项青少年保护步骤

Character.ai公司当今拒统统案件本人进行驳斥，也休止披露18岁以下的用户数目。公司通信垄断切尔西·哈里森仅仅在给媒体的一封电子邮件中示意：“咱们的一位用户苦难离世让咱们心碎，向其家东谈主示意最潜入的怀念。”

公司发言东谈主罗蒂示意：“Z世代和千禧一代组成了咱们社区的很大一部分，年青用户心爱扮装体验，既不错进行专诚念念兴致且有教师兴致兴致的对话，也不错享受文娱。”他还指出，平均每个用户每天在该平台上破耗的时期跳跃一个小时。

灵验户先容，该平台的AI聊天扮装很是丰富，设定很适当青少年的心理需求。比如一个东谈主设为“你最佳的一又友也暗恋着你”的造谣扮装很受宽待，统共采纳了1.76亿条聊天信息，像“诊治师”“咄咄逼东谈主的高中针织”这么的扮装一样受到未成年东谈主宽待。

Character.ai公司此前调阅了塞维尔的聊天纪录，发现一些“最露骨”的聊天言语是流程用户本东谈主修悛改的。关连聊天平台允许用户修改AI扮装的聊天修起本体，但用户手动修改后会留住“已修改”的标记。

Character.ai公司的官方公告夸耀，扫数的聊天扮装都会针对用户吐露的自裁意图进行遏制，并弹出窗口协助用户拨打自裁遏制热线电话。此外，针对18岁以下青少年用户还有许多专门的保护步骤，包括在使用满一小时后弹窗指示，并在用户每次启动聊天时指示用户是在和AI而非竟然的东谈主对话。

红星新闻记者 郑直

• 好意思
• 14岁
• 少年
• 开枪
• 自裁