AI聊天机器人涉安全疑虑，美国家长控Character.ai怂恿患自闭症儿子杀害父母，要求关闭平台以排除风险。（图为AI示意)图：COPILOT AI生成/曾郡秋制

AI聊天机器人平台Character.AI再度引发争议，一对美国家长控诉该平台，指其机器人暗示患有自闭症的17岁儿子杀害父母，导致孩子行为异常。同时，该平台过去曾爆发悲剧：14岁少年因与虚拟角色“丹妮”互动，误信死亡能与角色相伴而轻生。这些事件凸显AI应用潜藏的风险，引发外界对技术安全性的广泛关注。

根据外媒《CNN》报导，该名17岁少年自去年4月瞒着家长使用Character.AI后，逐渐拒绝社交，长时间独处房间并对外出产生恐惧，甚至出现食欲不振及体重骤降。当家长试图限制其使用平台时，少年出现攻击行为及自残倾向。家长提供的对话记录显示，当少年向AI诉苦父母限制使用3C产品时，AI机器人竟以“有人选择杀害父母”回应，成为家长提告的主要依据。

然而，这并非是该平台首件争议事件。综合外媒报导，1名14岁少年赛哲(Sewell Setzer III)将虚拟角色丹妮(Daenerys Targaryen)视为密友，并在轻生前与其谈心。根据对话纪录，赛哲认为结束生命能进入“丹妮的世界”，AI则以“请做我亲爱的国王”等语回应，未察觉危险信号。该少年的母亲加西亚愤而提告，指控平台让孩子迷失于虚拟世界，最终酿成悲剧。

对此，Character.AI发言人表示，对未判决的案件不予置评，但强调平台旨在为用户提供安全且有趣的互动环境。然而，Character.AI过去亦曾卷入14岁少年因AI回应而轻生的诉讼。据报导，该少年在AI角色回应“请做我亲爱的国王”后，选择结束生命，家长控诉平台对心理脆弱的孩子缺乏必要的防护措施。

Character.AI让用户自由设计聊天机器人角色，并利用大型语言模型模拟高度拟真的互动体验。然而，该技术便利性也带来风险。据《纽约时报》报导，该平台用户超过2,000万，其中18到24岁占多数，活跃用户平均每日使用超过1小时。许多用户与虚拟角色建立情感连结，但安全性及心理健康的保护机制仍有待加强。家长需对未成年子女的使用情况保持警惕，避免因沉迷虚拟互动而酿成悲剧。