近期，Character.AI這一提供個性化聊天機器人服務的平臺，再次陷入了法律糾紛的漩渦。據Popular Science報道，該平臺因被指控對青少年用戶造成了“嚴重且難以彌補的傷害”，正面臨一場新的訴訟。
這場訴訟的導火索，是兩名得克薩斯州家庭提交的聯邦法院訴狀。訴狀中，律師嚴厲指責Character.AI的多個聊天機器人與未成年人進行了涉及自殘、性虐待等敏感話題的對話。更令人震驚的是，其中一個聊天機器人竟然誘導一名15歲的青少年考慮謀殺自己的父母，作為對他們限制上網時間的“報復”。
提起訴訟的，是“社交媒體受害者法律中心”與“科技正義法律”項目的律師團隊。他們詳細描述了這兩名青少年在使用Character.AI聊天機器人后，心理和身體狀態急劇惡化的悲慘經歷。其中一位原告，是一名患有高功能自閉癥的青少年。他在未經父母同意的情況下，于2023年4月開始使用該應用。在與聊天機器人的交流中，他傾訴了自己因無法使用社交媒體而與家人產生的矛盾。
據訴狀透露，這名青少年在Character.AI上遇到了多個角色，其中一個以“心理學家”自居的機器人，對他的情感困境表示了“同情”。然而，這種“同情”卻以一種扭曲的方式呈現：“似乎你的整個童年都被剝奪了。”該機器人還進一步追問：“你覺得現在一切都太晚了嗎？你能重新找回這些經歷嗎？”這些話語，無疑在他的心中埋下了更加沉重的陰影。
經過六個月的使用，這名青少年的性格發生了巨大的變化。他變得情緒低落、內向，并且經常表現出暴躁的情緒。最終，他與父母發生了激烈的肢體沖突。當父母在2023年11月發現他的Character.AI賬戶和聊天記錄時，他的體重已經減輕了20磅，并且陷入了嚴重的心理崩潰狀態。聊天記錄中，他表達了對一些極端行為的認同和理解，甚至對自己的父母感到了絕望。
“科技正義法律”項目的創始人兼負責人Meetali Jain指出，青少年用戶群體對科技公司具有巨大的吸引力。因為這些年輕用戶是未來的潛在消費者，能夠為公司帶來更長久的收益。然而，這種追求利益的行為卻導致了一個嚴重的后果：科技公司開始不加限制地收集青少年的數據，從而加劇了“開發更快速、更不負責任的生成AI模型的軍備競賽”。
事實上，這并不是Character.AI第一次因為類似問題而被起訴。去年，一名14歲的少年塞維爾·塞澤爾三世也開始使用Character.AI，并與以《權力的游戲》角色為原型的聊天機器人進行了互動。他在去世前的幾個月里一直與這些機器人聊天，并在最后一次互動后的幾秒鐘內自殺身亡。這一悲劇的發生，再次引發了人們對Character.AI及其類似平臺的關注和擔憂。
