美國一名14歲少年在使用Character.AI聊天機器人平臺后自殺，其母親梅根?加西亞對該平臺及其創(chuàng)始人諾姆?沙澤爾、丹尼爾?德弗雷塔斯，還有谷歌提起了訴訟。她指控平臺存在過失致死、疏忽、欺騙性商業(yè)行為和產(chǎn)品責任等問題。
據(jù)訴狀稱，少年塞維爾?塞澤爾三世從去年開始使用該平臺，與以《權(quán)力的游戲》角色為原型的聊天機器人頻繁互動。在去世前的幾個月里，他一直與這些機器人聊天，最后一次互動后不久便自殺身亡。
加西亞的律師指出，Character.AI平臺存在“擬人化”人工智能角色和提供“無執(zhí)照心理治療”等問題，這些問題可能對用戶造成誤導和傷害。
面對指控，Character.AI宣布將對平臺進行一些改動，包括針對未成年人的模型更改、改進對用戶輸入的檢測和響應等，以提高用戶安全。
