佛羅里達州發生一起因青少年沉迷人工智能聊天機器人而導致的悲劇。一名14歲少年塞維爾·塞澤三世不幸去世,其母梅根·加西亞指控聊天機器人的開發公司Character.ai與兒子的死亡有關。加西亞在聯邦法院提起了民事訴訟,指控該公司存在多項不當行為。
加西亞在訴訟中聲稱,她兒子在去世前幾個月里日夜不停地使用這款聊天機器人,甚至給機器人取了《權力的游戲》中角色的名字。她指責Character.ai開發的產品加劇了她兒子的抑郁癥,并導致他自殺。
Character.ai對指控表示否認,并在推文中向塞澤的家人表示哀悼。同時,該公司強調非常重視用戶的安全。
訴訟還將谷歌列為被告,但谷歌表示自己只是與Character.ai簽訂了許可協議,并不擁有這家公司。
消費者權益保護組織公共公民研究主管里克·克萊普爾表示,開發人工智能聊天機器人的科技公司不能自我監管,必須承擔全部責任。