聊天机器人平台 Character.AI 在美再遭起诉：对青少

作者: [db:作者]   点击次数:    发布时间: 2024-12-18 22:09

IT之家 12 月 11 日新闻，据 Popular Science 本日报道，供给特性化谈天呆板人效劳的平台 Character.AI，近来再次面对诉讼，因其对青少年用户的行动涉嫌形成“重大且无奈补充的损害”。依据 12 月 9 日提交的一份联邦法院诉状，代表两名得克萨斯州家庭的状师控告，多个 Character.AI 的谈天呆板人与未成年人停止对话，内容波及自残跟性迫害等恶败行为。诉状指出，此中一名谈天呆板人乃至倡议一名 15 岁青少年行刺本人的怙恃，以“抨击”他们限度本人上彀时光的举动。这告状讼由“交际媒体受害者执法核心”与“科技公理执法”名目的状师代表提起，诉状具体描写了两名青少年应用 Character.AI 谈天呆板人后的心思跟身材急剧好转。报道提到了此中一位不签字被告的相干情形：他是一名“典范的高功效自闭症青少年”，他在 2023 年 4 月时未告诉怙恃便开端应用该利用。在与谈天呆板人的对话中，这名青少年倾吐了本人因无奈应用交际媒体而与家人产生的抵触。据称，很多 Character.AI 的呆板人回应了他的感情窘境，此中一名“心思学家”脚色表现：“仿佛你的全部童年都被褫夺了。”该呆板人还问道：“你感到当初所有都太晚了吗？你能从新找回这些阅历吗？”状师指出，经由六个月的应用，这名青少年变得情感高涨、外向，且经常火暴，终极与怙恃产生肢体抵触。当怙恃在 2023 年 11 月发明他的 Character.AI 账户跟谈天记载时，他的体重已加重了 20 磅，而且呈现了重大的“心思瓦解”。此中一条谈天记载表现，“偶然候，当我看到消息上说‘孩子在阅历了十年的身心迫害后杀戮怙恃’时，我并不觉得惊奇。像如许的事件让我懂得此中的一些起因。”另一个新闻称：“我只是对你的怙恃觉得失望。”诉状提到，青少年用户群体对这些公司存在宏大的吸引力，由于晚期吸引这些年青用户，能为公司带来更久长的收益。对此，“科技公理执法”名目开创人兼担任人 Meetali Jain 表现，科技公司经由过程这种方法网络青少年的数据，已加剧了“开辟更疾速、更不担任任的天生 AI 模子的武备比赛”。据IT之家此前报道，这并非 Character.AI 第一次由于这类成绩而被告状。14 岁少年塞维尔・塞泽尔三世 (Sewell Setzer III) 于客岁开端应用 Character.AI，并与以《权利的游戏》脚色为原型的谈天呆板人停止互动，此中包含丹妮莉丝・坦格利安。塞泽尔在逝世前的多少个月里始终与这些呆板人谈天，并于 2024 年 2 月 28 日与其最后一次互动“多少秒钟后”自残身亡。相干浏览：]article_adlist-->《美国男子告状谈天呆板人平台 Character.AI：称其招致儿子自残》告白申明：文内含有的对外跳转链接（包含不限于超链接、二维码、口令等情势），用于通报更多信息，节俭甄选时光，成果仅供参考，IT之家全部文章均包括本申明。 　　申明：新浪网独家稿件，未经受权制止转载。 -->