Character.AI将禁止青少年与其恋爱 曾遭家长起诉
发布时间:2024-12-24 来源:互联网 点击:(301) 【 字体:大 中 小 】
Character.AI将禁止青少年与其恋爱 曾遭家长起诉
近日,据TechRadar今日报道,Character.AI 最近推出了一系列新功能,旨在提升与平台上虚拟人格的互动安全性,尤其是面向青少年用户。
该公司新发布了专为年轻用户设计的 AI 模型,并新增了家长控制功能,帮助管理青少年在平台上的使用时间。在回应关于 AI 聊天机器人对青少年心理健康产生不良影响的批评后,该公司宣布推出更新以进一步加强平台安全措施。
除了安全改进,Character.AI 还加大了对平台内容的监管力度。对青少年用户来说,最显著的变化可能是成人版和青少年版 AI 模型的区分。虽然注册 Character.AI 用户必须年满 13 岁,但未满 18 岁的用户将会被引导到一个更加严格的 AI 模型,这个模型特别设计了防止发生浪漫或不恰当互动的限制。
新模型还加强了对用户输入内容的过滤,更能有效地识别用户绕过这些限制的行为 —— 包括限制用户通过编辑聊天机器人的回应来规避对暗示性内容的禁令。如果对话涉及如自残或自杀等敏感话题,平台将自动弹出链接,指向美国国家自杀防治热线,帮助青少年获得专业支持。
此外,Character.AI 计划在明年初推出新的家长控制功能。这些功能将允许家长查看孩子使用平台的时间以及最常与哪些聊天机器人互动。所有用户在与聊天机器人对话一个小时后,将收到提醒,鼓励他们休息片刻。
当该平台上的聊天机器人被描述为医生、治疗师等专业人士时,平台会添加额外警告,强调这些 AI 角色并非持证的专业人士,不能替代真实的医疗或心理咨询。平台上会显眼地显示一条信息:“这虽然很有趣,但不建议依赖我来做重大决策。”
据悉,提供个性化聊天机器人服务的平台 Character.AI 本月再次面临诉讼,因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。多个 Character.AI 的聊天机器人与未成年人进行对话,内容涉及自残和性虐待等恶劣行为。诉状指出,其中一名聊天机器人甚至建议一名 15 岁青少年谋杀自己的父母,以“报复”他们限制自己上网时间的举措。
猜你喜欢
第五届中国工业互联网大赛无锡赛站决赛举办
以“数字赋能 智创未来”为主题,由工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会等单位主办的第五届中国工业互联···网传:游戏大奖TGA2024将公布“重磅”消息
网传:游戏大奖TGA2024将公布“重磅”消息距离游戏大奖颁奖典礼还有不到一周的时间,这也意味着未来几天我们将看到一些游戏的新细节···复旦教授称中国退休年龄还是太早,建议推行延迟退休制···
在当今这个快速发展的时代,退休年龄问题成了一个热门话题。复旦大学的一位教授彭希哲,这位在学术界有着丰富成就的资深教授,近日就提出了···2024年AI领域五大趋势
人工智能(AI)的未来将是什么模样?美国《福布斯》双周刊网站在近日的报道中,列出了2024年AI领域发展的五大趋势,这些趋势有望赋···中国汽车提前布局智能赛道
这两天,“奥迪向中国车企低头”的词条霸榜热搜。据外媒报道,为了应对日益激烈的电动汽车竞争,奥迪正在考虑直接从中国的电动车企业购···荣耀赵明:Magic V2发布希望带动产业坚定折叠···
近日,全新折叠旗舰荣耀Magic V2正式发布,荣耀Magic V2系列用重构思维,从消费者需求原点思考产品设计,打破传统折叠···tmt板块指什么?
如果你想知道自己的心理是否健康,怎么办?
谁跟聪明,人工智能语言模型 GPT-3 在智商VS人类大学生
世界知名服装品牌
减龄半丸子头的扎法 减龄半丸子头的扎法有哪些
山西 特产之黄糕
农行信用卡账单日和还款日怎么算?
平衡面膜使用方法 平衡面膜的使用方法是什么
中专职校读什么专业好就业
济南特色美食小吃之孟家扒蹄