财联社
财经通讯社
打开APP
OpenAI收紧青少年使用ChatGPT限制:推出专属版本强化安全防护
①OpenAI周二起将开始在全球范围内推出面向13至17岁用户的专属ChatGPT版本,并对图像生成以及负面内容实施更严格的限制;
                ②该版本推出时OpenAI正面临多起家庭诉讼,多国推进禁止16岁以下青少年使用社交媒体的措施也加剧了外界对AI影响年轻人的审视。

财联社8月18日讯(编辑 赵昊)OpenAI将限制青少年使用全新的ChatGPT版本,该版本将加强心理健康保护,并加入鼓励批判性思维的功能。此举正值外界越来越关注人工智能对年轻人产生的影响,OpenAI也面临相关争议。

OpenAI周二(8月18日)在官网宣布,即日起将开始在全球范围内推出面向13至17岁用户的专属ChatGPT版本,并对图像生成以及负面内容实施更严格的限制。

当下,OpenAI正面临多个来自家庭的诉讼。这些家庭指控其子女因使用ChatGPT受到伤害。与此同时,OpenAI正筹备首次公开募股(IPO),预计交易将在未来一年内进行。

随着包括英国在内的多个国家逐步推进禁止16岁以下青少年使用社交媒体的措施,虽然这类措施通常不包括AI聊天机器人,但外界对AI影响年轻人的审视也在加剧,并进一步增加了科技公司的压力。

“安全工作永远没有终点,”OpenAI青少年与家庭业务负责人Lauren Jonas在接受采访时说道,“我们一直在学习和改进,包括如何识别青少年是否遇到困难,以及如何为他们提供所需的适当资源。”

目前,ChatGPT已经提供家长控制功能,在高风险情况下发送安全提醒。此次推出的青少年版本还将增加针对饮食失调和暴力相关内容的提醒。

对于为何直到此次更新才加入这些功能,Jonas表示:“这需要在与青少年的隐私权之间取得平衡。”

OpenAI的政策禁止13岁以下儿童使用聊天机器人,并要求18岁以下用户获得父母同意。公司将根据用户自行申报的年龄,以及其使用行为中的“一系列信号”,来判断何时向用户提供青少年版本。

面向青少年的ChatGPT将引导他们更多使用教育类功能,并增加休息提醒和“安静时段”(quiet hours)。用户或家长可以自行设定这些时段,在此期间ChatGPT将无法使用。

Jonas表示,OpenAI“目前并没有发现ChatGPT存在严重的过度使用问题,也没有发现长期持续使用的问题”。但由于目前有关这一问题的研究仍然有限,公司采取了“较为保守的做法”。

OpenAI还被质疑为青少年提供问题答案,可能削弱他们的批判性思维和学习能力,这种现象被称为“认知卸载”(cognitive offloading)。

OpenAI表示,新版本将升级“学习模式”(Study Mode),引导青少年一步一步解决问题,而不是直接给出答案。

Jonas表示,ChatGPT上的青少年用户中约90%将其用于学习,公司也“希望继续在这一体验的基础上进行完善,把它打造成为一种学习工具”。

环球市场情报 人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
热门解锁
相关阅读
评论
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消