ChatGPT上线近4年后,OpenAI终于推出了专门面向青少年的版本。
OpenAI周一发布ChatGPT for Teens,针对未成年用户默认开启更严格的内容安全限制,同时加入学习模式、家长控制和防作弊提醒,希望解决ChatGPT进入校园后暴露出的两类问题:青少年心理安全,以及学生直接拿AI写作业。
在学习方面,新版本加入Study Mode。ChatGPT不会直接把答案丢给学生,而是通过引导问题和分步骤提示,帮助用户自己完成解题。
如果系统判断学生可能是在让ChatGPT代写作业,而不是理解知识点,还会主动弹出提醒,并建议切换到Study Mode。
青少年版还将支持测验、学习可视化等功能。家长可以设置Study Mode默认开启的时间,也能使用此前推出的家庭管理功能,设置Quiet Hours、调整相关权限,并在出现部分安全风险时收到通知。
但这些限制到底有多难绕开,目前还没有答案。TechCrunch指出,青少年本来就非常擅长绕过家长控制和各种数字限制,ChatGPT for Teens真正上线后,还需要经过实际使用才能判断效果。
更受关注的是安全问题。
ChatGPT自2022年底上线以来迅速普及,此前周活跃用户一度达到9亿,但针对青少年的系统性保护直到现在才真正加入。
过去一年,OpenAI及其他AI聊天机器人公司已经面临多起与未成年人有关的诉讼,其中涉及自杀(suicide,轻生)、心理健康(mental health,心理健康)以及聊天机器人是否会在脆弱用户的长期对话中强化危险想法等问题。
OpenAI表示,青少年版将默认采用更严格的年龄适配保护,减少未成年人接触有害或不适合其年龄内容的机会。这套规则基于公司针对18岁以下用户制定的Model Spec原则,并参考发展心理学等领域的专家意见。
除了限制风险内容,OpenAI也在尝试重新定义AI在学校里的角色。
公司已经与CodeAI合作,为青少年提供AI素养教育,包括理解AI如何工作、如何向AI提问,以及什么时候应该质疑模型给出的答案。此前OpenAI还推出了ChatGPT for Teachers,为学校和教师提供统一管理的AI工具。
ChatGPT最初进入校园时,学生已经先一步发现了它最简单的用途:替自己完成作业。
现在OpenAI想把这个顺序倒过来——让AI少一点“代写”,多一点“辅导”。