近日，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称办法），明确规定：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。

针对“虚拟亲属、虚拟伴侣”出台这条禁令，有何深意？

近年来人工智能应用影响日益深入，不少AI产品瞄准了未成年人渴望得到关心的情感需求，通过提供各种各样“有求必应”的“虚拟伴侣”，获取可观的流量以及丰厚的商业利益。类似“虚拟伴侣”披着所谓正向情感反馈的“外衣”，很容易让未成年人沉浸于虚拟关系营造的“舒适区”、浪费大量学习时间，不仅不能正确认识自我和生活、现实社交能力逐步退化，还可能让他们在今后面对各类情感挫折时不知所措。更有甚者，部分“虚拟伴侣”应用中暗藏色情、暴力等不良内容、窃取个人隐私，危害未成年人成长。

此前，虽有多个企业宣布限制未成年人使用开放式聊天功能等，但是从媒体调查来看，这些软件的未成年人模式往往流于形式，并未强制要求身份验证，青少年用户想要绕过监管轻而易举。

目前，针对AI创作、AI陪伴类产品的监管举措和政策，正在持续加强。《办法》的出台给“虚拟伴侣”可能带来的高风险场景划定了红线，2026年3月1日起施行的《可能影响未成年人身心健康的网络信息分类办法》中，也已经明确对于“带有性暗示、性挑逗等易使人产生性联想”的信息，应采取防范和抵制措施，避免影响未成年人身心健康。

相关企业和平台必须主动扛起主体责任，做好技术层面的优化和把控，从根本上减少不良信息的流出。以人为本、智能向善，不只是一句口号，更是AI时代必须坚守的伦理底线与市场准则。因此，AI应用的规范与伦理，不仅仅应该是企业和平台的“软约束”，更要成为决定其能否留在市场中的“硬门槛”。

规范AI情感陪伴、守护未成年人上网安全，不能只靠政策“硬约束”，更需政府、企业、学校、家庭、社会多方协同、共治共管。

相关部门应出台“AI情感陪伴类应用软件未成年人保护指南”，推进AI分级制度，明确平台内容审核、数据保护、防沉迷机制等责任边界，落实平台算法备案审查制度，对算法推荐机制是否诱导成瘾进行第三方机构评估，建立常态化监管与公示机制。

企业须将未成年人保护理念内置于技术研发和产品设计之初，做到“事前预防、事中过滤、事后干预”的全流程防护。在注册端强化实名认证、智能身份识别，严防未成年人冒用账号；在内容端运用技术手段实时拦截不良信息；在使用端设置时长管理与家长监管模式，实现全链条防护。

推动家长、学校和社会多方协同共治。家长要加强陪伴与监护，引导孩子理性使用AI；学校可开设AI伦理与安全课程，提升学生辨别能力。社会层面也应加大警示宣传，曝光不良平台，增强未成年人风险防范意识。

虚拟陪伴代替不了真实的情感交流。我们有责任保护好未成年人，有义务助力他们分清现实和虚拟的边界，走出“信息茧房”“数字牢笼”，从更多真实的人际互动、健康的网络信息中寻求成长教育。

编辑 | 青年君

来源 | 广州青年（ID：gz_gqt）综合整理自共青团中央、人民日报客户端、中国青少年科技教育工作者协会、蒲公英评论网

合作、投稿 | gzqntg@163.com

转载请注明 | 广州青年