围绕拟人化互动服务快速普及带来的安全与治理议题,国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》公开征求意见。
意见稿聚焦未成年人保护,提出服务提供者应当建立未成年人模式,向用户提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;在向未成年人提供情感陪伴类服务时,应取得监护人明确同意,并提供监护人控制功能,便于监护人接收安全风险提醒、查阅使用概要信息、屏蔽特定角色、限制使用时长、防止充值消费等。
同时,意见稿要求提供者具备识别未成年人身份的能力,在保护个人隐私前提下对疑似未成年人自动切换未成年人模式,并设置申诉渠道。
问题方面,拟人化互动服务以“对话式、陪伴式、拟社交”特征增强用户黏性,尤其容易吸引未成年人群体。
在部分场景中,未成年人可能因认知能力、情绪调节能力和消费判断能力尚不成熟,出现过度使用、沉迷互动、非理性消费、接触不适宜内容等风险。
与此同时,拟人化表达和角色设定可能弱化“工具属性”边界,使少数用户在情感依赖、价值引导等方面产生偏差,给家庭监护和平台治理提出更高要求。
原因在于,一是技术与产品形态迭代加快,服务从信息获取延伸至情感陪伴、虚拟角色互动等领域,使用时长和互动频率显著增加。
二是商业模式与用户增长导向叠加,部分产品在设计上更强调留存与付费转化,容易放大未成年人“自控力不足”的弱点。
三是线上身份核验与隐私保护之间存在现实张力,平台既要提升未成年人识别能力,又要避免过度采集个人信息、造成新的安全隐患。
四是家庭与学校对新兴服务的了解程度不一,部分监护人难以及时掌握孩子使用情况和潜在风险,导致事后处置多、事前预防少。
影响方面,征求意见稿的出台释放出强化未成年人网络保护的明确政策信号,有助于推动行业从“事后治理”转向“事前预防”。
对于企业而言,未成年人模式、定期现实提醒、时长限制、监护人控制、充值防控等要求,将促使产品在功能设计、内容分级、风险提示、资金与账号安全等环节进行系统升级,合规成本可能上升,但也将推动形成更透明、可持续的运营规范。
对用户而言,明确的模式切换与提醒机制有望降低沉迷风险,监护人获得更直接的管理工具,有助于形成“平台治理+家庭监护”合力。
对行业生态而言,统一的制度框架将为技术创新划定边界,减少“擦边”竞争,提升公众信任度。
对策层面,意见稿提出的制度安排强调“可选择、可控制、可追溯”。
一是建立未成年人模式并提供多元安全设置选项,通过时长限制与现实提醒降低连续使用带来的沉迷风险。
二是对情感陪伴类服务强化监护人同意要求,将家庭监护嵌入产品关键流程,并通过监护人控制功能实现风险预警、信息可视化与消费防控。
三是提升未成年人识别能力,在保护个人隐私前提下对疑似未成年人自动切换相应模式,同时设置申诉渠道以兼顾准确性与公平性。
四是从企业治理角度看,平台还需建立更完善的风控体系与审核机制,对角色设定、互动内容、付费机制、诱导性提示等高风险点开展全链条评估,形成内部合规闭环。
前景判断上,拟人化互动服务仍将保持较快发展,但其社会影响已从“技术应用”进入“公共治理”视野。
未来一段时期,围绕未成年人保护、内容安全、数据与隐私保护、消费与付费机制规范等方面,行业或将逐步形成更细化的标准与可操作规则;企业竞争重点也将从“功能堆叠”转向“安全能力与责任能力”。
随着监管要求明晰、社会共识增强,合规化发展有望为产业创新提供更稳定的预期环境,推动技术更好服务公众、服务家庭、服务青少年健康成长。
保护未成年人在数字时代的权益,是全社会的共同责任。
国家网信办此次拟定的新规,既是对现实问题的积极回应,也为行业长远发展奠定了制度基础。
未来,唯有政府、企业、家庭多方协同,才能为未成年人筑起一道坚实的数字安全屏障。