人工智能拟人化互动服务管理暂行办法征求意见

中国国家互联网信息办公室最近发布了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,大家都可以来提意见。这个办法明确要求服务提供者要给孩子和老人建立专属模式,要监督大家的使用时间和心理状态,还得管好训练数据的来源。这个消息可是挺重要的,它标志着我们国家在人工智能互动服务领域的监管已经开始走向制度化了。 现在很多人工智能服务做得太像真人了,有时候让人分不清真假。有些人就会过度依赖这些服务,还有信息泄露和伦理风险之类的问题。所以这次国家互联网信息办公室给大家定了规矩,就是想让这些服务能健康发展,保护大家特别是孩子的权益。 其实现在有些服务设计得太像人类了,比如故意模拟情感和行为,这样可能会影响孩子们的心理认知和社交能力。另外训练数据来源也比较复杂,有的质量很差,容易带来安全隐患。所以加快建立管理制度就显得特别迫切。 这次征求意见稿里的要求挺细致的。在用户交互方面,服务提供者得明显提示是人工智能在对话,还得实时监测用户行为。如果有人用太久了或者有沉迷倾向就得及时提醒干预。 数据治理方面也很重要。训练数据得符合社会主义核心价值观和中华优秀传统文化,还要加强清洗和标注工作。数据安全也得重视,防止有人恶意篡改或者投毒。 特别要注意的是未成年人保护这块儿做得很到位。提供服务时要有未成年人专属模式,限制使用时长和内容过滤功能。如果想给孩子提供情感陪伴类服务,必须先取得监护人同意才行。 对老人的关怀也体现出来了。设置紧急联系人还有心理援助通道这些都挺贴心的。不过也明确禁止模拟老年人亲属这种特定关系的服务,防止误导或者欺诈。 分析人士说这次出台办法能推动行业从“重技术轻治理”变成“技术赋能与规范发展并重”。短期内一些企业可能得调整产品设计、合规建设什么的,行业可能会经历一轮整合洗牌。长远来看规则明确了大家心里就有数了。 技术发展离不开治理智慧啊!这次管理办法制定得好就在于统筹发展与安全、创新与责任的关系上找对了路子。未来只要在技术理性和人文关怀之间找到平衡点,人工智能就能真正服务于人的全面发展和社会进步啦!