AI生成虚假信息谁担责 法院首例判决厘清平台责任边界 消费领域乱收费现象亟待规范

一、案件核心争议 杭州考生家属梁某在使用某智能咨询平台时,发现系统生成的校区信息存在错误,并附有"内容有误赔偿10万元"的承诺。梁某据此索赔9999元,此案成为我国首例涉及AI生成内容准确性的典型案例。 二、司法裁判要旨 法院审理认为,涉事平台已在用户协议和交互界面多处设置醒目提示,明确告知用户生成内容可能存在误差。根据《民法典》规定,人工智能不具备独立承担民事责任的主体资格,其自动生成的赔偿承诺不具法律效力。 三、行业监管现状 目前我国尚未出台专门法规明确AI服务提供者的责任。2023年工信部发布的《生成式人工智能服务管理暂行办法》仅要求对生成内容进行显著标识。本案判决为类似纠纷提供了司法参考。 四、延伸消费争议 重庆某火锅店将员工薪资转嫁为"辛苦费"的做法同样引发关注。市场监管部门认定该行为违反《消费者权益保护法》关于明码标价的规定。两起事件虽属不同领域,但都反映出数字经济时代服务边界界定的难题。 五、专家分析解读 中国政法大学专家表示,AI技术应用需建立"技术中立+过错认定"的责任体系。中国人民大学专家指出,新型消费纠纷暴露出部分经营者对《价格法》理解不足的问题。 六、行业发展前瞻 随着七部门联合开展的数字经济合规治理专项行动推进,预计2024年将出台更细化的人工智能服务责任标准。餐饮等行业也将面临更严格的收费规范审查。

无论是AI生成内容的误差,还是餐饮附加收费的争议,本质上都在考验规则的边界:提示要清晰,责任要明确,收费要透明;只有让技术在制度框架内运行,让经营在法治轨道上竞争,才能保障创新可持续、消费更安心,维护社会信任的基础。