问题:随着生成式技术广泛应用于信息检索、学习备考、消费咨询等领域,用户对“即时答案”的依赖日益增强,但输出内容可能存失真、编造或理解偏差,由此引发的纠纷逐渐增多;本案中,用户在查询高校招生信息时获取了关于校区等关键内容的不准确回答,系统在交互中显示“如内容有误将赔偿”的文字,用户据此认为被误导并提出赔偿要求。案件焦点集中在:生成内容失真是否构成侵权、交互文字能否视为服务方承诺,以及损害与因果关系如何认定。 原因:生成式服务基于概率模型和语料学习,擅长语言组织,但对事实核验和权威来源的识别仍受限于数据覆盖、检索链路和提示词表达等因素,容易产生“看似合理但不准确”的回答。尤其在招生政策、考试规则等高度规范且动态更新的领域,若未与权威渠道核对,误差风险更高。同时,部分用户将生成式应用视为“确定性答案来源”,忽视其辅助工具的定位;而拟人化的交互话术可能让用户误以为系统在作出承诺,增加争议可能。司法审理需回归法律要件:主体资格、意思表示、过错责任、损害与因果关系等。 影响:判决传递了多重信号。首先,法院明确生成式应用不具备民事主体资格,系统生成的“赔偿承诺”不等同于服务提供者的真实意思表示。其次,法院强调生成式服务属于“服务”范畴,责任认定以一般过错原则为基础,需审查服务提供者是否尽到合理注意义务,而非简单适用无过错的产品责任。最后,举证责任仍是关键。原告需证明损害客观存在且与生成内容有因果关系;若生成信息未实质影响关键决策,则难以认定侵权成立。总体而言,本案有助于在新兴技术快速发展的背景下厘清“技术不确定性”与“法律责任”的边界,避免将一般信息偏差泛化为侵权,同时也为平台合规提供了更清晰的标准。 对策:从治理与合规角度,平台应将“可解释、可校验、可追溯”的能力融入产品设计。具体措施包括:一是加强显著提示与使用指引,在欢迎页、用户协议及核心交互界面明确功能边界和风险点,避免用户形成“权威答案”预期;二是对教育招生、医疗健康、金融投资等高敏感领域实施更严格的输出管理,如引用权威来源、标注时效性、提供核验入口,并对不确定内容提示“以官方发布为准”;三是完善纠错与反馈机制,建立快速响应流程,形成“发现—核实—更正—复盘”闭环;四是审慎设计宣传话术和界面表达,避免使用可能被误解为法律承诺的措辞。 前景:生成式服务将继续深入公共信息与商业服务体系,其社会价值在于提升效率、降低信息门槛,但需建立相应的可信机制与规则体系。未来,司法裁判将在提示义务、注意义务、证据标准诸上形成更稳定的尺度,为行业提供合规底线。同时,公众的信息素养也将成为降低风险的关键:在重要决策场景中,通过权威渠道核验、保留查询记录并形成可追溯的依据,是更现实的自我保护方式。
本案的判决标志着我国生成式AI法律制度建设迈出重要一步。它明确了AI的工具属性,划定了服务提供者的责任边界,同时也提醒用户理性使用新技术。随着技术演进和应用场景扩展,涉及的法律需在实践中健全。在技术创新与法律规范的良性互动下,生成式AI将更好地服务社会发展。用户、企业和监管部门需达成共识,在充分认识技术局限的基础上,推动此领域的健康发展。