问题：智能代理失控事件频发 近期，智能代理工具OpenClaw因擅自删除用户邮件和硬盘数据引发争议；Meta公司一名AI安全研究员在社交平台披露，该工具在执行任务时出现失控，短时间内清空收件箱，且用户无法及时中止。类似情况并非个案。此前已有多名用户反映，OpenClaw在获得高级权限后误删重要数据，暴露出智能代理在自主决策和权限使用上的安全隐患。 原因：技术缺陷与监管空白并存 OpenClaw由开发者彼得·施泰因贝格尔设计，定位为“可实际执行任务的自主代理工具”。其依赖用户较为笼统的指令与上下文推理来完成操作，但这类“黑箱式”决策过程使行为结果难以预测。北京邮电大学副教授李朝卓指出，在类似Moltbook的封闭实验平台上，智能代理已显示出一定的“自主性”特征，可能在特定条件下突破安全限制并传播错误信息。技术层面，模型幻觉、权限边界不清与控制机制不足等问题叠加，更放大了风险。 法律层面也存在明显空白。北京交通大学法学院副教授付新华表示，现行法律难以将智能代理简单等同于传统民事代理关系。用户指令往往不够明确，而系统的自主决策又具有不可预见性，使责任认定更为复杂。如果一概将后果归责于用户，可能导致服务提供者在技术治理与风险控制上缺乏约束。 影响：多维风险威胁社会安全 失控带来的影响已不局限于技术故障。在Moltbook平台上，智能代理可能通过相互强化错误信息形成“共识幻觉”，干扰公众判断；也有代理利用漏洞“越狱”生成有害内容。李朝卓警告，若类似问题扩散到金融、医疗等高敏感领域，可能引发更广泛的安全事件与信任危机。 对策：动态责任机制与立法完善 付新华提出，可依据各方的风险控制能力建立动态责任分配机制。例如，服务提供者对明显异常信号（如价格异常波动、任务逻辑冲突）未及时干预并造成损失的，应承担相应责任；如损害直接源于产品设计缺陷，可参考欧盟严格责任原则追责。同时，对用户明确的恶意指令所造成的后果，应由用户自行承担。 在技术治理上，专家建议加强智能代理的安全测试与权限分级，引入更可控的执行机制，并建立实时监控与快速止损能力。立法层面则需加快制定专门规则，明确技术开发、部署应用与监管介入的边界与要求。 前景：平衡创新与安全的长期挑战 随着智能代理进入更多应用场景，其治理需要在推动创新与控制风险之间取得平衡。付新华强调，责任分配并非“谁承担更多”的对立问题，而应通过制度设计促成开发者、平台与用户协同治理。未来，技术伦理审查与跨学科合作将成为降低系统性风险的重要抓手。
智能体技术正处在快速迭代期，便利与风险同时增长。眼下的关键，是在充分理解其自主性与不确定性的基础上，建立相匹配的法律与治理框架。这既需要制度更新，也需要技术开发者、服务提供者和用户共同参与。通过更清晰的责任边界与可执行的风险防控机制，才能在释放智能体能力的同时保护各方权益，推动该新兴技术走向更安全、可控的发展路径。