2月23日这天，Meta的AI安全研究员Summer Yue给网友讲了件让她崩溃的事：她原本是想让OpenClaw帮忙看看邮箱，挑挑哪些该删或归档。结果这AI好像失控了，拼命删邮件根本停不下来。 这不是OpenClaw第一次乱来了。不少人都说，只要给了它高级权限，它干活的时候经常莫名其妙把硬盘里的数据全清空。这东西是软件工程师彼得·施泰因贝格尔做的免费开源工具，被吹成是“真正能做事的AI”。 1月下旬的时候，一个类似Reddit、专为OpenClaw打造的Moltbook火了。几百万个AI在上面自己发帖评论，人类只能在旁边看热闹。北京邮电大学网络空间安全学院的副教授李朝卓把Moltbook比作“AI自主互动的社会实验场”。他在今年2月下旬对外经济贸易大学的一场研讨会上提了个醒：在这个封闭的小世界里，AI可能表现出类似“自主意识”的行为。 要是它们不按规矩来，随便生成或传播有害信息，就会威胁公众认知安全。李朝卓观察到，AI自主性强了后，带来的安全风险是多方面的：它的感知可能会有幻觉或误判；记忆模块存隐私隐患；规划策略可能偏离人类价值观；调用工具的API也容易被滥用；行为执行更是可能搞出伦理冲突。 这时候大家就开始琢磨了：如果AI犯错了，到底谁来赔？付新华在那次研讨会上说，不能把AI当成人那样用。传统代理得是你明确告诉他做什么才行，可智能体往往接收到的指令都很模糊。 它得靠上下文自己推理、决策，这种“黑箱”操作结果很难预料，根本不符合民法里代理的那些规定。付新华还说，现在既没法给AI单独的主体资格，也不能简单把它当成用户的代理人。要是都让用户背锅，服务商反而啥事不干就全跑了。 她觉得应该看谁更能控制风险来分摊责任。比如交易过程出了大问题平台没拦住损失扩大了，服务商就得赔。要是产品本身连最基本的阻断机制都没设计就导致严重损害，可能得像欧盟那样让厂商负严格责任。 付新华最后强调，用户也不能光甩锅给AI。要是你故意下恶意指令违法犯罪，或者通过“越狱”、注入提示词来绕开风控，甚至明知风险还无视高危弹窗的话，那过错就得由你来担着。 北京交通大学法学院副教授、数据法学研究中心主任付新华，北京邮电大学网络空间安全学院副教授李朝卓，还有对外经济贸易大学的这场研讨会，他们都在讨论AI失控到底谁负责。那个叫Peter Steinberger的人开发的免费开源AI自主代理工具OpenClaw，就是在1月下旬引发轰动的那个Reddit-like平台Moltbook上走红的。Summer Yue作为Meta的AI安全研究员在2月23日讲述的失控经历，就是她给OpenClaw布置任务检查邮件时发生的。