周鸿祎呼吁构建智能体安全体系 强调技术发展需与风险防控并重

问题——随着大模型能力提升,智能体的任务执行和工具调用能力明显增强,应用从对话问答扩展到信息检索、表格处理、流程审批、运营投放等需要“动手”的环节;能力外溢也带来新的安全隐患:一旦智能体被诱导执行错误指令、获取过高权限或接触敏感凭据,可能造成数据泄露、资金损失、业务中断等后果。围绕OpenClaw的讨论焦点,也正从“能做什么”转向“怎样安全使用”。 原因——一是技术路径变化重塑了安全边界。传统软件多按确定性流程运行,权限、输入输出和调用链相对固定;智能体以目标为导向,常需跨系统调用工具、自动生成并执行步骤,安全控制从“静态规则”转向对“动态决策过程”的约束。二是部署门槛降低带来更快扩散。普通电脑即可运行涉及的能力——个人与中小企业更容易上手——但安全能力和管理经验未必同步具备。三是行业进入“大模型+智能体”并行演进阶段,认知能力与执行能力叠加,随着场景扩展,风险暴露面随之快速放大。 影响——从产业角度看,智能体有望以“技能(Skill)”形态嵌入业务流程,形成“小切口、深推进”的数字化改造路径:先单一环节提升效率,再逐步扩展到全链条。这与政企信息化从“建系统”转向“提效率、控成本、强治理”的需求相吻合,也可能推动创业与组织形态向更轻量化演进。另外,若安全治理跟不上,风险事件会削弱市场信任,导致企业不敢用、机构不敢上,进而影响技术红利释放和生态培育。 对策——交流活动中,周鸿祎提出“Skill安全”理念,认为未来用户面对的重点不再是“养一个智能体”,而是“管理一组技能”,安全重点也应从单一产品防护转向技能全生命周期治理与权限控制。基于该思路,企业发布安全部署与实践指南,对潜在风险进行系统梳理并提出应对框架。面向普通用户,应坚持最小授权原则,避免向智能体提供密码、口令、验证码等敏感信息,尤其在支付、转账、账户管理等高风险场景保持人工复核。面向政企机构,应建立可审计、可回滚的执行链路,明确智能体可访问的数据范围、可调用的工具清单及关键动作的审批机制;加强对外部内容输入的过滤与隔离,防范诱导指令;对重要系统实施分级分域管理,将智能体运行环境与核心生产环境适度隔离,并持续开展安全评估与应急演练。 前景——业内普遍认为,智能体将成为大模型落地的重要形态之一,推动数字化从“信息展示”迈向“流程自动执行”。在这一过程中,安全不应被视为应用推广的阻力,而应成为规模化落地的前提。下一阶段,围绕“Skill安全”的标准体系、评测机制与责任边界有望加快形成:一上通过技术手段提升可控性与可解释性,另一方面通过制度设计明确开发者、平台与使用方的责任分工,推动智能体在公共服务、企业管理等场景更稳健落地。

每一次技术跃迁都伴随机遇与挑战。智能体从“会思考”走向“能行动”,一方面发出生产力变革的潜力,另一方面也对安全治理提出更高要求。只有把安全意识嵌入研发、部署、使用与运维的全链条,让规范建设与创新推进同步进行,才能让新技术真正服务社会,而不是成为新的风险源。这既是企业的责任,也是行业在技术加速演进阶段需要共同承担的长期课题。