近期引发行业热议的开源智能工具OpenClaw面临新的安全考验。
这款因红色龙虾图标被业界昵称为"龙虾"的智能体,虽在2月版本更新中修复了已发现的技术漏洞,但专家研判其底层架构特性仍存在系统性风险。
问题现状方面,工业和信息化部网络安全威胁和漏洞信息共享平台监测显示,该工具在自主调用系统资源时存在三大隐患:一是大语言模型可能曲解用户指令,导致误删关键文件;二是第三方技能包审核机制缺失,易被植入恶意代码;三是默认配置中存在实例暴露、密钥明文存储等设计缺陷。
即便升级至最新版本,若未同步调整安全策略,仍可能遭受攻击。
深层原因 在于智能体技术的双刃剑效应。
中国信息通信研究院安全研究所专家指出,"龙虾"代表的新一代智能工具具有"决策自主化、功能模块化"特点,这种架构在提升效率的同时,也打破了传统软件的信任边界。
更值得警惕的是,其开源属性使得技能包市场鱼龙混杂,而多数企业用户尚未建立配套的安全审计体系。
行业影响 已初步显现。
据统计,该工具在国内制造业、金融业已有超过2000家企业试用,其"自动化办公"特性虽提升了业务流程效率,但某券商近期就因智能体误操作导致客户数据异常。
国家互联网应急中心数据显示,2023年第四季度针对智能工具的定向攻击同比激增170%,暴露出新技术应用中的防护短板。
应对策略 上,主管部门提出三维度解决方案:技术层面严格执行"最小权限+默认拒绝"原则,禁止使用管理员权限运行;管理层面建立技能包白名单制度,对互联网暴露面实施动态监测;制度层面依据《网络产品安全漏洞管理规定》,要求企业72小时内报送安全事件。
北京市某网络安全企业已开发出针对性的行为审计插件,可实时拦截异常指令。
发展前景 研判显示,随着《生成式人工智能服务管理暂行办法》细则即将出台,智能体开发将纳入更严格的安全评估。
多位专家建议,在享受技术红利的同时,用户单位需构建"漏洞修复+行为监控+应急响应"的全周期防护链,特别是关键基础设施领域应暂缓部署未经安全认证的智能体。
开源智能体的出现代表了人工智能技术发展的新方向,其应用前景值得期待。
但技术进步与安全防护必须同步推进。
当前,我们既要积极拥抱新技术带来的机遇,也要清醒认识到其中的风险挑战。
安全不是一个终点,而是一个持续的过程。
只有建立起全社会、全产业链的安全意识和防护体系,才能让新技术真正造福经济社会发展。