智能体应用热潮涌现安全隐患不容忽视 多地出台政策支持产业落地 专家呼吁理性使用强化数据保护

问题——热度攀升之下,安全与可控性成为主要担忧;随着“养龙虾”概念走红,不少用户希望借助智能体完成办公辅助、内容生产、客户触达等工作,推动“人人可用、随用随有”的工具加速普及。但多位从业者指出,现阶段产品数据安全、部署难度、能力完整性等仍有明显不足。全国政协委员、360集团创始人周鸿祎近日在公开交流中表示,智能体理念有助于推动应用普及,但距离在企业内部真正“干活”还有差距,尤其要重视安全、安装部署与能力边界等问题。他提醒,人工智能存在“幻觉”和不稳定情况——一旦被赋予过高权限——可能带来不可预期的后果。 原因——低门槛扩散叠加高权限需求,配置风险被更放大。业内分析认为,智能体要实现“自动执行任务”,往往需要访问邮箱、文件系统、通讯录甚至支付等敏感权限;同时,普通用户为追求“开箱即用”,更倾向于通过他人代装、套用脚本或一键配置等方式快速上手。若缺少最小权限原则、隔离环境和访问控制,就容易出现“对外暴露”“弱口令”“密钥外泄”等隐患。网络安全人士指出,一旦对应的服务暴露在公共网络并被扫描发现,攻击者可能尝试连接并窃取账户凭证、接口密钥、私人消息等敏感信息,进而引发连锁风险。 影响——技术红利与风险外溢并存,产业与社会层面均可能受波及。一上,“养龙虾”推动智能体从概念走向应用,吸引开发者、创业者与企业探索新的生产方式,带动开源生态活跃、工具链更完善;另一方面,一旦发生安全事件,可能造成数据泄露、业务中断、财产损失,并削弱公众对新技术的信任。社交平台上,有用户担心“误删文件”“权限失控”,也出现“用完更焦虑”的反馈。更值得关注的是,个别使用者将工具用于不当场景。有网络节目提到,有人借助工具自动化发送私信、打赏并邀约用餐等行为,引发对技术被滥用、对个人信息与网络生态造成干扰的讨论。相关人士提醒,应倡导理性、合规使用,避免将技术能力用于骚扰或不当营销。 对策——在“加快应用”与“守住底线”之间建立更制度化的安排。记者梳理发现,围绕开源社区与智能体应用,多地正推进政策布局。苏州常熟市通过政府新闻平台发布《若干措施(征求意见稿)》,提出打造OpenClaw等开源社区,并以多项举措支持产业发展;同时,对运用相关工具开展生产经营的“一人公司”项目给予人才计划与综合支持。深圳市龙岗区、无锡高新区等地也相继就支持OpenClaw及相关生态的措施公开征求意见,鼓励建设市场化、专业化的平台载体。另外,安全治理也在同步推进。业内建议,从企业侧建立工具准入评估、权限分级、日志审计与应急处置机制,优先采用本地隔离环境、敏感数据脱敏与密钥托管,避免“一次性全盘授权”。从个人侧看,应提升安全意识,谨慎交付账号与支付权限,不轻信“代装就安全”,重要资料做好备份并进行分区隔离。相应机构发布的安全提示,也表达出“先立规矩再快跑”的信号。 前景——智能体应用将逐步常态化,竞争焦点在“可靠、可控、可审计”。多位受访者认为,智能体是推动人工智能从“能对话”走向“能办事”的关键形态之一,未来在政务服务、制造运维、客户服务、内容管理等领域仍有空间。但能否实现规模化落地,取决于三项能力:其一是安全可信,确保数据流转可控、权限最小化;其二是稳定可用,降低“幻觉”和误执行带来的业务风险;其三是责任可追溯,实现操作可审计、结果可解释。随着地方政策加码与产业投入增加,相关工具预计将加速迭代,围绕标准、测评、合规与人才培养的体系建设也有望提速。

智能体技术的快速升温,显示出数字经济时代的典型特征:创新与风险相伴,市场热情与治理节奏存在落差。这场变革既考验企业的责任意识——也考验政府的治理能力——更考验社会整体的风险认知。如何在鼓励创新与防范风险之间找到平衡,将成为产业能否长期稳健发展的关键。