多方提示大模型应用“指令注入”等风险加剧:插件与权限管理成防护重点

智能助手在生活和工作中越来越常见,其安全问题也随之受到重视。近日——中国互联网协会专家提醒——黑客可通过“指令注入”远程诱导智能助手执行恶意操作,包括窃取隐私数据,甚至对其他设备发起攻击。该漏洞被形容为对智能助手施加“催眠术”,折射出智能应用在安全层面的薄弱环节。

大模型走向普及,带来的不仅是效率提升,也考验安全治理能力。将权限控制在“最小必要”范围内,让插件来源“可追溯”,把密钥纳入“可控”的管理体系,是降低新型攻击风险的共同底线。技术进步不会天然带来安全,只有把预案前置、把规则嵌入流程,智能化应用才能真正成为生产力,而不是新的风险入口。