问题——智能化服务快速普及,安全风险同步外溢。
当前,智能设备与大模型能力在多领域落地:教师借助智能工具生成教案、提升备课效率;居家老人通过智能音箱获得陪伴、提醒等服务;部分从业者围绕人机交互形成新岗位。
技术红利正在释放,但随着设备联网更广、数据汇聚更深,信息安全、内容真实性与价值导向等问题更易被放大,给个人权益、单位管理乃至社会治理带来新的挑战。
原因——边界意识不足与技术门槛错配,叠加外部攻击与内容操纵。
其一,数据与权限管理不到位。
一些单位或个人为追求便捷,直接采用开源框架搭建联网应用,未对访问控制、口令策略、开放端口等作必要加固,导致内部网络暴露于风险之中;也有人在处理内部材料时违规使用外部工具,忽视默认公网访问、未设密码等隐患,给敏感信息泄露留下可乘之机。
其二,生成式技术降低伪造成本。
图像、音频、视频的自动化合成与“以假乱真”能力,使造谣、诈骗、操纵舆论的门槛显著下降。
其三,模型训练数据与算法机制存在局限。
模型输出依赖既有数据与规则,若数据样本代表性不足、偏见未被纠偏,或输出过程缺少可解释性,就可能出现片面表述、选择性呈现乃至错误信息,影响公众认知与判断。
影响——从个人隐私到公共安全,多重风险需系统应对。
对个人而言,过度授权、随意上传信息、长期保留对话与文件,可能造成隐私泄露、财产损失与名誉侵害;对单位机构而言,不规范接入外部工具、缺乏分级分类管理,可能引发内部资料外流与合规风险;对社会层面而言,深度伪造内容一旦被恶意扩散,易诱发误解与恐慌,干扰正常舆论秩序;对国家安全而言,境外敌对势力可能利用伪造内容、选择性叙事等手段实施认知操纵,侵蚀社会信任基础,带来现实威胁。
与此同时,算法偏见与“黑箱”输出若进入辅助决策环节,还可能造成误判与资源错配,影响治理效能。
对策——三条守则明确可操作路径,关键在“边界、痕迹、协作”。
国家安全机关提示,应把智能设备当作工具而非替代者,建立可控、可查、可验证的使用习惯。
第一,划清“活动范围”,坚持最小权限原则。
对联网应用和智能助手实行“该用才开、用后即关”,非必要不启用“数据共享”“云同步”等功能;涉密或敏感数据严禁输入外部联网工具;语音类设备避免常态化采集环境信息;涉及支付、口令等关键信息不在助手中存储或自动填充,减少被调用与被转移的可能性。
第二,定期核查“数字足迹”,把安全维护纳入日常。
养成清理对话记录、文件缓存与历史授权的习惯,及时修改密码、开启多因素认证,更新系统补丁与安全软件;定期查看账号登录设备与异常登录提醒;对来源不明的程序和插件保持警惕,面对索要身份证号、银行卡号等敏感信息的要求要严格核验、谨慎提供。
第三,优化“人机协作”,把验证机制前置。
提问与调用时应明确边界,避免诱导工具进行无依据推演;对重要结论要求提供依据线索或可核验来源,并通过多渠道交叉验证;涉及政治、历史、意识形态等敏感议题,更要坚持独立思考与辩证分析,不把生成内容当作权威结论,防止被不实信息误导。
前景——以安全促发展,推动智能应用在规范轨道上释放更大价值。
面向未来,智能技术仍将深度嵌入教育、医疗、养老、政务与产业链各环节。
推动其健康发展,既要鼓励创新、完善应用生态,也要强化数据分级分类、权限管理、审计追溯与内容治理等制度供给;同时提升全民数字素养与安全意识,形成“技术治理+制度约束+社会共治”的合力。
只有把安全底线守住、把治理体系建强,才能让技术更好服务高质量发展与人民美好生活。
人工智能技术正在深刻改变人类的生产和生活方式,这是历史发展的必然趋势。
然而,任何强大的技术都是双刃剑,关键在于如何正确引导和规范使用。
国家安全机关提出的三条守则,既不是对智能技术的否定,也不是简单的限制性措施,而是基于风险认识基础上的科学建议。
这些守则要求使用者在享受技术便利的同时,主动承担起安全责任,培养科学的技术素养和安全意识。
只有当广大企业、机构和个人都能够遵循这些原则,形成全社会的安全共识,才能真正实现"安全赋能美好未来"的目标,让人工智能这位"数字伙伴"更好地服务于人类的进步与发展。