AI合成声音诈骗案件激增 防范难度升级成为社会新课题

问题—— 从“猜猜我是谁”到“声像仿真指令”,电信网络诈骗正发生结构性变化。多地反诈一线反映,近期以“老板”“亲属”“同事”等熟人身份为掩护的转账指令类诈骗增多,且更具迷惑性:诈骗分子通过合成语音、深度伪造视频等方式,让受害人误以为正在与熟人实时沟通,从而在“紧急”“保密”“限时”等压力下迅速转账。部分内部统计显示,2026年一季度对应的案件同比增幅约230%,呈快速上升态势。 原因—— 一是技术门槛降低带来“工具化扩散”。市面上出现可快速生成合成语音的应用与插件,采集十几秒音频即可生成相似度较高的语音样本——成本低、操作简——导致诈骗手段从“话术型”向“声像型”升级。二是个人信息碎片化暴露为合成提供“原料”。短视频、语音动态、直播片段等公开内容,可能成为不法分子采集声纹、口头习惯的渠道。三是社交场景的“即时性”放大误判。诈骗往往以群聊协同、角色分工方式推进:先用合成声音下达指令,再以仿冒头像账号补充“合同、款项、流程”等细节,使受害人误以为是单位内部沟通或家庭紧急求助。四是责任边界与处置链条仍需继续明晰。有平台在用户协议中提示账号被盗风险并强调“协助处置”,但在账号保护、异常识别、事前预警各上仍有提升空间。 影响—— 此类诈骗冲击的不仅是个体财产安全,更侵蚀社会信任与组织运行效率。对家庭而言,“亲属求助”最易触发情绪性决策,造成存款、借贷资金被迅速转移;对企事业单位而言,“领导指令”与“财务转账”被伪造,可能引发合规风险与经营损失;对治理层面而言,诈骗链条与黑灰产交织,叠加跨境作案、快速分流洗钱等特征,使止付追赃难度上升。此外,公众对语音与视频证据的信任度被削弱,也对远程办公、线上政务、数字金融等场景带来新的安全挑战。 对策—— 反诈部门提示,单纯依赖“回拨电话核实”已不足以应对声像合成风险,应建立更稳固的多重核验体系。 一是强化“转账前的二次确认”。涉及紧急借款、对公付款、代办业务等情形,应采取至少两种不同渠道核验(如线下当面、固定电话回拨至已知号码、与共同熟人交叉确认等),避免同一社交平台内完成“指令—确认—转账”闭环。 二是建立家庭与单位的“专用核验口令”。可在家庭成员、核心同事之间预先约定不在网络传播的验证信息,用于识别“合成声像”冒充;单位应完善财务授权制度,严格执行付款审批、双人复核、限额管理与异常报警。 三是减少声纹素材无意暴露。公众在发布含清晰人声的短视频、语音时应注意隐私设置,谨慎公开包含姓名、单位、关系链等可用于“画像”的信息;对不明来电、陌生链接与所谓“会议录音”“验证音频”保持警惕,防止被诱导采集声纹。 四是压实平台与机构的安全责任。平台应提升账号异常登录识别、设备风控、可疑群聊与转账诱导行为监测能力,强化对深度伪造内容的标注、拦截与溯源协作;金融机构可结合交易特征与反诈模型,对“紧急转账”“首次收款人”“异常时间地点”等风险信号加强提示与延迟保护机制。 五是加大对黑灰产链条打击。近期有地侦破利用合成语音实施诈骗的团伙案件,显示此类犯罪已呈组织化趋势。建议在跨部门、跨地区协作基础上,加强对合成工具滥用、号卡与账户买卖、洗钱通道的综合治理。 前景—— 随着深度合成技术迭代,诈骗的“逼真度”可能持续提高,防范将从识别“话术”转向识别“身份与意图”。未来一段时期,技术防护、制度约束与公众素养将共同构成防线:一上,以可信身份认证、内容溯源与风险预警为核心的技术体系需加速落地;另一方面,家庭和单位的流程化核验将成为降低损失的关键抓手。同时,围绕平台治理、数据合规、深度合成标识与法律责任的制度完善,也将决定治理效果的上限。

技术进步在带来便利的同时,也可能被不法分子利用。面对声像合成技术催生的新型诈骗,需要法律规范、技术防护和公众防范意识共同发力。只有平台切实履行责任——公众保持警惕——才能确保技术进步真正服务于社会安全,而非成为犯罪的工具。