问题——“看得见、听得见”的不再可靠，信任链条正在被精准攻击。
近日，王劲松通过网络发声称，个人形象被盗用生成视频，画面与声音“难辨真伪”。
虽然相关内容经投诉后下架，但其担忧具有现实指向：当普通人连亲友的声音、口型都难以分辨，诈骗分子便可能借助“拟真”工具突破最后一道心理防线。
近年来，利用合成语音、图像生成、视频换脸等方式实施电信网络诈骗的案件不断出现，诈骗从“广撒网”转向“高仿真、强针对”，社会面风险随之上升。
原因——技术门槛下降与灰产链条分工，叠加信息泄露放大了作案效率。
一方面，语音合成、视频换脸等能力快速扩散，工具化、模块化趋势明显，一些不法分子通过少量素材即可拼接出“可用级”内容；而即时通讯与短视频场景的普及，使合成内容更易在熟人社交中形成“强可信”效果。
另一方面，黑灰产业链分工更细：有人负责采集与买卖个人信息，有人制作合成内容，有人通过社交平台引流，有人线下取现、转移赃款，链条化运作提升了隐蔽性。
司法机关披露的案件显示，不法分子通过平台发布合成或拼接视频吸引受害者添加联系方式，再以情感诱导、投资理财等话术实施诈骗；还有犯罪分子通过拟声冒充亲属，或以视频通话“换脸”冒充单位负责人，诱导受害者在短时间内转账汇款。
上述作案手法共同指向一个特点：以“真实感”替代“真实性”，用情绪压力和时间压力压缩受害者核验空间。
影响——个人权益受损与社会信任成本上升并存，治理难度进一步加大。
从直接危害看，受害者面临资金损失、隐私泄露、名誉侵害等多重后果。
部分案件中，受害群体集中在对新技术识别能力相对不足的人群，例如老年人、财务人员等，且常被设置“紧急情况”“保密要求”等情境，导致难以及时求证。
从社会层面看，“深度伪造”对公共信任体系造成冲击：一旦“视频也不可信”，熟人关系、组织管理流程乃至公众对网络信息的基本判断都会被扰动，进而推高社会运行成本。
对平台与监管而言，取证与溯源更复杂，既要识别内容真伪，也要追查制作传播链条；同时还需在技术创新与合规治理之间寻求平衡。
对策——以“制度+技术+流程+教育”构建联防联控，堵住从生成到变现的关键环节。
其一，平台要压实主体责任，完善内容治理闭环。
对疑似合成内容强化识别与提示机制，推动对合成视频、合成语音的显著标识；对侵权投诉建立更高效的下架、留痕、取证与复核流程，形成“发现—处置—追责—复盘”的常态化机制。
对引流账号、异常私信诱导、短时间高频发布等行为建立风险模型，减少诈骗链条在平台端的“获客”空间。
其二，行业与监管层面要完善规则衔接与惩戒力度。
围绕肖像权、名誉权、个人信息保护、网络传播等领域，强化对“深度伪造”场景的规范指引与证据标准，推动跨平台、跨地域的协同处置与线索共享；对为诈骗提供工具、培训、素材、账号、资金通道等“帮助行为”依法从严打击，切断“技术服务—引流—洗钱”链条。
其三，单位与家庭要建立“反欺诈流程”，用制度对冲“高仿真”。
企业财务转账、重要指令传达应落实“双人复核+多渠道确认”，尤其对“视频指令”也要执行回拨核验；家庭可与老人约定“暗号”或固定核验问题，遇到“急事转账”先挂断再回拨，避免被情绪牵引。
其四，公众个人要掌握可操作的识别与止损要点。
对突发借钱、要求保密、催促转账的情形提高警惕；对“看起来很像”的视频通话保持核验习惯，优先使用既定号码回拨，或通过线下渠道确认；不轻易向陌生链接、陌生客服提交人脸信息与验证码；一旦发现可疑，及时保存聊天记录、转账凭证与通话信息，第一时间报警并联系银行、支付平台争取止付。
前景——技术向善与治理升级并行，“可信网络”需要共同维护。
可以预见，合成内容的逼真度仍将提升，诈骗手法也会随之迭代。
与此同时，鉴伪检测、数字水印、来源追溯、实名认证与风控模型等手段也在不断发展。
未来治理的关键在于：让合成内容“可识别、可追踪、可问责”，让关键交易“可核验、可拦截、可止损”。
当平台治理更前置、司法打击更精准、公众防范更常态化，技术带来的便利才能更好服务于社会发展，而非被不法分子利用。
技术进步本应为人类福祉服务，但其双刃剑效应要求我们建立与之匹配的治理智慧。
面对AI技术带来的新型安全挑战，既不能因噎废食阻碍创新，也不能放任自流危及社会秩序。
唯有政府、企业、公众形成合力，方能在数字时代筑牢安全防线，让技术真正成为推动社会进步的正向力量。