深度伪造技术滥用乱象频发 专家呼吁技术防御与法律惩戒双管齐下

一、问题:从"被换脸代言"到"被合成背书",侵权与诈骗交织 演员王劲松近日公开反映,其影像和声音被不法分子深度合成,出现在虚假理财广告中。这类手法并不新鲜:借用公众人物的面孔提升可信度——通过短视频快速扩散——诱导观众转账、投资或下载应用。这些行为不仅侵犯肖像权和名誉权,背后往往还牵涉虚假广告、诈骗乃至非法集资,危害不容小觑。 二、原因:技术门槛降低,灰色产业链成型 深度合成技术走过了从"一眼看穿"到"难辨真假"的演变过程。算法进步、算力提升、训练数据增多,使生成内容的细节越来越逼真,所需素材和时间成本也在持续压缩。此外,电商平台上已出现"对口型""换脸剪辑"等低价服务,形成分工明确的灰色链条——有人采集素材,有人负责合成,有人投放引流,有人跨平台搬运,各环节协作,传播效率大幅提升。 三、影响:识别难度上升,平台单打独斗,公众信任受损 检测技术始终在追赶生成技术。复杂光照、画面遮挡、反复压缩等情况都会影响识别准确率,而不法分子还会通过本地化处理、转码、裁切等方式主动规避审核。更棘手的是,仿冒视频一旦在社交平台、短视频平台和私域群聊之间交叉传播,"熟人转发"和"名人背书"的叠加效应会让受众放松警惕,财产损失和维权成本随之上升。从长远看,真假难辨会动摇公共讨论的事实基础,整体网络信任环境也将因此受损。 四、对策:技术、协同、法治,三管齐下 一是建立内容标识与溯源机制。推进水印、指纹、数字签名等技术落地,要求平台对疑似深度合成内容作出显著提示,并对金融投资、医疗健康、公共事务等高风险领域提高审核标准。 二是推动跨平台协同治理。头部平台可在合规前提下共建侵权特征库、风险账号画像和典型样本库,形成联动拦截机制;对频繁换号、异地投放、多平台搬运等行为建立统一风控策略,压缩"打一枪换一个地方"的操作空间。 三是加大执法与司法力度。对伪造代言、虚构背书的广告依法从严查处;对涉嫌诈骗、非法集资的项目,将仿冒营销作为重要线索,追查资质、资金流向和推广链条,对制作、分发、引流、变现等环节实施全链条打击,情节严重者依法追究刑事责任。 四是降低公众识别和维权门槛。通过典型案例和反诈宣传,帮助公众识别"高收益""限时机会"等常见话术;同时优化投诉和快速下架通道,让权利人维权更便捷,形成"发现即处置、处置可追责"的闭环。 五、前景:规则划定边界,技术回归正途 深度合成在影视制作、数字文化、无障碍传播等领域有其正当价值,问题在于滥用空间尚未被有效压缩。随着内容标识、跨平台联动和执法衔接机制逐步完善,对应的乱象有望从被动应对转向前置预防。但技术仍在快速演进,治理也必须持续迭代,才能守住安全底线。

深度伪造技术的滥用,折射出数字时代技术的双刃属性。