一、问题：深度合成“以假乱真”，从名人侵权延伸至社会信息安全 近期，霍启刚通过公开渠道表示，网络平台出现大量冒用其名义制作并传播的合成视频，内容涉及伪造其声音、面部影像及口型匹配等，并被用于传播不实信息、商业广告引流等；他指出，即便熟悉他的人也需要仔细辨别真伪，更不用说普通网民。另外，这类现象已从个案扩展为普遍风险：运动员、文艺工作者等公众人物频繁遭遇“数字仿冒”，普通群众也可能在虚假“熟人”“名人”形象诱导下受骗，造成财产损失与心理伤害。 二、原因：技术易得、逐利驱动与治理滞后叠加，形成黑灰产链条 一是生成与传播门槛明显降低。合成工具更易获取、操作更简化，短时间内即可生成具有迷惑性的音视频内容，为造假提供了低成本、高效率的条件。 二是黑灰产逐利动机强。一些不法分子将合成内容用于带货、引流、诈骗甚至造谣，逐步形成从制作、分发到变现的链条，并持续翻新手法以规避监管。 三是确权与取证难。侵权内容往往跨平台、跨账号快速扩散，源头隐蔽、传播链路复杂。权利人即便发现问题，也要面对取证、投诉、诉讼等多环节成本，导致“造假成本低、维权成本高”的矛盾更突出。 四是平台治理与标识机制仍有短板。部分内容借助推荐机制迅速扩散，但对合成内容的显著标识、溯源核验、账号约束和处置闭环仍不完善，出现“下架一批、再生一批”的情况。 三、影响：侵蚀社会信任基础，冲击营商环境与公共秩序 对个人而言，深度合成侵权直接损害肖像权、名誉权等人格权益，可能被用于虚假代言、误导舆论，进而影响当事人职业信誉与社会评价。对消费者而言，虚假“名人背书”诱导购买，加剧信息不对称风险，扰乱市场秩序。对社会治理而言，合成内容若被用于编造涉公共政策、社会热点甚至地域议题的谣言，容易放大舆情波动，增加辟谣与处置成本。更深层的风险在于，真假难辨会削弱公众对图像、视频等“证据形态”的信任，影响正常的信息传播与公共讨论质量。 四、对策：以规则为牵引、以平台为关键、以技术为支撑、以教育为根本 其一，加快制度供给与标准落地。围绕深度合成内容的生产、传播与使用边界，更明确责任主体与违法成本，形成可执行、可追责的规则体系。根据商业使用、广告代言、公共议题传播等高风险场景，完善更严格的核验与许可要求。 其二，推动“显著标识+不可篡改溯源”机制。强化合成音视频的统一标识规范，探索可验证的溯源手段，提高识别效率，为监管执法与司法取证提供支撑，降低公众被误导的概率。 其三，压实平台主体责任与算法治理责任。平台应完善审核模型与人工复核，对涉人格权、涉热点议题的疑似合成内容提高审核等级；对频繁发布仿冒内容的账号实施限流、封禁等梯度惩戒，并推动联动处置；对广告与带货内容强化资质审查与“真人授权”核验，尽量切断变现通道。 其四，打击黑灰产链条与跨域协同执法。针对组织化、产业化造假传播，强化线索共享、联合打击与典型案例曝光，提高违法成本，形成震慑。 其五，提升公众媒介素养与未成年人保护能力。霍启刚在回应中提到，对新技术既要警惕也要善用。面向未成年人，应在家庭、学校与平台侧同步加强教育引导，培养来源核验、授权识别与隐私保护等基本能力，避免被“逼真内容”误导判断。 五、前景：在“发展与治理”中寻找平衡，构建可信内容生态 深度合成等技术在教育、无障碍服务、文化创意等领域具有积极价值，关键在于将技术应用纳入可控轨道。未来一段时期，治理重点或将从单点处置转向体系化建设：以更清晰的法律边界提升可预期性，以更严格的平台履责降低传播风险，以更成熟的标识溯源提升鉴别效率。同时，公众对“内容可信”需求也将倒逼平台改进审核与推荐机制，推动形成更健康的网络传播秩序。
当技术演进速度超过社会适应能力时，制度创新就成为重要的缓冲带。深度伪造技术引发的系列事件，既是对现行法律体系的压力测试，也为数字文明建设提供了新的推动力。如何在科技创新与权益保护之间建立动态平衡，不仅关乎个体利益，也检验社会治理现代化水平。正如网络安全专家所言："给技术划出红线，实则是为人类文明拓展更安全的疆域。"