近期,江苏法院披露的一起案件再次警示:当深度合成等新技术被用于伪造不雅图片、编造“涉性”话题并借助网络传播时,伤害的不仅是个体名誉与人格尊严,更会扰乱公共秩序、污染网络生态,必须依法从严惩治。
问题——“以图带谣”叠加“群传播”,造谣成本低、破坏力强。
据法院查明,2024年4月至2025年1月间,被告人王某甲利用深度合成技术,将被害人于某(化名)等人的人脸信息与不雅图片进行拼接,并围绕“涉性”话题进行捏造,多次通过境外网站公开发帖散布。
2025年1月,王某甲还将两张换脸裸照及被害人证件图片发送给他人,并编造与被害人存在性交易的不实内容。
在对方称将把相关内容转入被害人工作群时,王某甲未进行澄清和有效阻止,而是删除联系方式。
随后不实信息进入工作群,引发群内外讨论,对被害人形象、工作与生活造成明显不利影响。
法院认为其行为情节严重,构成诽谤罪,依法判处有期徒刑一年三个月,二审裁定维持原判。
原因——技术门槛降低与传播机制叠加,推动“造谣链”更隐蔽更快速。
一方面,深度合成工具易获得、操作便捷,能够生成普通公众难以识别的伪造内容,使“看图判断”的直觉被利用,造成“先入为主”的认知偏差。
另一方面,社交平台的群聊与转发机制使信息在熟人关系链中迅速扩散,不实内容借“熟人背书”获得更高传播效率。
同时,部分造谣者以境外网站或匿名方式散布,增加追溯难度,形成“生成—投放—转发—扩散”的链条,客观上放大了侵害后果。
影响——侵权与扰序并存,个人权益与公共利益同步受损。
对个体而言,涉及不雅图像与“涉性”话题的谣言具有强烈污名化特征,一旦扩散,往往引发持续性二次传播与“标签化”评价,修复成本远高于一般名誉侵害。
对单位和社会而言,相关讨论容易演变为围观、猜测甚至网暴,影响正常工作秩序与社会交往秩序。
更深层的影响在于,深度伪造内容反复出现会削弱公众对网络信息的信任,增加社会运行中的辨识成本,形成“真假难辨”的舆论噪音,破坏清朗网络空间建设基础。
对策——以法治为牵引,形成“惩治+治理+防范”的闭环。
其一,司法机关对利用深度合成实施网络诽谤依法定性量刑,释放明确信号:技术不是“免责护身符”,以新工具实施侵权与犯罪同样要承担相应法律责任。
其二,平台治理需要同步加力,完善对深度合成内容的标识提示、传播风险预警与处置机制,对涉不雅、涉人格侮辱等高风险内容提高审核与溯源能力,并对群传播中的恶意转发、带节奏行为形成更有针对性的治理措施。
其三,单位和公众应提升法治意识与媒介素养,面对高度刺激性内容应保持克制,做到“不轻信、不扩散、不围观”,在发现疑似伪造信息时及时固定证据、依法举报或通过法律途径维权,减少谣言在熟人圈层的“二次加速”。
前景——技术发展不会停步,治理需与创新同频迭代。
人工智能、大数据等技术持续演进,既为生产生活带来便利,也对网络生态治理提出更高要求。
下一阶段,关键在于推动法治规则、平台责任、技术对抗和社会共治协同发力:既要通过典型案件形成稳定预期,依法保护公民人格权、名誉权;也要鼓励合规应用与正向创新,通过更完善的标识、溯源、取证与执法协作机制,提升对深度伪造的识别与处置效率。
唯有让违法者付出代价、让守法者获得保障,才能在技术更迭中守住网络空间的底线与秩序。
这起案件的判决,既是对不法分子的有力制裁,也是对全社会的重要警示。
在人工智能技术日新月异的时代,我们既要充分发挥新技术的积极作用,也要坚决防止其被滥用。
网络强国建设的重要任务就是营造风清气正的网络生态,这需要法律的有力保护、技术的安全管控、企业的社会责任和全民的文明参与。
每一个网络使用者都应当认识到,在虚拟空间中的言行同样受到法律约束,任何侵害他人权益、危害社会秩序的行为都将面临法律后果。
唯有如此,才能让互联网真正成为造福人类、促进发展的工具,而不是违法犯罪的温床。