今年春节期间,一段所谓"春运绿皮车严重超员"的视频在网络平台广泛传播,引发公众关注。
经有关部门核查,该视频系利用人工智能技术拼接历史画面制作而成,内容完全失实。
这一事件折射出当前人工智能技术被滥用于违法犯罪活动的严峻现实。
记者梳理发现,类似案件正在多地频繁发生。
今年2月,上海杨浦区一家烤肉店遭遇敲诈,顾客杨某声称用餐后身体不适,出示医院就诊记录索赔2000元。
店主转账后心生疑虑报警。
公安机关调查发现,杨某利用人工智能软件篡改他人就诊记录,伪造姓名、日期及金额等关键信息,并以此向市场监管部门多次投诉举报,逼迫商家赔付。
目前杨某因涉嫌敲诈勒索罪已被采取刑事强制措施。
同月16日除夕夜,一条"四川绵阳三台县发生火灾"的视频在短视频平台传播。
当地公安机关调查查明,李某截取外地火灾视频截图,通过人工智能技术生成虚假画面,并将地理位置篡改为本地发布。
由于发布时间敏感,部分网民信以为真转发扩散。
李某因故意虚构事实扰乱公共秩序被行政处罚。
更为恶劣的是,不法分子将技术手段用于针对弱势群体的精准诈骗。
最高人民法院2月26日发布的典型案例显示,诈骗分子利用声音模拟技术冒充老人孙辈,通过电话实施诈骗。
吴某涛配合诈骗团伙上门收取赃款,从3名独居老人处骗取现金共计6万元。
人民法院依法对其判处刑罚,从司法层面斩断电信诈骗赃款变现链条。
分析这些案件可以发现,人工智能技术滥用呈现出鲜明特征。
其一,违法成本显著降低。
传统造谣需要实地拍摄、复杂剪辑,敲诈需要真实证据,诈骗需要面对面接触。
如今技术工具可实现一键生成、批量制作、深度伪造。
去年江西公安机关查处的一起案件中,当事人通过相关工具日均发布虚假信息数千条,日收入超过万元。
其二,情绪煽动性增强。
不法分子通过抓取网络热词和视觉符号,精准选择公众情绪敏感时期发布虚假信息。
除夕夜的火灾视频、春运期间的超员谣言,均在特定时间节点发酵,极易激发公众焦虑情绪,实现跨圈层快速传播。
其三,识别难度大幅提升。
人工智能生成的画面在光影、细节等方面日益逼真,加之混合剪辑真实素材,其欺骗性远超传统谣言形态。
办案民警指出,此类案件迷惑性强、隐蔽性高,普通公众仅凭肉眼难以辨别真伪。
从应用场景看,技术滥用形式呈现多样化趋势。
从伪造医疗文书、生成虚假视频,到模拟声音诈骗、盗用公众人物形象,已渗透到敲诈勒索、造谣传谣、电信诈骗等多个领域。
演员王劲松近日发文称,其形象被盗用生成视频,"声音、口型完全看不出真假",连家人都难以分辨。
这种深度伪造技术对个人肖像权、名誉权构成严重威胁。
从侵害对象看,不法分子针对特定人群精准作案。
独居老人成为声音模拟诈骗的重点目标,春节返乡群体成为春运谣言的情绪靶点,餐饮等服务行业商家成为伪造证据敲诈的主要对象。
这种精准化、差异化的作案手法,使得防范难度进一步加大。
当低成本的造假工具遇上高传播性的社交平台,再辅以真假难辨的技术伪装,人工智能滥用的风险便从单纯个案演变为系统性挑战。
复合型谣言真假交织,增加了核实门槛,对公众信息甄别能力提出更高要求。
技术发展与法律规制、平台治理、公众素养之间的不平衡,成为当前亟待解决的突出问题。
有关专家指出,应对人工智能技术滥用需要多方协同发力。
在法律层面,应完善相关法律法规,明确技术滥用的法律责任,加大惩处力度。
在技术层面,应加强溯源技术研发,提升虚假内容识别能力。
在平台层面,应强化内容审核机制,建立快速响应处置体系。
在社会层面,应加强公众媒介素养教育,提高识别虚假信息的能力。
技术本应为人类福祉服务，而非成为违法犯罪的工具。
面对技术滥用带来的新挑战，全社会需保持清醒认识，既不能因噎废食，也不能放任自流。
唯有在法治框架下规范技术应用，才能让技术进步真正造福于民。