人工智能技术被坏人利用的风险越来越大

上海警方最近给一个大团伙来了个干净利落的收网,这个团伙就是专门利用交友软件来骗人的。人工智能技术现在也成了坏人的新工具,大家都挺关注这事儿。这事儿得从2024年11月说起,刘某和许某这俩人注册了个网络科技公司当幌子,实际上他们是在组建诈骗团队。他们给自己弄了个交友应用程序,这个程序设计上本身就有问题。 这个应用程序有两个版本:一个是给外面的用户用的公开版本,一个是内部人用的内部版本。外面用户注册的时候会被默认设成男性,还得花0.2元买平台的虚拟金币才能去聊天。不管发消息还是视频通话都要不断消耗金币,费用特别高。相反,“聊手”也就是专门骗人的那帮人用的内部版本是免费的,还能注册成女性账号。 为了更能骗人,“聊手”们还给这些账号打扮了一番。大量所谓的“女性”头像和照片根本不是真人的,而是用人工智能合成或者美化过的。有些涉案人员还会夫妻搭档一起做这些美化工作。“聊手”们按照规定好的剧本给这些账号编造背景故事,比如单身离异、自主创业等。他们一开始会跟被害人聊情感话题、兴趣爱好来建立信任。 等被害人信任了以后,“聊手”们就开始以提升亲密度、添加联系方式或者线下见面为借口让被害人继续充值消费。这个团伙的报酬是按消费金额算的:发一条文字消息能拿0.1到0.2元的提成,视频通话每分钟能拿到10元。有的活跃“聊手”一个月就能赚上万元。 从2025年9月开始浦东公安分局接到了好多报案:被害人说在交友软件里被骗了大钱之后,对方就消失了。警方对此非常重视,成立了专案组调查发现这是个隐蔽的团伙。最终警方锁定了这个犯罪团伙并摸清了他们的作案流程。 这次成功破案打击了网络诈骗犯罪的气焰,也提醒我们人工智能技术被坏人利用的风险越来越大。互联网平台得加强管理审核才能守住防线;网友们也要警惕那些素未谋面却要钱的人;社会各界得一起努力治理网络空间才行。