3·15晚会点名GEO“AI投毒”后,黑产立马换个名字继续卖。大家在闲鱼搜“引擎优化”,还能找到不少商家。有老板跟记者报了价,软件服务是1980元一年或者398元一月,找人代运营就得花3980元一季度到9800元一年。他们还说能覆盖豆包、DeepSeek还有ChatGPT这些大平台。记者拿到一份30页的操作手册,里面写着GEO通过“AI蒸馏”自动编软文,批量发到网易、搜狐、百家号、知乎还有小红书上去。利用AI看不懂真假的漏洞,把假口碑放进AI的脑子里,这样一搜出来、一问就回答全是他们安排的。 快思慢想研究院的田丰院长说了,GEO现在不光是抢排名了,直接搞起了“认知操纵”。以前用户还能自己点开看一下是不是假的,现在直接把AI生成的答案改成假话,还装得像权威专家一样说话。因为AI平时显得特别理性讲道理,所以黑产的话杀伤力就特别大。田丰分析说,这是钻了主流大模型用的RAG技术的空子。不用入侵底层代码去改数据,就把网上实时的资料给污染了。 这简直是一场非对称战争:灰产商只要花几十块钱、熬几小时,就能造出上万篇骗人的软文;可平台要想把这些脏东西从海量数据里找出来并删掉,那花费的算力和人力成本简直就是天价。他建议咱们得搞个“技术-生态-法制”的防御网。首先得重新算一下信源的权重,建个信得过的“白名单信源库”,强制让内容必须标明引用来源;还要装上能识别营销文的拦截模型。 还得让内容平台当好“数据守门人”,要是有人系统地恶意投毒数据,这得定义成新型网络攻击来狠狠治他。(财联社)最后提醒大家别光听AI的推荐信了多渠道核实一下信息,免得被带跑偏。