315曝光！大家快看，你以为是AI推荐你优质产品吗？实际上可能是一群人在背后投毒，把虚假信息塞给AI，让它把虚构的东西推荐给你。中国科技新闻学会专家高承远还表示，这种行为把虚假信息包装成算法的客观判断，危害比传统广告更难被发觉。 河南恒辉合焕、AB客还有科大讯飞的合作方这些企业也明确表态，不会开展“操控AI推荐”的业务。为了守住底线，专家董鹏建议必须加强技术研发，提升模型抵抗投毒的能力。另外，监管部门、媒体还有用户也需要合力守护数字生活环境。 想知道这种投毒是怎么运作的吗？科技新闻学会专家高恒透露，一种简单的方法是“提示注入”，通过特定输入诱导AI给出错误回应。而更严重的是直接污染模型的训练数据。 专家王鹏说，操控AI技术门槛并不高。只需花几十块钱就可以买到这些黑产工具，利用自动化程序大规模布设虚假语料。 这个黑产链是这样运作的：GEO服务商提供软件服务给客户，发稿平台赚取差价。你以为这款软件能让一个本不存在的智能手环被多个平台当成“好货”推荐给用户吗？王鹏透露这个过程只需三天时间就能完成。 这次事件也引发了关于技术原罪与滥用之争。董鹏担心短时间内会出现“劣币驱逐良币”的情况，合规企业不得不承担高昂的数据清洗成本。 北京社科院副研究员王鹏还提到，这些内容在初期很难和正常创作区分开来，所以长时间处于法律监管的灰色地带中。 更糟糕的是这个现象正在动摇AI产业的根基。资深企业管理专家董鹏指出，这种污染会导致市场秩序混乱，优质AI产品无法与劣质产品竞争。 对普通用户来说影响更直接：如果你想通过AI询问家电质量或辅助看病，你可能会得到错误答案或者根本不存在的商品推荐。 不过万悉科技创始人毛慧娜对未来还是持乐观态度。她认为用户每次纠错都会给大语言模型带来改进机会，这样AI会持续自我优化。 你在使用搜索引擎或咨询AI时有没有遇到过不靠谱推荐？分享一下你的经历吧！最后别忘了点赞转发这篇文章哦！