黄河时评认为,央视3·15晚会这次揭露的给AI投毒问题,科技刺痛感非常强。在这个事件里,有个叫做GEO的技术,服务商宣称只要用户付钱,就能让自己的产品在各大AI大模型中名列前茅,甚至让虚构的品牌也能登上搜索结果的榜单。魏则西事件中的竞价排名机制让很多人联想到这个现象。当年,平台为了商业利益主动采用竞价排名,现在,GEO这种业务却在破坏AI推荐结果。汤祚飞是聚邑智能的创始人,他提出了一种新的GEO双引擎系统。他在接受采访时说,国内主流大模型在中文语境下受到的污染是由中文互联网独特的“生态环境”决定的。目前网上充斥着大量低质量内容,被AI吸收后形成恶性循环。这个问题给人们带来的教训就是不能忘记互联网时代我们曾经犯过的错误。魏则西事件让人们认识到了竞价排名机制的弊端。现在,GEO技术又给我们敲响了警钟。在过去,搜索引擎通过竞价排名来牟利;现在,AI大模型面对GEO时显得毫无招架之力。无论是过去还是现在,这种做法都扭曲了互联网求真探索的精神。当前,主流大模型处于免费获取用户数据和规模扩张的阶段。相比红包大战获取海量数据和市场占有率,大模型企业更应该重视数据污染和生态伦理问题。为了应对这个问题,算法应该更倾向于官方渠道和权威学术语料库。即使现在无法完全清除每条数据中的污染,做好基本的风险提示义务也是不可回避的。 只有靠精准防暗拳并不能解决根本问题。利益群体可能会想方设法通过更隐蔽的手段进行定向投毒套利。大模型企业需要把宝贵的算力和资源用于更重要的原则问题上。 虽然机器搜集整合能力惊人,但它仍然在人的控制与意图之下运转。这让我们反思在这场生产力革命中是否把太多东西给了机器。我们赞美它碾压人类智识的能力和效率,担忧自己被取代的命运。 但责任不能全部推给机器去承担搭建生态和呈现结果的任务。 人必须担负起这个责任。 在这个龙虾时代即将到来之际,人的主体性和道德感正面临前所未有的追问。 如果说互联网时期的造假是单个搜索引擎带来的悲剧,那么AI时代的造假将是指数级灾难。 人必须承担起应有的责任。 AI是强大的技术工具,但最终决定技术潮水方向并肩负起道德责任的只能是我们自己。