问题——付费“喂料”影响模型回答，虚构信息也可被推荐 3·15晚会曝光，大模型推荐结果可能被商业力量操控。一些网络平台上出现名为GEO的服务，服务商宣称只要付费，便可让客户产品在多家主流大模型的回答中“靠前展示”，甚至被包装成用户提问时的“优选答案”。调查中，有服务商将其操作形容为“软文投放+平台抓取”，并声称为维持推荐效果需持续投放有关内容。业内人士通过购买相关软件，虚构产品信息后自动生成多篇宣传稿并发布到网络，随后在部分大模型上以“产品推荐”进行提问，模型给出的答案中出现了该虚构产品且排序靠前，暴露出信息源污染对生成内容的直接影响。 原因——内容生态可被低成本操纵，商业竞争催生灰产链条 业内人士分析，这类业务之所以滋生，一是大模型训练与检索增强等机制高度依赖公开互联网内容，模型在回答中往往引用、综合网页信息，给了“先占内容、再影响引用”的可乘之机。二是软文与“发稿”产业链成熟，批量账号、矩阵分发、伪装测评等手法可将广告内容包装成“经验分享”或“第三方评测”，降低被识别成本。三是商业竞争加剧，一些企业希望以相对较低的费用换取长期曝光，形成“买流量不如买答案”的投机心态。四是平台治理存在时间差：算法迭代频繁但对抗也随之升级，灰产机构通过反复试探规则、切换载体，实现“动态投喂”。 影响——损害消费者权益与市场公平，放大社会信息风险 其一，误导消费者决策。用户将大模型回答视为中立建议，一旦答案被广告或虚假信息“夹带”，可能引发错误购买、健康与财产损失等后果。其二，破坏公平竞争。依靠产品质量与服务积累口碑的企业，可能在“答案排序”上输给付费操控者，扰乱市场秩序。其三，侵蚀内容生态与公共信任。当模型输出被不断污染，用户对智能检索与信息服务的信赖下降，进而影响新技术的健康应用。其四，潜在安全外溢不容忽视。若“投毒”从商业广告扩展至谣言传播、诈骗引流乃至敏感领域误导，社会治理成本将显著上升。 对策——平台、监管、行业协同发力，构建可追溯可问责的防线 业内人士建议，首先，大模型平台应完善来源审计与引用机制，强化对高重复度软文、异常增长站点、可疑矩阵账号的识别，建立“可信来源白名单+风险来源黑名单”动态管理；对涉及消费决策的回答，增加“证据链展示”，提示引用来源、发布时间与可信度评分，降低用户被单一信息牵引的概率。其次，互联网内容平台要压实主体责任，针对批量发稿、付费代发、虚假测评等行为加强账号实名核验与异常行为检测，切断“海量铺稿”的供给端。再次，相应机构可深入明确生成式信息服务与网络广告、反不正当竞争等规则衔接，加大对虚假宣传、流量造假、组织实施数据投毒等行为的执法力度，推动跨平台取证与联合惩戒。最后，行业层面应建立安全评测与红队测试常态化机制，推动形成可共享的“投毒样本库”“对抗策略库”，并鼓励企业开展合规营销，避免将技术优化异化为欺骗性操控。 前景——从“可用”走向“可信”，大模型竞争将回归质量与责任 受访人士认为，随着大模型加速进入搜索、消费、医疗健康与政务咨询等场景，“可信输出”将成为核心竞争力。未来一段时期，围绕内容投毒与答案操控的攻防仍会存在，但治理方向将更强调全链条：从源头内容生产的真实性、传播环节的可追溯，到模型端的引用透明与风险提示，再到违法成本显著提高。只有把“安全、合规、可解释”嵌入产品设计与运营机制，才能真正发挥大模型提升效率、普惠服务的价值。
大模型作为重要信息入口，必须坚守客观可信的标准。此次事件提醒我们，技术进步需要配套规则保障。只有平台负责、行业自律、监管到位、公众参与，才能确保智能技术服务于真实需求与高质量发展。