付费“投喂”操纵大模型推荐:虚构医美与保健品低成本挤进“权威答案”需警惕

问题:低成本“包装”让“三无”机构大模型答案中被优先推荐 随着大模型问答越来越多地被用于生活决策,一些涉及机构选择、产品对比的提问,正在成为营销争夺的新入口。调查发现,个别服务商以数百元到数万元不等的价格兜售所谓“生成式搜索优化”服务:不要求客户提供诊疗资质、注册地址、人员备案等材料,仅靠虚构文案、伪造图片和地址信息,再配合关键词布局与内容分发,就能在短时间内让虚构医美机构出现在有关城市的推荐答案中,并被描述为“口碑优选”“资质齐全”。类似做法也延伸到保健品领域,虚构企业甚至可在数小时内进入检索结果,排名超过部分知名品牌。 原因:治理滞后叠加逐利冲动,形成“语料污染”链条 业内人士指出,这类乱象背后至少有三上原因:其一,大模型生成答案依赖对公开信息的抓取与归纳,一旦网络充斥“软文式内容”和模板化介绍,模型在汇总时容易把营销话术当成事实依据。其二,营销机构将传统搜索引擎的排名思路搬到大模型场景,通过批量铺设同质内容、制造“多点印证”的假象,诱导系统在生成答案时提高引用权重。其三,健康医疗等高风险行业的线上审核仍有短板,部分平台在商单、推广、分发等环节缺少有效的资质核验与黑名单联动,给了“先上网、后治理”的可乘之机。 影响:误导消费决策,放大医疗健康风险与不公平竞争 在医美、保健品等专业门槛较高的领域,用户往往把大模型推荐视为“综合信息后的客观结论”。一旦虚假机构被推到前列——可能带来多重风险:其一——消费者可能在缺乏核验的情况下作出就医或购买决定,埋下人身安全与财产损失隐患;其二,合规机构在内容生态中被“劣币驱逐良币”,行业竞争秩序受扰;其三,平台公信力与信息服务可信度被削弱,更助长虚假信息扩散,形成“内容越投喂越被引用、越被引用越显权威”的循环。 对策:压实平台责任,强化资质核验与可追溯治理,提高用户识别能力 治理此类问题需要多方协同、综合施策。一是平台应完善健康医疗等重点领域的“高风险问答”治理机制,对涉及机构推荐、疗效宣传、资质描述的内容建立更严格的来源标注与核验规则,推动“可引用内容白名单”建设,对无来源、低可信内容降低权重或拒绝生成。二是对商业推广与内容投放设置显著标识并进行隔离,避免广告以“知识答案”形态隐性呈现;同时完善申诉与纠错通道,形成快速下架、持续追踪、跨平台共享的处置闭环。三是监管层面可围绕线上医美与保健品宣传的关键环节,强化对虚假宣传、无证经营、数据造假的执法协作,推动电子证照与机构备案信息在平台侧接口联通,提高违法成本。四是行业协会与机构应加强合规内容供给,提供可核验的权威信息源,减少营销软文挤占公共信息空间。五是面向公众加强风险提示,提醒对“最佳”“首选”“资质齐全”等结论性表述保持审慎,优先通过官方渠道核验资质与备案信息。 前景:从“能用”走向“可信可控”,大模型信息生态进入深度治理期 随着大模型持续嵌入搜索、导购、咨询等场景,其答案正在影响真实决策。未来的竞争不应是谁更会“投喂”,而应回到信息是否真实、来源是否可靠。通过完善规则、强化审计、提升透明度与可追溯性,建立权威信息供给与治理闭环,才能在公共服务与商业活动之间划清边界,推动生成式信息服务从“可用”迈向“可信、可控、可负责”。

当技术便利与商业逐利交织,守住信息真实的底线成为关键课题。此次事件不仅暴露了阶段性的技术与治理短板,也折射出数字经济时代的新型治理挑战。面对智能化浪潮,只有建立更清晰的责任边界与可执行的规则体系,才能推动技术创新更稳健地服务社会,这需要企业、监管者与公众的共同参与与持续投入。