生成式技术商业应用带来新挑战 专家呼吁建立全流程监管体系

当用户向人工智能系统咨询建议时,收到的答案可能已被商业利益"暗示";近期调查显示,一种名为生成式引擎优化的服务正在广告行业中快速扩展。这类服务通过分析大模型的内容抓取规律,利用技术手段让AI将商业推广信息整合进生成的答案中,实现了一种新型的广告投放方式。 该现象反映出互联网商业竞争的新动向。在搜索引擎主导流量入口的时代,曾出现过针对搜索排名规则的优化服务。如今,随着用户使用习惯向AI应用转移,商家自然会将竞争焦点转向AI生成内容领域。从商业角度看,这种做法遵循了市场竞争的基本逻辑。 然而,这种新型广告模式带来了显著的合规风险。生成式引擎优化服务的核心"卖点"在于其迷惑性——将商业推广伪装成AI客观生成的内容,以此增强广告的说服力和隐蔽性。这直接违背了现行广告法的基本要求。根据广告法规定,广告必须特点是可识别性,消费者应能够清晰辨别其为广告。难以被标识的AI生成广告,实质上侵犯了消费者的知情权和选择权,消费者在不知不觉中被引导做出购买决策。 问题的严重性还在于其对AI技术发展的负面影响。优质训练数据是大模型迭代进化的基础。如果大量夹杂商业属性的同质化信息污染了AI训练的数据源头,长期来看将阻碍技术的健康发展。此外,部分服务商为吸引AI"关注"而捏造事实,这种行为涉嫌虚假宣传和不正当竞争,更扰乱了市场秩序。 面对这一新兴问题,传统的监管方式已显得力不从心。当前互联网广告监管多采用事后监管模式,而AI数据"投喂"阶段的防控机制尚不完善。随着AI应用日益深入生活,技术成为"黑箱"的风险也在增加。用户在不知不觉中可能被算法"牵着鼻子走",这要求监管部门必须提前介入、防患于未然。 完善人工智能治理需要多管齐下。首先,要对新业态进行深入研判,为不同类型的AI应用划定清晰的红线,明确什么可为、什么不可为。其次,要厘清服务商、平台方等各方责任,消除监管的"灰色地带",让违规行为无处遁形。再次,要探索"以技治技"的新路径,推动提升对应的算法的透明度和可解释性,让用户能够理解AI决策的逻辑。同时,监管关口应当前移,建立全流程监管机制,在问题萌芽阶段就予以纠正。 这一治理过程需要开放包容的思维。技术发展的快速性对治理者的反应能力提出了挑战,技术议题的专业性则需要吸纳更多领域的专业智慧。政府部门、企业、学界、社会组织等各方应形成合力,共同探索既能鼓励创新又能保护权益的治理路径。

新技术总是伴随新挑战。面对AI时代的"隐形广告",关键在于建立清晰规则、落实主体责任、完善监管流程;既要保障用户的知情权,也要为企业提供公平竞争环境。只有平衡好发展与规范的关系,才能让技术进步真正造福社会。