八旬老人深陷"数字恋人"消费陷阱 专家呼吁加强AI视频内容监管

问题:虚构“恋爱关系”叠加带货闭环,诱导中老年高频消费 近期,一起家庭纠纷引发关注:一位84岁老人沉迷短视频中的“数字人”角色,手写情书表达情感,并在视频关联橱窗反复下单;家属核对发现,橱窗里售价数百元的挂件,在电商平台同类商品仅十元左右。除购物外,老人还对“悲情叙事”类推文打赏、购买虚拟产品,数月累计支出达数千元。 类似情况并非孤例。多位家属反映,老人账号长期被“帅气大叔”“黄昏恋”等内容占据,难以抽离,甚至出现“要结婚”“要转账帮忙”等念头,家庭财产与亲情关系同时承压。 原因:技术低成本复制、算法精准投喂与情感缺口被利用 一是制作门槛明显降低。智能生成工具可快速生成口播视频和角色形象,批量生产“人设”和剧情,形成“账号矩阵+脚本模板+商品橱窗”的流水线。 二是推荐机制强化“沉浸循环”。平台依据停留时长、互动频次和消费行为不断加权推送,使用户越看越集中在同类内容里,产生“被包围”的感受。 三是“情感营销”叠加“从众造势”。部分账号通过评论区“托儿”烘托、粉丝群二次运营,把普通带货包装成“恋爱陪伴”“命运共同体”,用“姐姐救我”“接你回家过好日子”等话术制造责任感与紧迫感。 四是中老年群体媒介识读相对薄弱,更容易相信“看见的就是真实”。当视频呈现逼真的表情、语气和场景时,辨识难度上升;在子女陪伴不足、情绪价值缺口较大时,虚拟陪伴更容易填补空白,进而转化为付费冲动。 影响:既是消费纠纷,更是新型网络侵害与社会风险叠加 从个体层面看,受害者可能陷入持续性非理性消费,购买高价低质商品、重复打赏付费内容,甚至被引导至站外交易、转账汇款,财产风险更放大。 从家庭层面看,子女劝阻常被理解为“拆散感情”,沟通更易对立,家庭关系随之紧张。 从行业与社会层面看,虚构身份借助技术包装,模糊广告、内容与交易边界,破坏平台生态与消费信任,并可能外溢到电信网络诈骗、非法引流、个人信息收集等更严重违法环节。若任其扩散,还会加深老年人对互联网空间的不安全感,形成“数字鸿沟”的新表现。 对策:压实平台责任与全链条治理并举,强化源头识别与消费保护 其一,强化平台审核与标识义务。对智能生成的角色形象、口播视频落实显著标识,严格规范以“虚构身份”“情感关系”为导向的内容,限制以恋爱承诺、苦情叙事绑定交易的营销方式;对高投诉商品、异常溢价商品和诱导打赏账号提高风控等级,完善“一键投诉、快速处置、资金追溯”机制。 其二,完善技术侧防护。专家建议建立不良指令与素材“负样本库”,在生成环节识别拦截诈骗、引流、灰黑产脚本,从源头降低批量造假能力,并对异常生成、异常投放建立可追踪水印与审计链条。 其三,严格规范橱窗与带货链路。对带货主体资质、商品来源、价格合理性、售后保障开展更严格核验,治理“同款低价、橱窗高价”的信息不对称;对以“情感陪伴”包装的收费社群、私域导流加大打击力度。 其四,补齐老年网络权益保障。社区、养老机构与家庭应加强媒介素养教育与情感陪伴,推广“长辈模式”、支付限额、夜间防沉迷等适老工具;对疑似受害者,及时保留交易记录、聊天截图与支付凭证,依法维权。 前景:治理进入精细化阶段,关键在于协同与长期机制 今年以来,主管部门持续推进网络生态治理,将整治智能生成技术滥用纳入重点任务,表达出从严监管信号。下一步,治理成效取决于“平台自律+部门监管+行业标准+公众教育”的合力推进:既要堵住批量生产与精准投喂的漏洞,也要建立可持续的适老保护体系,让技术创新回到服务民生、守护安全的轨道。

一封写给虚拟人物的情书,折射出真实存在的情感孤独与数字鸿沟。技术进步应当服务人的尊严与福祉,而不该成为收割弱势群体的工具。保护老年人免受数字骗局侵害,既需要法规与平台的硬约束,也离不开家庭与社会的支持与陪伴。让每一位老人都能安全、有尊严地融入数字生活,是这个时代必须承担的责任。