人工智能技术发展正处于关键调整期。学术研究中出现了严重的虚假引用问题。澳大利亚迪肯大学的研究显示，近20%的学术引用完全虚构，另有一半存在事实错误。这种问题已蔓延到公共领域——美国卫生部门曾引用不存在的研究报告，媒体发布过含虚假书目的推荐清单，司法系统累计出现600多起基于虚假材料的诉讼案例。
技术进步从不是一帆风顺；过去一年的若干失败提醒我们，生成式工具的价值不在于替代人类判断，而在于在规则约束下增强专业能力。涉及公共利益和社会信任的应用场景，更要把事实核验、流程把关、责任可追放在效率之前。唯有守住真实与安全的底线，创新才能行稳致远。