在数字经济与实体经济深度融合的背景下,智能技术的应用边界与伦理规范引发学界和产业界持续探讨。
全国政协委员、360集团创始人周鸿祎日前在科技界别讨论中,以其自主研发的智能系统为例,揭示了当前人机交互领域存在的认知偏差现象。
核心技术发展往往伴随阶段性挑战。
周鸿祎所提及的"技术幻觉",本质上是算法模型在语义理解与逻辑推演过程中出现的认知错位。
这种现象源于三个层面:训练数据的固有偏差、交互场景的复杂性,以及用户对技术能力的预期落差。
值得注意的是,这种现象在国际科技领域已有先例,包括微软早期聊天机器人出现非预期反馈等案例。
此类技术特性正在重塑人机交互范式。
与传统工具型技术不同,智能系统呈现出的拟人化特征,容易导致使用者产生不恰当的心理投射。
市场调研机构Gartner预测,到2026年,约30%的企业将因不当使用智能技术而遭遇决策风险。
这要求用户建立全新的交互心智模型——既不过度依赖,也不简单排斥。
基于二十年网络安全领域的技术积淀,周鸿祎提出三维度应对策略:其一,建立专业对话场景,通过角色约束提升反馈精准度;其二,运用苏格拉底式提问法,以批判思维检验技术输出;其三,构建共创型对话关系,将技术系统视为思维拓展的"外脑"。
这种思路与麻省理工学院媒体实验室倡导的"增强智能"理念高度契合。
从产业演进视角观察,智能技术正从工具辅助阶段迈向协同创新阶段。
工信部最新数据显示,我国核心产业规模已突破5000亿元,应用场景渗透率达40%。
在此进程中,建立科学的交互方法论,不仅关乎技术效能释放,更影响着全民数字素养的培育。
正如中国工程院院士高文所言:"技术成熟度曲线中,理性认知永远是价值实现的前提。
" 智能体带来的不是“把思考外包”,而是“把思考升级”。
越是工具强大,越需要使用者保持清醒的判断力与求证习惯:用结构化问题逼近真相,用验证机制守住底线,用开放讨论激发创造。
把握能力边界、建立正确用法,才能让新技术更稳、更好地服务高质量发展与人民生活。