问题:公共场景“类人设备”与行人近距离接触的安全风险显性化 近日,澳门沙梨头南街发生一起引发关注的街头事件:一名女性夜间步行时发现身后有人形机器人近距离尾随徘徊,因受惊出现强烈情绪反应,随后由人员陪同就医检查;接报后,警员到场将涉事机器人带离并开展调查。警方后续了解,该设备处于商业化前的外场测试阶段。虽然未造成严重人身伤害,但“跟随—惊扰—处置”的过程,将服务型人形机器人进入开放街区后可能带来的安全与治理问题推至公众视野。 原因:技术成熟度、测试管理与安全防护的“三个缺口” 业内分析认为,此类事件往往并非单一因素所致,主要集中三个缺口。 一是感知与决策的边界尚不稳固。人形机器人依赖视觉、雷达等多传感器融合识别环境,在夜间光照不足、道路狭窄、行人突然变向等场景下,容易出现“目标误识别”“路径规划异常”或“保持距离策略失效”,从而形成近距离跟随、阻挡通行等不当行为。 二是外场测试的许可与隔离措施不足。部分企业在真实街区进行验证,若缺少明确的测试范围、时间段、围挡与现场安全员配置,或未对路人进行有效告知,设备一旦出现异常,处置窗口期短,容易诱发恐慌甚至踩踏等次生风险。 三是网络与远程接口的安全防线需要前移。新型设备为便于调试、升级,往往保留远程运维通道。若鉴权、加密与权限管理不到位,存在被非法接管、恶意操控的隐患。对具备较大关节扭矩与运动能力的设备而言,网络风险可能转化为现实伤害风险,危害性更高。 影响:从个体惊扰扩展到公共秩序与产业信任 一上,事件对当事人造成心理冲击,也提示夜间、狭窄道路等高敏场景更易触发“人机误会”。另一方面,涉及的视频网络传播后,容易放大公众对新技术的不安,影响行业口碑与城市形象。更重要的是,若类似设备在商圈、交通枢纽、景区等人群密集场所发生碰撞、夹伤等事故,或出现远程劫持、群体性失控,影响将超出单一事件范畴,触及公共安全和社会治理底线。 对策:以“准入—测试—运行—追责”闭环制度守住安全红线 受访人士建议,应在以下上加快补齐制度与技术短板。 第一,完善公共场景准入与分级管理。对人形机器人外场测试实行分类分级许可,明确测试路段、时段、人流阈值、现场安全员配比与应急处置流程;对进入医院、学校、交通枢纽等重点区域的设备设置更高门槛。 第二,强化“安全冗余”与强制性技术要求。推动建立面向行人交互的基础规则,例如最小安全距离、跟随策略限制、紧急停止机制、碰撞检测与限力控制、跌倒自保护等,并通过第三方检测认证与定期抽检落实。 第三,筑牢网络安全底座。对远程运维接口实行最小权限、强鉴权、全链路加密与日志审计,建立漏洞披露与快速修补机制,鼓励开展安全攻防测试与红队演练,防止调试便利成为安全缺口。 第四,明确责任链条与保险机制。对“生产商—运营方—使用方—维护方”的责任边界作出可操作规定,强化事故报告、数据留存与取证规则;探索推广第三方责任保险与风险保证金制度,确保受害者救济渠道顺畅、责任主体可追溯。 前景:在发展与安全之间找到可持续的制度平衡 当前,服务型机器人正从展馆走向街区,从演示走向真实任务。其价值不仅在于提升效率,更在于拓展公共服务的供给方式。但越是贴近人群,越需要规则先行、标准先行、责任先行。业界普遍认为,未来竞争不只比拼动作能力与展示效果,更取决于在复杂环境下的稳定性、可解释性与可控性,取决于能否用制度把风险关进笼子、用技术把安全做成“默认配置”。
人工智能技术的进步为人类社会带来了前所未有的机遇,但同时也带来了新的风险挑战。澳门机器人事件不应被简单视为一个孤立的安全事故——而应作为一次深刻的警示——促使全社会重新审视人工智能发展与安全防护的关系。技术本身没有善恶,关键在于如何使用。当我们欢呼雀跃地迎接机器人时代到来之际,更应该保持清醒的头脑,未雨绸缪地建立完整的安全防护体系。只有在充分的安全保障基础上,人工智能的发展才能真正造福人类社会,否则我们可能正在亲手打开一个难以控制的局面。这要求政府、企业和社会各界共同努力,在创新与安全之间找到平衡点,确保人工智能始终处于人类的有效控制之下。