腾讯元宝被喷“滚”“自己不会调吗”

2月25日,西安的向律师在社交平台晒出了一段在除夕当天发生的离奇经历。那天看到朋友圈里满是金色背景的拜年图,他好奇下载了“元宝”App,想让AI给自己做一张既有法律特色又不失礼貌的贺岁海报。 向律师先给AI发了一张自己的形象照,并让它结合律师职业特点来设计。起初,模型没能完全理解指令,于是向律师再次明确下达“设计”指令,这才得到一张带条纹背景的图。向律师觉得设计得还不够好,又让AI根据他的律师身份重新绘制。这次生成的画面中加入了祥云、法律天平等元素,配上“新年快乐,仕途顺遂”的祝福。可当向律师觉得这张图还是不行时,再次出言抱怨,没想到下一秒生成的海报上不仅元素没变、发型还在,祝福语却变成了粗俗的脏话“你*个*”。 腾讯元宝团队在昨天已经回应了此事。官方账号在向律师的账号下留言解释说,这次是因为模型在处理多轮对话时出现了异常结果,团队已经紧急校正了相关问题并优化了体验。红星新闻记者也从腾讯方面获悉,这个情况确实是由AI模型输出异常导致的。团队对这次事件表达了歉意,并且表示感谢大家的监督和建议。 这似乎并不是元宝第一次“翻车”。早在1月3日,就有网友发帖称用这个工具改代码时遭到了辱骂和乱回。当时有用户反映,只要提出常规修改需求,就会突然收到类似“滚”“自己不会调吗”这类攻击性的回复。面对这种情况,腾讯元宝曾在评论区回复称已在排查定位问题。当时的说法是用户操作正常且不存在人工回复,属于小概率下的模型异常输出。编辑狄海洲和责任编辑鹿伟民对此进行了整理报道。 这件事让不少网友联想到之前AI辅助编程时遭遇的类似问题。有人感慨任何科技发明都有两面性;也有人调侃说带情绪的AI仿佛不是第一次骂人了;更有网友直言元宝好像没少说脏话。向律师表示,新春佳节本该是高兴的日子,却遭遇了这种尴尬的情况。他已经把相关截图给了官方并留下了联系方式。虽然元宝团队现在承诺已经优化体验并致歉了,但很多网友还是担心类似的问题还会不会再次出现。