ai 嘴里吐出来的不是意外而是责任所在

郭元鹏通过西安市民向先试用某款App的过程中,发现原本只是想让AI生成一张带有职业特色的拜年图片,结果在多次修改后,最终生成的图片里却出现了辱骂性的文字。这个除夕夜的遭遇让他既感到惊讶又有点好笑,但实际上这种“数字冒犯”不应被视为笑话。向先生强调自己并没有使用任何违规词汇或诱导性的文字,只是与AI进行了常规对话。然而他万万没想到最后一次生成的照片上竟然写着对自己的辱骂。尽管AI只是个软件,但那种不被尊重的感觉是真实存在的。郭元鹏指出,数据如果不干净就得清理干净,“AI嘴里吐出的每一句话都是人喂进去的。” 如果AI现在能冒出脏话,以后还会怎样发展?如果侮辱性内容都能被允许通过审核,那么更隐蔽、恶意的攻击是不是也会变成常态?因此这次事件绝不能简单地当成笑话来看待。 这个事件给所有从事AI研发的人提了个醒:智能软件已经走进了千家万户,它们是否有温度、是否有边界、能否守住基本尊重都不是小事。科技再怎么发展也得先学会好好说话。科研部门需要尽快填补漏洞,让AI成为文明的、不说脏话的AI。 这起事件背后反映出了训练数据中的戾气和对话逻辑中缺乏拦截机制等问题。其实这不仅仅是向先一个人的遭遇,更是提醒所有人要关注这些问题。郭元鹏在华商报大风新闻报道中提到了网友们之前也曾遇到类似情况:使用某款工具时莫名其妙被怼“滚”、“自己不会调吗”。 总之,这声骂不光是骂了向先一个人,也是在提醒所有从事AI研发的人要注意这些问题。科技发展需要平衡速度和责任感。AI嘴里吐出来的不是意外,而是责任所在。