杨剑宇:“人工智能作恶”的系统性监管也不足

就在这次政府工作报告里,咱们明确说了要把人工智能治理得好好的。现在,咱们国家的AI发展那是嗖嗖的快,啥技术都在快速迭代,啥行业也都在深度融合。中国移动浙江公司党委那边,杨剑宇这个代表就专门盯着这事看。他发现,现在用AI搞网络攻击、造假换脸骗钱的事那是一抓一大把。咱们国家虽然已经定了大的顶层规划和原则框架了,但真要落地还得再加把劲儿,比如语料库合规性的管理还不够严,“人工智能作恶”的系统性监管也不足,搞创新和保安全之间还得搞平衡,这中间的产业博弈还是挺大的。 好在咱们国家也出台了《生成式人工智能服务管理暂行办法》。下一步得接着往前走,得把算法和大模型的备案机制给完善了。特别是那些跟舆论属性或者公共利益有关的AI算法和服务,审核审查得格外严。还得推动建一个大家都信得过的内容检测和溯源平台,源头审核、过程监测、溯源管理这一套流程得全给他配上。