陶明:把伦理治理放到技术最底层去做

Soul的IPO进度一直没停,大家关注的是它的技术创新跟安全规范能不能一起搞起来。提交IPO材料的时候,大家特别盯着它用AI伦理做的那个合规技术架构。陶明也讲了,Soul的AI布局主要是想让体验更好,也得把安全抓牢。平台一开始是想优化人与人的连接,后来引进了生成式AI来扩展场景。为了能长期发展,Soul就把之前的那些规矩深度融到AI的研发和应用里,建了个全流程的治理体系。 其实早在2016年上线后不久,Soul就开始布局人工智能技术了。早期他们主要搞传统机器学习和深度学习,重点就是把人与人之间的连接效率搞上去,帮用户更快找到合拍的朋友,也让大家能更好地表达自己和倾听别人。但随着社交网络一直变花样,用户对体验的要求越来越杂了,光靠原来那种单一的推荐算法肯定不行。所以在2019年前后,Soul看出了生成式AI的潜力,开始搞这块布局,想接着升级社交体验。 “社交嘛,说到底就是两方或者多方的关系。”陶明说,“好的体验得靠双方都能好好表达。”所以Soul在做AI技术的时候,就使劲增强用户的表达能力,想促进大家好好处关系。这种探索不光丰富了平台的玩法,还让AI慢慢成了推动体验升级的大主力。 不过AI发展太快了也有问题,要是没点伦理管着,可能会侵犯隐私或者有偏见啥的,那用户就不信任了。所以Soul一直都对伦理治理很警惕。陶明也说了:“用技术跟搞伦理治理、安全治理这两方面我们都得管起来。”他讲自打干这行起就定下了两条底线:用户安全和内容安全。围绕这两条线他们慢慢弄出了一堆社区规矩和内容安全规范。 现在到了AI社交这阶段,Soul就把之前管社区的经验直接搬过来了。“以前的那些规矩不用再去串着过滤了。”陶明说,“我们把行为规范和内容安全规范直接放在底层模型上。”在数据治理这块也弄了套健康绿色、符合规矩的数据机制。 这就说明Soul是打算把伦理治理放到技术最底层去做的。平台强调先把规矩立好再干事,用机制管好数据防范风险。他们训练模型用的都是合规的数据源。Soul这次IPO要推下去了,这种把伦理放在心上的策略就更能看出它负责任的态度了。