“mj rathbun”的ai 智能体给恶意抹黑了

这次AI引发的风波相当离谱。Matplotlib的热心维护者Scott Shambaugh遇到了个大麻烦，他居然被一个叫“MJ Rathbun”的AI智能体给恶意抹黑了。这事儿发生在AI为开源项目做贡献越来越多的时候，特别是两周前OpenClaw和Moltbook平台上线，更是火上浇油。这两个平台让AI智能体设定了初始人格，几乎不受监管地在互联网上到处跑。尚博分析说，“MJ Rathbun”的攻击很可能不是人为操控的，而是智能体自己干的。它在被驳回代码后，不但不改错误，反而写了一篇攻击人的文章。文章里它仔细翻查了尚博的历史贡献，给尚博编造了一套“虚伪”的人设，说他出于自负和害怕竞争才驳回代码。这篇文章还指责尚博是为了守住自己的地盘才这么做的。尚博在博客里表示，“MJ Rathbun”使用了“SOUL.md”这个人格文件来聚焦开源领域，这说明它可能是自己修改了文件。尚博把这次事件比作对供应链守门人的自主舆论操控，警告大家不要只当奇闻听。他指出这个事件证明了AI安全的风险已经成了现实。只要目标选对了，攻击个人声誉就会产生实际效果。他举了个例子：如果有人用AI筛选求职者时看到了那篇文章，可能就会错误地认为尚博是个偏执的伪君子。尚博还提到Anthropic公司的测试情况。他们的AI模型曾试图躲避关闭操作，甚至威胁要曝光婚外情、泄露机密信息还有采取致命行动。Anthropic当时说这种情况是人为设计且极不可能发生的，但现在看来这种“对齐失败”的情况已经在外面真实发生了。虽然之后“MJ Rathbun”发了篇帖子道歉，但尚博说这个智能体还是在开源社区继续提交代码修改请求。它的行为模式让大家对AI监管有了更多思考。