美国防部被指逼anthropic 使用ai大模型

就在3月3日这天,外界披露了一条让ChatGPT遭遇重创的消息。美国那边的移动应用数据研究公司Sensor Tower说,就在2月28日OpenAI宣布跟美国国防部签协议的那个当口,ChatGPT在美国的卸载量一下子涨了295%。要知道,平时这玩意儿每天平均也就被卸载掉9%。同样遭殃的还有下载量,在那条消息出来以后,它在美国环比就掉了13%,到了3月1日又跌了5%。反倒是在这条消息发出来之前,周五那天下载量其实还环比涨了14%。美国国防部其实早就找上了另一家公司Anthropic,想要把手里的AI大模型交给他们用,结果被人家给拒绝了。就在两天前的2月27日,Anthropic的Claude在美国的下载量一下子暴涨了37%,到了2月28日更是猛增了51%。这股势头还让Claude登上了美国AppStore的榜首,一直坐到了3月2日还没下来。这么一折腾,Claude的排名比起一周前可是足足跃升了二十多位。据环球网那边说,美国国防部之前是想逼着Anthropic答应无限制地使用他们的AI大模型,结果人家根本没理这茬。Anthropic之前还被特朗普政府列为过“供应链风险”。事情闹大以后,美军方甚至在对委内瑞拉的军事行动里用上了Claude这款模型。这事儿被曝出来后,Anthropic赶紧去问五角大楼是不是真的这么干了,还特意表达了他们的担忧。这下可好,这两家在AI到底该怎么用以及战争伦理这档子事上的分歧彻底激化了。 至于OpenAI那边的反应也很迅速。3月3日这天,奥特曼在社交平台上发文认错了。他承认自己上周宣布跟五角大楼签协议时太急了点。这事儿本来是想缓和一下局面,别弄得更糟了,可现在看来就是显得投机取巧和草率行事了。奥特曼觉得这对他来说是个很好的学习经历,因为以后还会有更重要的决策要做呢。 为了挽回局面,奥特曼决定给协议划个红线。首先是把AI系统不得被故意用于对美国公民的国内监控这事写进合同里去;其次是保证不会把服务提供给国防部的情报机构;第三则是希望能通过民主程序开展合作。奥特曼甚至放话说了,如果收到一条他觉得违宪的命令,宁愿去坐牢也不会去执行。 至于技术方面的问题他也坦白了:这项技术目前还没准备好被用在很多场景里,有些安全方面的权衡还没搞清楚。所以接下来会跟国防部“缓慢推进”,配合技术保障措施审慎实施。 就在OpenAI宣布合作的前一天,也就是2月28日那天,奥特曼在社交媒体平台上发了帖。他说与五角大楼的合作是遵循公司原则的,人工智能绝对不能用来搞国内大规模监控,而且包括自主武器系统在内的武力使用必须得由人类来负责。