Anthropic起诉特朗普政府,被贴上国家安全风险标签后
雅加达 - 人类智能公司Anthropic在被五角大楼列为有争议的“供应链风险”后起诉美国政府。这一诉讼标志着科技公司与美国总统唐纳德·特朗普政府之间公开冲突的升级,涉及在该国的军事行动和国内监控中使用人工智能。
在3月9日星期一向加利福尼亚联邦法院提出的诉讼中,Anthropic表示,政府的决定违反了法律,违反了言论自由原则和美国宪法保障的正当程序权利。
“这一举措是前所未有的,也是非法的。宪法不允许政府利用其巨大的权力来惩罚受保护的观点的公司,“Anthropic在诉讼文件中说。
五角大楼上周给予的“供应链风险”标签有效地限制了Anthropic在国防项目中使用其AI技术的可能性。该决定是在该公司拒绝删除其AI聊天机器人Claude的使用限制之后作出的,特别是对于两个敏感问题:完全自主的武器和对美国公民的大规模监视。
美国国防部长皮特·赫格塞特(Pete Hegseth)被认为是确定风险评估的机构。政府还宣布了一个为期六个月的过渡期,然后在五角大楼项目中完全停止使用Anthropic技术。
Anthropic还要求法院推翻特朗普总统的命令,该命令禁止联邦雇员在工作中使用聊天机器人Claude。
这一争议引发了关于在现代战争中使用人工智能的界限的广泛辩论。一方面,美国政府要求在法律认为合法的所有用途中充分使用人工智能的灵活性。另一方面,Anthropic认为该技术还不够可靠,不能完全交给自主武器系统。
根据该公司的说法,在没有人类干预的情况下使用人工智能来控制武器可能会带来巨大的风险。
“即使是当今最好的AI模型也不足以用于完全自主的武器系统,”Anthropic说。
五角大楼拒绝就正在进行的法律程序发表评论。但国防官员此前曾强调,如何维护国家决定的问题不应由私营公司决定。
“美国法律,而不是科技公司,将决定如何保卫这个国家,”五角大楼官员说。
这一案件变得更加热烈的事实是,“供应链风险”标签通常用于保护国家安全系统免受外国公司或被认为可能造成伤害的实体的伤害。这是美国政府首次对国内科技公司使用该机制。
在与政府的冲突中,Anthropic仍然开放谈判。该公司强调,法律诉讼并不意味着关闭与美国政府对话的大门。
“我们不想与美国政府发生冲突,并仍然愿意达成解决方案,”该公司官员表示。
这场争斗也拖累了AI行业的竞争对手,特别是OpenAI。五角大楼对Anthropic实施制裁后几小时,OpenAI据报道与五角大楼签署了一项协议,将该技术用于国防项目。
此案预计将成为全球人工智能行业的重要先例,特别是关于科技公司如何谈判军事和国家监控中使用AI的道德限制。
在商业方面,该风险标签可能会对Anthropic产生重大影响。尽管该公司首席执行官Dario Amodei认为其影响相对有限,但该公司的大部分收入来自商业部门和非军事政府机构。
Anthropic预计今年将实现约140亿美元的收入,拥有500多家客户,每家客户每年至少支付100万美元,用于在计算机编程和其他各种数字任务中使用Claude技术。
在这场法律冲突背后隐藏着一个相当大的哲学问题:谁应该决定像AI这样的超级技术道德的界限 - 拥有国家权力的政府,还是创造技术的公司?