克劳德代码中的秘密跟踪器被揭露，Anthropic直接删除代码

由于安全研究人员揭开了克劳德代码中隐藏的跟踪代码，Anthropic面临着审查。该代码被指控在中国监视用户，并在发现引起公众关注后立即被删除。

Ars Technica于7月7日星期二援引，该代码由网络开发人员Thereallo发现，当时他正在研究Claude Code中的隐私问题。他称跟踪类似于间谍软件，成为“对用户信任的严重侵犯”。

Anthropic 的 Claude Code 是一个基于 AI 的工具，可以帮助开发人员编写、阅读和改进代码。由于这些工具与用户计算机上的文件和命令密切相关，因此这种工具中的隐式跟踪成为一个敏感问题。

According to Thereallo，Anthropic使用“提示隐写术”技术来隐藏系统中的标记。简单地说，隐写术是一种将隐藏的消息或信号插入看起来很普通的地方的方法。

代码没有被标记为危险。然而，它在用户不知情的情况下将信息发送到Anthropic。这些信息包括时区、代理使用情况以及用户与Anthropic被指责进行蒸馏攻击的中国AI实验室的可能联系。

在X上，Anthropic工程师Thariq Shihipar承认，该跟踪器于3月作为“实验”添加到Claude Code中。他说，代码的目的是防止非官方经销商滥用帐户，并保护Anthropic免受蒸馏。

AI中的蒸馏是使用一个模型的输出来训练或加速另一个模型开发的过程。这种做法并不自动非法，但如果以要求像Claude这样的模型响应数百万次以模仿其能力的方式进行，则可能会违反服务条款。

Shihipar说，Anthropic实际上已经打算删除代码，因为技术团队已经实施了更强大的保护。

然而，这一解释并没有平息批评。隐私支持者认为Anthropic已经越界了，因为它选择了隐藏的方式来监视用户。由于Anthropic此前拒绝美国政府使用Claude来监视美国用户，因此关注度越来越高。

Ars Technica写道，随着美国人工智能公司越来越积极地遏制涉嫌模仿其模型的中国公司的速度，这一事件出现了。华盛顿邮报报道，过去一年中，中国公司能够在几个月内赶上美国模型的能力。

Anthropic还鼓励将蒸馏攻击视为知识产权盗窃。该公司与OpenAI一起敦促美国政府采取更严格的法律和出口政策。

这一发现在中国立即产生影响。南华早报报道，阿里巴巴禁止员工在工作中使用Claude Code。在SCMP审查的内部备忘录中，Claude Code被列为“后门”风险，并被列入高风险软件列表。

阿里巴巴尚未对Anthropic关于蒸馏的指控发表评论。然而，据路透社报道，如果被发现违反了Anthropic的条款，该公司可能会面临法律和合规问题。

Anthropic现在处于一个困难的位置。该公司希望保护其AI模型免受模仿。然而，悄悄地打开了一个新的问题，即用户信任。

Thereallo认为Anthropic实际上可以选择更开放的方式。如果要检测到Claude的非官方访问路径或帐户滥用，该公司可以创建正式的解释，文档或发布记录。

“这不是一个危险的功能，但对于一个需要信任的开发人员工具来说，这是一个奇怪的选择，”Thereallo在他的博客上写道。

他还提醒说，基于AI的编码工具已经进入敏感领域。这种工具可以检查代码，执行命令，安装软件包，编辑文件，甚至在用户的计算机上推动提交。

“在提示系统中隐藏信号使任何其他隐私声明都更难相信，”Thereallo说。

Ars Technica写道，Anthropic没有立即回应其评论请求。然而，对于《华盛顿邮报》，Anthropic发言人表示，中国实验室的蒸馏攻击对国家安全构成了严重威胁，并破坏了该行业的人工智能安全标准。