美国人工智能公司Anthropic周一(2月23日)指控中国企业DeepSeek大规模利用其人工智能助手Claude,以训练和开发自身人工智能模型。数日前,Anthropic的主要竞争对手OpenAI也曾指控DeepSeek采取类似手段“窃取”其模型技术。 法新社报道,Anthropic周一在官网发布声明称,除DeepSeek外,另外两家中国人工智能新创公司——Moonshot AI(月之暗面科技,旗下产品为Kimi)以及MiniMax(迷你极,开发Talkie接口)——也曾对Claude进行类似操作。 DeepSeek于2025年1月因推出人工智能模型V3而引发业界震动。该模型于2024年12月底上线,外界普遍认为其性能已可与美国最先进的人工智能产品相抗衡;而DeepSeek则宣称,其研发投入仅为美国科技巨头相关支出的一小部分。 Anthropic表示,这三家中国机构共创建约2.4万个账户,分别接入Claude,并累计进行超过1600万次对话。公司指控,这些行为旨在进行所谓“蒸馏”(distillation)操作,即通过借鉴性能更强模型生成的回答,训练和开发能力较低的新模型。 Anthropic指出,“蒸馏”技术本身并不违法,许多人工智能企业都会利用该方法,开发更精简版本的自家模型。然而,这种技术也可能被滥用,使企业以远低于传统研发成本的方式,加速开发自身产品。 声明称,这类操作还可能绕过原始模型的安全规则与限制,为潜在的恶意用途打开空间。 Anthropic进一步指,DeepSeek曾要求Claude披露其生成回答时的全部步骤,这些信息有助于改进自身模型。此外,公司表示,已识别出部分DeepSeek开发人员,这些人员曾研究Claude在回答涉及异议人士、威权体制等敏感议题时的处理逻辑和回应方式。 Anthropic认为,这些做法“很可能”旨在训练DeepSeek模型,使其在涉及中国当局审查的话题时转移或规避相关讨论。 相关指控公布之时,科技业界正密切关注DeepSeek即将发布的新一代模型V4。数日前,OpenAI已向美国国会提交备忘录,指控DeepSeek采取类似手段“窃取”其模型技术。 延伸阅读: 亚洲金融:美国AI巨头Anthropic,刚撕开中国AI的面具:三家人工智能实验室DeepSeek、月之暗面(Moonshot)和MiniMax,发起了大规模的非法攻击活动,试图窃取Claude的功能,以改进其自身模型。这些实验室通过约24,000个欺诈账户,与Claude进行了超过1600万次对话交互,违反了我们的服务条款和区域访问限制。
这些实验室使用了一种名为“蒸馏”的技术,即利用功能更强大的模型的输出来训练功能较弱的模型。蒸馏是一种广泛使用的训练方法。例如,前沿人工智能实验室通常会蒸馏自己的模型,从而为客户创建更小、更便宜的版本。但蒸馏也可能被用于非法目的。未经授权对竞争对手的模型进行蒸馏则违反了服务条款。
REUTERS - Dado Ruvic 三家公司操作手法类似:用大量虚假账户,绕过Anthropic对中国的访问限制。MiniMax超过1300万次交互,主要提取编程和工具使用能力;月之暗面340万次,瞄准智能体推理和计算机视觉;DeepSeek手法最为阴暗:让Claude反向“复述”自己的推理过程来生成思维链训练数据,还让Claude生成政治敏感问题的"安全回答",疑似用于训练自家模型的审查回避能力。 Anthropic表示已通过IP地址、请求元数据等信息,将攻击溯源定位到具体实验室,甚至具体研究人员,并称这一发现说明,中国AI公司的快速进步,并非靠自主创新,而是在一定程度上依赖对美国模型能力的提取。这些攻击的强度和复杂性都在不断增加。应对这些攻击需要行业参与者、政策制定者和更广泛的人工智能界迅速采取协调一致的行动。 Anthropic正开发产品、API和模型层面的安全措施,旨在降低模型输出被非法算法提炼的可能性,同时又不影响合法用户的体验。但任何一家公司都无法独自解决这个问题。正如前面提到的,如此大规模的算法提炼攻击需要人工智能行业、云服务提供商和政策制定者之间的协调应对。发布这些信息,是为了让所有利益相关者,都能了解相关证据。 |
电话:647-830-8888|www.66.ca 多伦多六六网
GMT-5, 2026-2-23 09:48 PM , Processed in 0.045314 second(s), 23 queries .
Powered by Discuz! X3.4
Copyright © 2001-2020, Tencent Cloud.