앤트로픽, 중국 AI 연구소들의 클로드 무단 사용 주장 (2.4만 계정, 1,600만 건 교환)

앤트로픽, 중국 AI 기업 딥시크, 문샷 AI, 미니맥스가 자체 모델 개선을 위해 클로드 AI 모델로 2만 4천 개 이상의 가짜 계정을 설정했다고 주장.

✅ 주장 내용: 이 연구소들이 “증류”라는 기술을 사용하여 해당 계정으로 클로드와 1,600만 건 이상의 교환을 생성했다고 함 - 클로드의 가장 차별화된 기능(에이전트 추론, 도구 사용, 코딩)을 표적으로 삼음

✅ 배경: 이번 주장은 첨단 AI 칩에 대한 수출 통제를 얼마나 엄격하게 시행할지에 대한 논쟁 중에 나옴 - 이 정책은 중국의 AI 개발을 억제하는 것을 목표로 함

✅ 증류: AI 연구소들이 자체 모델에서 더 작고 저렴한 버전을 만들기 위해 사용하는 일반적인 훈련 방법 - 경쟁업체는 이를 사용하여 다른 연구소의 숙제를 사실상 복사할 수 있음

✅ OpenAI: 이달 초 하원 의원들에게 보낸 메모에서 딥시크가 증류를 사용하여 자사 제품을 모방했다고 비난

✅ 딥시크: 1년 전 미국 프론티어 연구소와 거의 비슷한 성능을 내면서 비용은 훨씬 적게 드는 오픈 소스 R1 추론 모델을 출시하여 파장을 일으킴 - 앤트로픽의 클로드 및 OpenAI의 ChatGPT보다 코딩 성능이 뛰어나다고 알려진 최신 모델 DeepSeek V4를 곧 출시할 예정

✅ 공격 규모: 각 공격의 범위는 다양했음 - 앤트로픽은 딥시크로부터 15만 건 이상의 교환을 추적했는데, 이는 특히 정책에 민감한 쿼리에 대한 검열 안전 대안과 관련하여 기본적인 논리 및 정렬을 개선하기 위한 것으로 보임

✅ 문샷 AI: 에이전트 추론 및 도구 사용, 코딩 및 데이터 분석, 컴퓨터 사용 에이전트 개발, 컴퓨터 비전을 대상으로 340만 건 이상의 교환이 있었음 - 지난달 새로운 오픈 소스 모델 Kimi K2.5와 코딩 에이전트를 출시

✅ 미니맥스: 에이전트 코딩, 도구 사용 및 오케스트레이션을 대상으로 1,300만 건의 교환이 있었음 - 앤트로픽은 미니맥스가 트래픽의 거의 절반을 리디렉션하여 최신 클로드 모델에서 기능을 빼내기 위해 작동하는 것을 관찰할 수 있었다고 함

✅ 앤트로픽의 입장: 증류 공격을 실행하기 어렵게 만들고 식별하기 쉽게 만드는 방어에 계속 투자할 것이지만 “AI 산업, 클라우드 제공업체 및 정책 입안자 간의 협력적 대응”을 요구

✅ 미국의 대중국 칩 수출 논란: 증류 공격은 미국의 대중국 칩 수출이 여전히 뜨거운 논쟁을 벌이는 시기에 발생 - 지난달 트럼프 행정부는 엔비디아와 같은 미국 기업이 첨단 AI 칩(예: H200)을 중국에 수출하는 것을 공식적으로 허용

✅ 비판론자 주장: 이러한 수출 통제 완화는 AI 지배를 위한 글로벌 경쟁의 중요한 시기에 중국의 AI 컴퓨팅 능력을 증가시킨다고 주장

✅ 앤트로픽 주장: 딥시크, 미니맥스 및 문샷이 수행한 추출 규모는 “첨단 칩에 대한 접근이 필요” - “따라서 증류 공격은 수출 통제의 논거를 강화 - 제한된 칩 접근은 직접적인 모델 훈련과 불법 증류의 규모를 모두 제한”

✅ 드미트리 알페로비치 (실버라도 정책 액셀러레이터 싱크탱크 회장 겸 CrowdStrike 공동 설립자): “중국 AI 모델의 빠른 발전 이유 중 일부는 미국 프론티어 모델의 증류를 통한 도난이라는 것이 한동안 분명해졌음. 이제 우리는 이것을 사실로 알고 있음. 이것은 이러한 [기업]에 AI 칩을 판매하는 것을 거부해야 할 훨씬 더 강력한 이유를 제공해야 함. 이는 그들에게만 더 큰 이익을 줄 것임.”

✅ 앤트로픽 주장: 증류는 미국 AI 지배력을 약화시킬 뿐만 아니라 국가 안보 위험을 초래할 수도 있음 - 권위주의 정부가 “공격적인 사이버 작전, 허위 정보 캠페인 및 대량 감시”와 같은 용도로 프론티어 AI를 배포할 수 있으며, 이러한 모델이 오픈 소스로 제공되는 경우 위험이 증폭됨

TechCrunch는 DeepSeek, MiniMax 및 Moonshot에 논평을 요청함.