자신을 Claude라고 말하는 모델 - Kimi K3가 남긴 흔적

한 사용자가 중국 Moonshot AI의 최신 모델 Kimi K3와 대화하다 이상한 답변을 받았습니다.
모델이 자신을 "Anthropic이 만든 Claude"라고 소개한 것입니다.

 

처음에는 해프닝처럼 보였습니다.
그런데 7월 22일에 이 이야기가 백악관에서 다시 나왔습니다.

 

백악관 과학기술정책실(OSTP) 국장 Michael Kratsios가 공개적으로 발언했습니다.
Moonshot AI가 Kimi K3를 개발하는 과정에서 Anthropic의 Fable 모델을 디스틸레이션했다는 것입니다.

그는 이것을 "미국의 독점 기술을 훔치고 미국 연구를 훼손하기 위한 대규모의 은밀한 산업적 디스틸레이션"이라고 표현했습니다.
Moonshot이 태국을 경유해 수출 통제 대상인 NVIDIA GB300 칩에 접근했다는 의혹도 함께 제기했습니다.

 

기업 간 분쟁이던 디스틸레이션 문제가 백악관이 특정 기업과 특정 모델을 지목하는 단계로 넘어온 것입니다.

 

지난 6월, Anthropic은 Alibaba가 25,000개의 사기 계정으로 2,880만 건의 대화를 추출했다며 상원에 서한을 보냈습니다.
그런데 그보다 앞선 2월, Anthropic이 처음 디스틸레이션 공격을 공개했을 때 지목한 세 곳 중 하나가 바로 Moonshot이었습니다.
당시 세 개 연구소가 약 24,000개의 계정으로 1,600만 건의 대화를 추출했다는 내용이었습니다.

이번 K3 논란은 그 연장선에 있습니다.

AI 안전 연구 조직 Redwood Research가 K3의 출력을 교차 엔트로피 방식으로 분석했습니다.
결과는 K3가 자신을 Claude라고 지칭하는 빈도가 통계적으로 비정상적으로 높다는 것이었습니다.
훈련 데이터에 Claude의 출력이 대량으로 섞여 있을 때 나타나는 패턴입니다.

 

다만 여기에는 분명히 해야 할 것이 있습니다.
이것은 정황 증거이지 확정 증거가 아닙니다.

웹에 공개된 Claude 대화 로그가 크롤링 과정에서 섞였을 수도 있고, 

시스템 프롬프트의 잔재나 롤플레이 데이터의 누출일 수도 있습니다.

Moonshot은 의혹을 인정하지 않았고, 법적 판단도 아직 없습니다.
백악관의 발언은 강했지만, 현재로서는 공식적인 '주장'의 단계입니다.

 

저는 이 사건이 디스틸레이션 문제의 두 가지 본질을 보여준다고 생각합니다.

 

첫째, 입증이 구조적으로 어렵습니다.
모델 가중치를 직접 복사한 것이 아니라 질문과 답변으로 능력을 배워간 것이기 때문에 남는 증거는 통계적 패턴뿐입니다.
"자신을 Claude라고 말한다"는 것은 강한 정황이지만, 법정에서 도용을 입증하는 것과는 거리가 있습니다.
Anthropic이 지난달 법원이 아니라 상원으로 간 이유도 이번에 백악관이 소송이 아니라 공개 발언을 택한 이유도 여기에 있다고 봅니다.

 

둘째, 그래서 이 문제는 법적 분쟁이 아니라 지정학적 분쟁으로 다뤄지고 있습니다.
2월의 업계 보고서, 6월의 상원 서한, 7월의 백악관 공개 지목까지 반년 사이에 문제 제기의 주체가 기업에서 의회로, 다시 행정부로 올라왔습니다.
칩 수출 통제 의혹까지 함께 제기된 것은 우연이 아닙니다.
모델 디스틸레이션과 반도체 밀수가 하나의 프레임인 "미국 기술의 유출"로 묶이고 있는 것입니다.

프론티어 모델은 이제 기업의 제품이 아니라 국가의 전략 자산으로 다뤄지고 있습니다.
지키는 쪽도, 빼앗는 쪽을 지목하는 쪽도 이제 정부입니다.

 

자신을 Claude라고 말하는 모델은 흔적을 남겼습니다.
그 흔적이 어디까지 증거가 될 수 있는지 그리고 그 판단을 누가 내리게 될지가 다음 국면입니다.