AnchorPost

중국군은 미국 AI를 어떻게 증류하는가

중국군, 미국 AI 몰래 증류해 무인기·감시에 활용… 그러나 이 증류는 오히려 칩 수출통제를 정당화한다

강병지

발행

7월 31일, 중국의 군·안보 연계 기관들이 미국 OpenAI와 Anthropic의 인공지능 모델 출력을 이용해 자국 국방 AI를 훈련해 왔다는 분석이 공개됐다. 80편이 넘는 중국 학술 논문과 특허를 검토한 결과였다. 워싱턴의 한 안보 싱크탱크 연구원이 60편 넘게 분석했고, 통신사는 이를 검증한 뒤 군 연계 사례 24건을 추가로 확인했다. 그러나 이 소식을 하나의 단발 특종으로 읽으면 그림의 절반만 보게 된다. 사건의 뼈대는 다섯 달 전, 미국 AI 기업 Anthropic이 자사 모델 Claude를 겨냥한 대규모 추출 정황을 직접 공개하면서 이미 세워졌다.

■ 증류라는 지름길

증류(distillation)는 강한 '교사 모델'의 출력으로 더 작고 값싼 '학생 모델'을 훈련하는 기법이다. 그 자체는 업계 표준 관행으로, 프런티어 기업들도 자사 모델을 축소판으로 만들 때 일상적으로 쓴다. 문제는 남의 모델을, 그것도 접근이 금지된 모델을 상대로 대규모로 실행할 때 생긴다. 이를 적대적 증류라 부른다.

pasted image

지식 증류(Knowledge Distillation), towards data science

표적은 단순한 정답이 아니라 '사고사슬(chain of thought)'이다. 모델이 문제를 단계별로 쪼개고 검증하며 답에 이르는 중간 추론 과정으로, 수학·논리·코딩 성능을 좌우하는 가장 값비싼 능력이다. 그 싱크탱크 연구원의 표현대로, 모델에 정답을 가르치기는 쉬워도 그 답에 이른 추론까지 가르치기는 훨씬 어렵다. 후자를 훔칠 수 있다면, 막대한 비용이 드는 훈련 과정을 건너뛰고 프런티어에 근접할 수 있다.

■ 2월의 실측

지난 2월 23일, Anthropic은 세 곳의 중국 AI 연구소가 Claude를 상대로 산업적 규모의 추출을 벌였다고 공개했다. 약 2만 4천 개의 부정 계정을 통해 1,600만 건이 넘는 대화가 오갔다. 규모는 연구소별로 뚜렷이 갈렸다. MiniMax가 1,300만 건으로 가장 컸고, Moonshot이 340만 건, DeepSeek이 15만 건 이상이었다. 각각 에이전트 코딩과 도구 사용, 컴퓨터 사용 에이전트, 검열 회피형 응답 생성처럼 표적으로 삼은 능력도 달랐다.

수법도 구체적으로 드러났다. 한 기법은 Claude에게 이미 완성된 답의 내부 추론을 상상해 단계별로 써내라고 요구했다. 사고사슬 훈련 데이터를 대량으로 생성하는 방식이다. Anthropic은 중국에 Claude 상용 접근을 제공하지 않기 때문에, 이들은 '하이드라 클러스터'라 불리는 프록시망을 동원했다. 한 계정이 차단되면 다른 계정이 그 자리를 메우는 구조로, 한 프록시망은 2만 개가 넘는 부정 계정을 동시에 운영하며 추출 트래픽을 정상 요청과 섞어 탐지를 피했다. Anthropic은 IP와 요청 메타데이터를 대조해 일부 캠페인을 연구소 고위 임직원의 공개 프로필과 연결했다고 밝혔다. 규모로는 MiniMax가 앞섰지만, 7월 논쟁의 중심에 선 것은 K3를 내놓은 Moonshot이었다. 폭로는 2월로 끝나지 않았다. Anthropic은 6월 미 상원 은행위원회에 보낸 서한에서, 알리바바가 자사를 상대로 지금까지 알려진 것 중 가장 큰 증류 공격을 감행했다고 주장했다.

■ 논쟁에서 군사로

기술적 논쟁이던 증류는 7월 들어 군사적 차원이 전면에 드러났다. 워싱턴의 한 안보 싱크탱크가 정리하고 통신사가 자체 검증까지 더한 2024~2026년 중국 논문들은, 증류된 모델이 이미 군에서 쓰이거나 쓰일 것으로 제안되고 있음을 보여준다.

국방과기대(NUDT)의 2024년 논문은 이미지 처리 모델을 증류로 압축해 무인기에 탑재하는 방법을 서술했다. 통신이 끊긴 상황에서도 드론이 실시간 영상을 분석해 항법과 표적 판단을 지원한다는 구상이다. 군사과학원(軍事科學院) 연구진은 증류한 표적 인식 모델을 전술 하드웨어에서 돌려, 드론·함정·무인잠수정이 얽힌 모의 해상작전에 적용했다. 병기공업에 뿌리를 둔 중북대(中北大)는 Claude를 '다목적 지식증류'로 증류해 텍스트 분류기를 만들고, 이를 소셜미디어 감시·콘텐츠 검열에 쓸 수 있다고 제안했다.

관여한 기관들의 성격도 주목할 만하다. 난징이공대(南京理工大)는 '국방칠자(國防七子)'로 불리는 국방 특화 대학 중 하나로, 이곳 연구진은 전차·군함 이미지 안에 명령문을 숨기는 프롬프트 인젝션 실험을 수행했다. GPT-4o와 두 종의 Claude가 그 숨은 지시를 읽고 따랐다는 것이 이들의 주장이다. 다만 '군 연계'의 강도는 기관마다 다르다. 군민융합 전략 아래 민간 대학 상당수가 국방산업과 최소한의 연결을 갖는 만큼, 개별 논문의 자금 출처와 참여 부대를 근거로 강도를 가리는 편이 정확하다. 실제로 공군공정대(空軍工程大)·정보공정대와 미상의 군부대가 함께 쓴 한 논문은 여러 교사 모델을 증류해 대리 '블랙박스'를 만들어 공격하는 연구였는데, "군사 빅데이터 수집·유통의 데이터 보안 핵심기술"이라는 이름의 과제로 자금을 받았다.

■ 수출통제의 역설

여기서 이 사건의 가장 중요한 논리가 나온다. 흔히 중국 모델의 급속한 발전은 미국의 칩 수출통제가 무력하다는 증거로 읽힌다. 그러나 Anthropic은 정반대로 해석한다. 그 발전이 상당 부분 미국 모델에서 추출한 능력에 의존하며, 대규모 추출을 실행하는 데에도 첨단 칩이 필요하다는 것이다. 칩 접근을 제한하면 직접 훈련뿐 아니라 불법 증류의 규모까지 함께 조인다. 증류 공격은 수출통제를 무력화하는 것이 아니라, 오히려 통제의 필요성을 강화한다는 논리다.

pasted image

엔비디아(Nvidia) A100 텐서코어 GPU, 엔비디아(Nvidia)

안전 측면의 경고는 더 무겁다. 증류된 모델은 원본의 안전장치를 물려받지 못할 가능성이 크다. 생물무기나 악성 사이버 활동을 막도록 설계된 보호장치가 벗겨진 채, 위험한 능력만 확산될 수 있다는 것이다. 이 모델이 오픈소스로 공개되면 위험은 더 커진다. 어떤 정부도 통제할 수 없는 형태로 능력이 퍼지기 때문이다.

■ K3의 균열

이미 4월, 백악관은 '산업적 규모의 미국 프런티어 AI 증류 캠페인'을 문제 삼은 바 있다. 7월의 도화선은 중국 스타트업 Moonshot이 공개한 Kimi K3였다. 2조 8천억 개의 매개변수를 가진 모델로, 처음엔 API로만 제공됐고 전체 가중치는 열흘 뒤 공개돼 당시 최대 규모의 오픈웨이트 모델이 됐다. 백악관 과학기술정책실장은 Moonshot이 Anthropic의 최신 모델 Fable을 증류해 K3를 만들었다는 정보가 있다고 밝혔다. 탐지를 피하려 여러 접근 방식을 빠르게 갈아타는 내부 플랫폼을 구축했고, 수출이 금지된 엔비디아 GB300 서버를 태국에서 접근해 훈련에 썼을 가능성도 함께 제기했다. 재무장관은 은밀한 산업 규모의 증류 공격이 IP 절도 선을 넘을 경우 제재와 우려거래자목록 지정이 가능하다고 경고했다.

다만 단정과 미확인의 경계는 분명히 그어야 한다. Fable은 7월 1일에야 공개 복귀했고 K3는 그 보름 뒤에 나왔다. 이 짧은 간격만으로 K3의 전체 성능을 Fable 증류로 설명하기는 기술적으로 어렵다. Anthropic이 문서화한 것은 그 이전의 대규모 추출 정황이며, 그것을 Fable이나 K3에 직접 연결하는 증거는 공개되지 않았다. Moonshot은 성능 향상이 기반 구조의 독자적 개선에서 나왔다고 반박했다.

■ 9월의 스케줄

이 논쟁은 9월로 향한다. 미중은 AI 안전·거버넌스를 두고 협상을 준비 중이며, 9월 24일로 예정된 시진핑 주석의 방미를 앞두고 열릴 것으로 예상된다. 여기에 미 상무부 산업안보국은 중국 기업들의 불법 첨단 칩 접근 여부를 별도로 조사하고 있다. 중국은 의혹을 부인하며 워싱턴이 AI '패권주의'를 추구한다고 맞섰고, 미국 기업들도 유사한 관행을 해왔다고 반박했다. 그러나 제재 위협이 대화 자체를 흔들 수 있다는 우려도 나온다. 표적이 되는 기업 수와 제재의 성격에 따라서는 보복이 AI 대화와 정상회담을 함께 무산시킬 수 있다는 것이다.

오픈소스 진영도 반발한다. 엔비디아·마이크로소프트·메타 등이 서명한 공개서한에는 초기 25곳이던 서명 기업이 이틀 만에 50곳으로 늘었다. 이들은 포괄적 규제보다 정밀한 규칙을 요구했다. 다만 대립 구도는 '제재냐 개방이냐'로 단순하지 않다. 서한에 이름을 올리지 않은 Anthropic은 오픈웨이트 모델 금지를 주장한 적이 없다고 밝히면서, 위험한 능력이 없는 오픈 모델은 공공재라고 했다. 그러면서 금지 대신 세 가지를 제시했다. 권위주의 정부로 향하는 첨단 칩 통제, 산업 규모 증류 단속, 그리고 개방·폐쇄를 가리지 않는 안전성 시험 의무화다.

■ 한국의 빈자리

한국에도 이 사건은 남의 일이 아니다. 보호장치가 벗겨진 오픈웨이트 모델이 국방·감시 시스템으로 흘러드는 흐름은 국경을 가리지 않는다. 국방 AI 도입을 논하는 한국에서, 이런 파생 모델의 안전성과 출처를 검증할 제도적 장치가 충분히 갖춰졌는지는 아직 분명치 않다.

값싼 지름길로 만들어진 강력한 모델이 안전장치 없이 전장으로 들어올 때 무엇을 점검할 것인가.

안보 기사 모아보기

관련 기사

  1. 외교관이 짐을 싸면 전쟁이 올까 - 미국 중동 철수령 30년의 기록외교관이 짐을 싸면 전쟁이 올까 - 미국 중동 철수령 30년의 기록

    외교관 철수만으로 전쟁을 예고할 순 없다. 그러나 이번엔 정보 경고·항모 증강·선거 뒤 공습 발언이 한 달 안에 겹쳤다.

  2. 대한민국의 산업·안보 방정식 - 과학기술과 안보 (下)대한민국의 산업·안보 방정식 - 과학기술과 안보 (下)

    한국 산업은 강대국을 움직이는 안보 카드다. 그러나 대미 투자로 미국이 자립하고 중국이 추격하며 기술이 새면 카드를 잃을 수 있다.

  3. 전차 길에서 이착륙하는 무인기, 아직 주인은 없다전차 길에서 이착륙하는 무인기, 아직 주인은 없다

    활주로 없이 뜨는 능력은 증명했다. 남은 건 주문서다. 한화·GA-ASI의 선투자는 미 육군의 선택에 크게 기댄다.

  4. FA-50 옆을 난 국내 최초 무인기, 아직 '윙맨'은 아니다FA-50 옆을 난 국내 최초 무인기, 아직 '윙맨'은 아니다

    FA-50 옆을 20분 난 무인기 AAP. 함께 나는 데는 성공했지만 조종사 지휘를 받는 '윙맨'까지는 단계가 남았다.

다른 분야 기사

  1. 한화, 천무 싣는 38m 무인함 H38로 미 해군 시장 노린다한화, 천무 싣는 38m 무인함 H38로 미 해군 시장 노린다

    미 해군은 무인함 문턱을 낮췄고 한화는 천무를 실은 H38로 그 앞에 섰다. 남은 과제는 실물 건조와 해상 발사다.

  2. F-15EX 지연에 4년째 이어진 가데나 순환 배치… F-22, 쓰이키까지 전개F-15EX 지연에 4년째 이어진 가데나 순환 배치… F-22, 쓰이키까지 전개

    땜질로 시작한 가데나 순환 배치가 4년째다. 부대는 반년마다 바뀌어도 기체는 남는다. 임시 전력이 상주처럼 굳고 있다.

  3. 현대로템, 현대위아 방산 3,584억에 인수… K2 차체부터 주포까지 한 지붕현대로템, 현대위아 방산 3,584억에 인수… K2 차체부터 주포까지 한 지붕

    현대차그룹 지상무기가 현대로템으로 모인다. 현대위아 방산을 3,584억원에 인수해 K2 주포와 K9 포신 생산을 넘겨받는다.

  4. F-35 850대 10년 합의, 의회 문턱 넘을까F-35 850대 10년 합의, 의회 문턱 넘을까

    F-35 850대 10년 합의는 계약이 아닌 약속이다. 록히드가 70억 달러를 먼저 걸었고, 효력은 의회 승인에 달렸다.