중국의 암시장에서 앤트로픽의 생성형 AI 모델 ‘클로드(Claude)’ 접근 권한이 공식 가격의 10% 수준에 불법 유통되고 있는 것으로 드러났다. 특히 이 과정에서 사용자 데이터와 AI 추론 과정이 대량 수집돼 모델 ‘증류(distillation)’에 활용되고 있다는 의혹까지 제기되면서 AI 보안 우려가 커지고 있다.

옥스퍼드 중국정책연구소의 질란 첸 연구원은 최근 보고서를 통해 중국 개발자 사회에서 확산 중인 이른바 ‘API 프록시 경제(API Transfer Station)’ 실태를 공개했다.

보고서에 따르면 중국 개발자들은 깃허브와 X(구 트위터), 텔레그램, 중국 오픈마켓 타오바오 등을 통해 ‘중계소(中繼站)’라 불리는 프록시 네트워크를 운영하며 앤트로픽의 클로드 API 접근권을 대폭 할인된 가격에 판매하고 있다. 일부 서비스는 공식 가격 대비 90% 저렴한 수준으로 거래되는 것으로 알려졌다.

이들 중계업자들은 다양한 방식으로 비용을 낮추고 있는 것으로 조사됐다. 클로드 신규 가입자에게 제공되는 무료 체험 크레딧을 악용하기 위해 대량의 가짜 계정을 생성하거나, 도난 신용카드 정보로 유료 플랜에 가입한 뒤 계정 정지 전까지 API 접근권을 재판매하는 방식이다.

또 월 200달러 수준의 고급 구독 플랜을 API 형태로 변형해 여러 사용자에게 나눠 판매하는 사례도 확인됐다.

사용자를 속이는 이른바 ‘모델 바꿔치기’도 문제로 지적됐다. 사용자가 최고급 모델인 ‘클로드 오퍼스’를 호출하더라도 실제로는 저가 모델인 ‘하이쿠(Haiku)’나 중국 오픈소스 모델인 ‘큐원(Qwen)’ 등으로 응답을 생성해 전달하는 방식이다.

독일 CISPA 헬름홀츠 정보보안센터 연구진이 프록시 서비스 17개를 분석한 결과, 프록시를 통한 모델 응답은 의료 벤치마크 테스트에서 37% 수준의 성능만 기록했다. 이는 공식 API의 84% 성능에 크게 못 미치는 수치다.

보고서는 또 앤트로픽의 본인 인증(KYC) 절차를 우회하기 위해 캄보디아와 케냐 등 저소득 국가 인력을 활용하는 사례도 소개했다. 셀카 인증 등을 대신 수행해 주는 방식으로 대량의 유효 계정을 확보하며, 비용은 1인당 30달러 미만 수준인 것으로 전해졌다.

전문가들은 더 큰 문제는 저가 API 판매 자체보다 데이터 수집에 있다고 지적한다.

프록시 운영자들은 사용자가 입력한 프롬프트와 AI 답변, 추론 과정(Chain of Thought·CoT) 등을 모두 저장한 뒤 이를 AI 학습용 데이터셋으로 가공해 다른 기업들에 판매하는 것으로 알려졌다.

특히 유료 이용자들이 작성한 고품질 프롬프트와 추론 데이터는 AI 모델 성능 향상에 활용 가치가 높아, 이를 통한 모델 증류 가능성이 커지고 있다는 분석이다. 업계에서는 최근 중국 AI 모델들의 추론 성능이 빠르게 향상된 배경 가운데 하나로 이러한 데이터 확보 구조를 지목하고 있다.

실제로 앤트로픽은 지난 2월 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax) 등 중국 기업과 연관된 것으로 추정되는 2만4,000여개의 사기성 계정을 통해 약 1,600만건의 쿼리가 발생했다고 밝힌 바 있다.

또 현재 오픈소스 플랫폼 허깅페이스에는 출처가 불분명한 ‘클로드 오퍼스 4.7’ 추론 로그 모방 데이터셋까지 유통되고 있는 것으로 전해졌다.

첸 연구원은 “검증되지 않은 프록시 서버를 사용하는 개발자들은 사실상 기밀 소스 코드와 인증 정보를 데이터 보호 의무가 없는 제3자 서버에 넘기는 것과 같다”며 심각한 보안 위험성을 경고했다.

그는 특히 AI 코딩 에이전트가 컨텍스트 저장소 정보와 API 구조, 인증 로직 등을 그대로 모델에 전달하는 만큼, 프록시 경제는 단순한 회색시장을 넘어 글로벌 AI 안전 체계의 사각지대를 보여주는 사례라고 지적했다.

한편 앤트로픽은 지난해부터 중국 기업들의 클로드 접근을 제한하고 강화된 인증 절차를 도입해 왔지만, 연구진은 새로운 통제 조치가 시행될 때마다 이를 우회하는 새로운 암시장 구조가 형성되고 있다고 분석했다.

최연철 과학 전문기자