앤트로픽, 美 국방부 '공급망 위험' 항소 패소…AI 군사 활용 갈등 장기화

9월23일, 미국 뉴욕시 유엔 본부에서 열린 제81차 유엔 총회 기간 중 인공지능(AI) 관련 회의에서, 앤트로픽(Anthropic)의 공동 창업자 다리오 아모데이가 화상 연결을 통해 유엔 안전보장이사회에 연설하고 있다. [사진=연합뉴스]

[디지털데일리 이상일기자] 앤트로픽(Anthropic)이 미국 국방부와의 법적 분쟁 항소심에서 졌다. 미국 항소법원은 25일(현지시간) 국방부가 앤트로픽을 국가안보 공급망 위험 기업으로 지정한 조치를 유지하도록 허용했다. 이에 따라 앤트로픽은 다시 군사 계약에 참여하기 어려워졌다.

분쟁은 AI 모델을 군사적으로 어디까지 활용할 수 있느냐를 두고 불거졌다. 국방부는 AI 기업들에 합법적 군사 용도 전반에 모델을 제공하라고 요구했다.

앤트로픽은 두 가지 '레드라인'을 제시했다. 클로드(Claude)를 인간 감독 없는 치명적 자율 무기나 미국인 대량 감시에 쓸 수 없다는 내용이다. 해당 용도에 모델이 충분히 검증되지 않았다는 이유를 들었다.

피트 헤그세스 전쟁부 장관은 2월 말 다리오 아모데이 앤트로픽 최고경영자(CEO)를 만나 제한 완화를 요구했다. 앤트로픽은 이를 거부했다. 도널드 트럼프 대통령은 연방 기관에 앤트로픽 기술 사용 중단을 지시했다.

헤그세스 장관은 앤트로픽을 공급망 위험 기업으로 지정했다. 로이터에 따르면 적대 세력의 침투나 방해 공작으로부터 군사 시스템을 지키려는 조달법 조항을 미국 기업에 공개적으로 적용한 것은 이번이 처음이다.

국무부는 내부 시스템 '스테이트챗(StateChat)'을 오픈AI(OpenAI) 기반으로 옮겼다. 재무부와 보건복지부도 클로드 사용을 중단하기 시작했다.

앤트로픽은 AI 안전에 대한 견해 때문에 보복당했다며 소송을 냈다. 국방부는 앤트로픽이 계약 조건을 받아들이지 않아 생긴 문제라고 맞섰다. 민간 공급업체의 제한이 군사 작전 중 핵심 기술 사용에 불확실성을 낳을 수 있다는 주장이다.

우선 리타 린 연방지방법원 판사가 3월 지정 효력을 일시 중단했다. 8월에는 국방부 조치가 "불법적이고 근거가 없다"며 앤트로픽 손을 들어주며 판이 기우는 것 같았지만 이번 항소심 판결로 지정은 다시 효력을 얻었다.

2억달러(약 2800억원) 규모였던 협력 관계는 장기 대립으로 바뀌었다. 반사이익으로 오픈AI는 국방부 기밀 네트워크에 AI를 배치하는 계약을 따냈다. 다만 계약상 국내 대규모 감시와 자율 무기 지휘 등에는 기술을 쓸 수 없다고 밝혔다.

한편 이번 사건은 AI 기업이 군 고객에 자체 안전 제한을 둘 수 있는지 가르는 선례가 될 전망이다.