전체
구글·맨디언트, ‘LLM재킹’ 위협 보고서 발표… 하루 10만달러 넘는 요금 폭탄 주의보
맨디언트(Mandiant)와 구글 위협 인텔리전스 그룹(GTIG)이 ‘LLM재킹(LLMJacking)’ 공격의 상세 메커니즘을 분석한 새로운 보고서를 발표했다.
기업들이 자율형 에이전트와 프런티어 LLM 도입을 가속화하면서 AI 자격 증명 파이프라인을 안전하게 보호하는 것이 보안 담당자들의 시급한 과제로 떠올랐다. 사이버 범죄자들의 공격 수법 또한 고수익을 얻기 위한 방식으로 진화하고 있다. ‘LLM재킹’은 기업의 AI 모델 접근 권한을 탈취해 악의적인 활동을 수행하거나 이를 다른 위협 행위자들에게 재판매하는 수법이다.
무단으로 점유한 컴퓨팅 자원을 점진적으로 소모하는 크립토재킹(CryptoJacking)과 달리 LLM재킹은 단기간에 막대한 사용 비용을 발생시킨다. 최근 조사 결과, 하루 만에 10만달러 이상의 부정 사용 요금이 발생한 사례가 관찰됐으며, 일부 기업에서는 무단 접근을 차단하기까지 누적 피해액이 100만달러에 달하기도 했다.
※ 크립토재킹: 타인의 컴퓨팅 자원을 무단으로 가로채 암호화폐 채굴에 이용하는 수법
보고서 주요 내용은 아래와 같다.
· 전 세계적 공격 대상: 최근 발생한 공격은 북미, 남미, 아시아 태평양 지역에 위치한 금융 서비스, 리테일, 기술, 운송 기업 등 다양한 산업군을 겨냥했다.
· 초기 접근 경로: 위협 행위자는 자격 증명 탈취와 세션 하이재킹(session hijacking) 등을 이용해 표적 환경에 침투했다. 공개된 깃허브(GitHub) 저장소에 노출된 유효한 자격 증명을 수집하기도 했다.
※ 세션 하이재킹: 로그인 상태의 세션을 무단으로 가로채 시스템에 접속하는 수법
· 암시장을 통한 수익화 및 ‘LLM 믹서(LLM Mixers)’: 공격자는 탈취한 API 키를 불법 프록시 게이트웨이(중계 서버)로 묶어 모델에 대한 무단 접근 권한을 사이버 범죄 암시장에서 대폭 할인된 가격에 되팔아 수익을 창출한다.
· 주요 피해 사례
사례 1 - 하루 만에 10만달러 이상의 무단 사용 요금 사례가 발생했으며, 일부 기업에서는 접근 권한을 차단하기 전까지 누적 피해액이 100만달러에 달했다.
사례 2 - 한 불법 토큰 라우팅 서비스는 구매자에게 월 60달러 수준으로 프런티어 모델을 무제한으로 이용할 수 있게 제공했다. 이로 인해 약 100만달러의 모델 사용 비용이 피해 기업에 청구됐다.
사례 3 - 한 위협 행위자는 8시간이 채 되지 않는 시간 동안 50만 건 이상의 LLM API 호출을 실행했다. 해당 공격자는 API 호출 한도를 우회하기 위해 수명이 짧은 서비스 계정을 지속적으로 생성하고 삭제하는 ‘소각 및 교체(Burn and Rotate)’ 전략을 사용했다. 이와 동시에 클라우드 서비스 제공 업체의 청구 내역을 수시로 확인하며 피해 규모를 모니터링했다.
· 대응 방안: 보고서는 전략적 위협 탐지를 위한 헌팅(threat hunting) 방안과 함께 조직 내 비인가 LLM(shadow LLM) 현황 파악, API 키 권한 세분화, 자동화된 시크릿 스캐닝(secret scanning) 등의 방안을 제시한다.
존 헐트퀴스트(John Hultquist) GTIG 수석 애널리스트는 “공격자들은 LLM재킹을 적극 활용해 방어자보다 규모 측면에서 우위를 점하려 한다”며 “이들은 에이전틱 도구를 활용해 피해자가 인지하지 못하는 사이 토큰을 탈취하는 방식으로 공격 규모를 확대한다. 기업은 LLM 자원에 대한 접근을 엄격히 통제해야만 비용 폭탄을 방지할 수 있을 뿐 아니라 공격자들이 저렴한 비용으로 퍼붓는 자율형 공격으로부터 커뮤니티 전반을 보호할 수 있을 것”이라고 말했다.
또한 “기업이 빠르게 도입 중인 AI 모델과 컴퓨팅 자원을 면밀히 모니터링하고 보호하지 않으면 제3자가 자원을 무단으로 악용할 수 있다”며 “자원 사용 내역을 철저히 점검하고, 다중 인증(MFA)을 활성화하며, 계정 정보를 신중하게 관리해야 한다”고 밝혔다.
