
구글 최신 보고서: 해커들이 AI Agent를 활용해 자동 공격을 시작했으며, 보안 패치는 불과 몇 시간 만에 공격 무기가 된다
저자: Google Threat Intelligence Group (GTIG)
편집: TechFlow
TechFlow 해설: 네트워크 공격과 방어 간의 균형이 생성형 AI의 자율화를 통해 완전히 뒤바뀌고 있다. Google Threat Intelligence Group(GTIG)가 발표한 최신 글로벌 추적 보고서에 따르면, 해커들은 더 이상 '단순히 AI에게 질문하는' 초보 단계를 벗어나, 다중 에이전트 협업으로 구동되는 엔드투엔드 완전 자동화된 사이버 무기로 전면적으로 업그레이드했다.
최근 공개된 실제 침투 사례에서 공격자는 오픈 소스 기반 다중 에이전트 프레임워크를 활용한 자동화 취약점 발견 파이프라인을 도입했으며, 공방에서 바로 배포한 PHP 보안 패치를 즉시 무기화된 공격 코드로 전환해 극소시간 만에 프랑스 정부 및 기업 사이트를 대상으로 자동화 침투와 데이터 탈취를 감행했다.
본문은 다중 에이전트 침투 프레임워크의 진화 타임라인, 해커들이 클라우드 대형 모델 컴퓨팅 파를 불법 유통하는 생태계(LLMJacking), 그리고 최전선 방어자들이 에이전트 시대에 자동화된 보안 체계를 어떻게 재구축하는지에 대해 총체적으로 되짚어 본다.

실행 요약: 공격자가 공식적으로 자율 다중 에이전트 시대로 진입하다
해커 조직이 기본적인 프롬프트 기반 질의에서 가속도를 높이며 전자기능 에이전트(Agent) 워크플로우 구축으로 이동함에 따라, 생성형 인공지능(GenAI)의 실제 네트워크 공격에서의 전술적 활용은 중대한 전환점을 맞이했다.
GTIG는 Mandiant의 현장 응급 대응 실무와 글로벌 원격 측정 데이터를 기반으로 지난 분기 동안 글로벌 AI 위협이 보인 다섯 가지 핵심 진화 트렌드를 다음과 같이 정리했다.
1. 자율 워크플로우 및 다중 에이전트 프레임워크로 전환: 공격자는 대규모 언어 모델(LLM)을 생산성 보조 도구로만 사용하는 것을 넘어, 완전 자율적인 실행 에이전트를 통합하여 다수의 모델이 정찰, 코드 검토, 취약점 공격을 동시에 수행하도록 조정하고 있다.
2. 자동화 취약점 발견 및 패치 역공학: 해커들은 대형 모델을 활용해 최근 출시된 보안 패치를 체계적으로 분석하고 있으며, 수 시간 만에 취약점 발동 논리를 역추출하여 방어측의 패치 적용 기간(윈도우)을 완전히 끝장내고 있다.
3. 컴퓨팅 파워 약탈 및 AI 자격 증명 현금화(LLMJacking): 이익에 의해 움직이는 사이버 범죄자들은 기업의 클라우드 환경에 대대적으로 침투하여 고가의 LLM API 키와 컴퓨팅 할당량을 도난한 후, 다크웹에서 '모델 셔플 믹서기(혼합기)'를 구축해 7할 낮은 가격으로 매각하며 현금화하고 있다.
4. 허위 인지전(IO)의 엔드투엔드 자동화: 국가 지원 해커들과 상업적 여론전 도급업자들은 대형 모델을 가짜 계정 네트워크에 깊숙이 심어 가짜 계정의 완전 자동 등록, 실물 같은 일상 사진 생성, 그리고 표적 맞춤 정보 투고를 실현했다.
5. 암호화폐 및 하이테크 기업 대상 표적 침투: 북한 및 특정 배경의 해커들은 AI 이력서 및 음성 변조 도구를 남용해 구직자로 가장하여 기술 면접 현장에서 실시간 답변을 생성하고, 입사 이후에는 심층 공급망 독침을 실시한다.
네트워크 침투에서의 다중 에이전트 프레임워크
이전의 추적 연구에서 GTIG가 기록한 것은 대부분 해커들이 소규모로 LLM을 실험하는 파편적인 시도였으나, 현재 공격자들이 자율 다중 에이전트 프레임워크를 엔지니어링 방식으로 채택한 것은 사이버 전쟁이 본격적으로 규모화되고 자율적으로 협력하는 단계로 접어들었음을 시사한다.
이러한 공격 프레임워크의 핵심 패러다임은 고전적인 OODA(관찰-판단-결정-행동) 작전 주기를 도입하여 마스터 에이전트가 과업을 분배하고, 전문 서브 에이전트들이 네트워크 토폴로지 스니핑, 지문 식별, 스크립트 작성 및 수평 이동(Horizontal Movement)을 병렬로 실행하는 것이다.

그림: 다중 에이전트 LLM 공격 프레임워크 협업 실행 프로세스
최근 보안업계에서 각광받고 있는 침투 테스트 도구 ARTEX 외에도, GTIG는 실제 방어 작업 중 공격자들이 직접 최전선 침투에 이용하는 여러 오픈 소스 공격용 에이전트를 독립적으로 포착했다.
• CAIRN: OODA 폐쇄 루프를 기반으로 한 오픈 소스 다중 에이전트 침투 테스트 프레임워크로, 인간 개입 없이 미보호 내부망 호스트를 자동으로 스캔하고 익스플로잇(Exploit) 코드를 동적으로 생성할 수 있다.
• CyberStrikeAI: LLM을 위해 네이티브 설계된 공격 프레임워크로, 권한 유지(Persistence) 및 자격 증명 탈취를 담당하는 전용 서브 에이전트가 내장되어 있다.
• HexStrike AI: 모델 컨텍스트 프로토콜(MCP)에 깊이 통합된 능동형 공격 도구로, 다양한 해킹 침투 명령줄을 상용 대형 모델에 무결점으로 브리징할 수 있다.
• PentAGI: 해커들의 공격 기술 장벽을 획기적으로 낮추려는 자동화 도구로, 하부 취약점 원리를 전혀 모르는 초급 스크립트 키디라도 이를 이용해 복잡한 침투 명령을 내릴 수 있다.

그림: 현실 네트워크 공격·방어 상호작용에서 LLM의 성숙도 진화 로드맵
에이전트를 활용한 취약점 연구 및 개발: 패치를 공격으로 전환하기
다중 에이전트 기술이 가진 가장 경계해야 할 실전 위협은 취약점 발견 및 무기화 개발에 소요되는 시간을 며칠에서 몇 분으로 압축시켜 버린다는 점이다.
공격자들은 GitHub에 공개된 공식 오픈 소스 패치 코드를 자동으로 크롤링하여 코드 분석 에이전트에 투입하고, 모델이 실시간으로 코드 차이(Diff)를 비교해 아직 패치가 널리 적용되지 않은 하부 결함 논리를 정확하게 찾아낸다.

그림: 2024년 이후 해커들이 실제 환경(In-The-Wild)에서 악용한 N-Day 및 0-Day 취약점 수 비교
최근 밝혀낸 실제 보안 사건에서 GTIG는 일반 인터넷에 공개적으로 노출된 공격 스테이징 서버를 추적 및 포착했다. 이 서버에는 LLM 기반 자동화 취약점 발견 프레임워크가 구축되어 있었으며, 코드 주석에는 뚜렷한 러시아어 개발 로그가 새겨져 있었다.
# LLM API 키는 자동화 취약점 공격(exploit_agent 시범 프로젝트)용으로 사용됨
# 키는 반드시 수동으로 환경 변수에 입력해야 하며, 공공 채팅창에 입력하는 것은 절대 금지됨. 두 줄 모두 필수 설정 사항임
이 해커 조직(코드명 Emad)은 해당 프레임워크를 활용해 방금 발표된 PHP 커널 취약점(CVE-2026-109618 및 CVE-2026-109619)에 대해 완전 자동 역컴파일을 진행했으며, 패치 공개 후 몇 시간 이내에 실제 작전에 사용할 공격 페이로드를 생성했다. 이어 이 자동화 클러스터는 프랑스를 포함한 여러 유럽 국가의 정부 및 기업 포털 사이트에 대규모 credential stuffing(자격 증명 중복 검증)을 감행했고, 민감한 하부 데이터를 성공적으로 탈취했다.
컴퓨팅 파워 약탈(LLMJacking): 해커가 도난당한 클라우드 대형 모델로 현금을 만드는 방법
기업들의 클라우드 마이그레이션 가속화와 생성형 AI 인프라 보급에 따라, 클라우드 자격 증명(Cloud Credentials) 도난 피해가 곧바로 모델 컴퓨팅 파워 층위로 확대 확산되고 있다.
Mandiant 현장 팀은 지난 몇 달간 'LLMJacking(LLM 컴퓨팅 파워 약탈)'이라 불리는 새로운 형태의 사이버 범죄 사례를 다수 처리했다. 해커들이 기업 AWS 또는 Google Cloud 환경에 침투한 후, 이제 더 이상 우선적으로 마이닝 트로이목마를 설치하지 않는다. 대신 피해 기업 측의 최상위 대형 모델 API 접근 권한을 빠르게 활성화한다.

그림: 피해 기업의 클라우드 환경에서 LLMJacking 발생으로 인해 대형 모델 API 호출량이 재앙적으로 폭증한 모습
해커들은 도난당한 관리자 자격 증명을 이용해 기업 내부에 은밀한 IAM 역할(Role) 및 서비스 계정을 생성한 뒤, 이를 다크웹의 'LLM 믹서 서비스 게이트웨이(LLM Mixer)'에 연결한다.
다크웹 지하 시장에는 APIMart와 유사한 불법 유통 플랫폼들이 속속 등장했다. 해커들은 훔쳐 온 정품 상용 대형 모델 API를 공식 가격의 20~30%에 불과한 싸게 다른 사이버 범죄자들에게 공개 재판매하고 있다. 이로 인해 피해 기업은 핵심 데이터 유출 위기에 직면할 뿐만 아니라, 매달 해커들의 광란의 API 호출로 인한 수십만 달러 규모의 막대한 청구서를 부담해야 한다.

그림: 다크웹 불법 플랫폼 APIMart에서 도난 상용 대형 모델 API가 재매각되는 실시간 표시 가격
대형 모델이 허위 정보 및 여론전과의 전면적 융합
인지전 및 네트워크 가짜 계정 운영(Water Army) 분야에서 LLM은 전통적인 워터아미 스튜디오의 비용 구조를 뒤흔드는 핵심 레버리지 역할을 이미 수행하고 있다.
상업화된 '영향력 즉 서비스(IaaS)' 검은 조직은 즉시 사용 가능한 자동화 여론 조종 시스템을 개발했다. 이 시스템은 가짜 계정에 세분화된 수용자 집단의 어조와 지역 방언을 자동으로 매칭하며, 디퓨전 모델을 통해 이미지를 생성할 때는 의도적으로 미세한 렌즈 노이즈, 초점 흐림, 기울기 등을 추가해 일반 스마트폰으로 찍힌 일상 사진을 모방함으로써 주요 소셜 미디어의 AI 콘텐츠 판별 알고리즘을 쉽게 우회한다.
동시에, 소셜 플랫폼의 IP 차단 조치를 피하기 위해 관련团伙는 전 세계에 배치된 리지던셜 프록시 네트워크를 통해 트래픽을 라우팅하고, 일괄 자동화된 일회용 전화번호 인증을 결합하여 완전히 분산화되며 언제든지 재생성이 가능한 로봇 가짜 계정 매트릭스를 구축했다.
구글의 능동형 보안 방어 및 생태계 강화
에이전트 무기화의 날로 심각해지는 도전 과제에 직면하여, 구글은 최전선의 위협 정보를 적극 활용하여 모델 하부의 보안 정렬(Security Alignment)에 반영하고, 다층적인 능동 방어 선단을 구축하고 있다.
1. 실시간 모델 고도화 및 공격 샘플 면역화: Mandiant 현장에서 포착한 최신 해커 프롬프트 및 다중 에이전트 공격 로직은 즉시 Google DeepMind 및 보안팀의 적대적 훈련(Adversarial Training) 자료를 구성하여, 하부 단계에서 모델이 악성 코드 및 침투 명령어에 반응하는 것을 차단한다.
2. Google AI Threat Tracker 위협 추적 플랫폼: 전 세계 기업 고객을 위해 에이전트의 악의적 행위 모니터링 및 API 호출량 비정상 징후를 실시간으로 감지하며, 승인되지 않은 LLMJacking 이상 트래픽을 초단위로 차단한다.
3. 보안 운영 자동화(SecOps): 클라우드 보안 센터에 전용 에이전트 행위 감지 모델을 배포하여 AI로 AI를 격퇴하고, 네트워크 통신 토폴로지 및 시스템 호출 시퀀스에서 자율 작동하는 악성 소프트웨어의 잠복 흔적을 정확히 찾아낸다.















