보안 패치에서 공격 코드까지: 구글 보고서로 본 AI 자동화

구글 GTIG가 공격자의 시험용 서버에서 찾은 exploit_agent

보안 패치에서 공격 코드까지: 구글 보고서로 본 AI 자동화. 부제 구글 GTIG가 공격자의 시험용 서버에서 찾은 exploit_agent. 남색에 가까운 검정 바탕 오른쪽에 주황 빛줄기가 비스듬히 퍼지고, 왼쪽 위에 TECH - AI Security 표시와 제목이 놓인 표지.

"키는 채팅창 말고 여기에 직접 넣을 것. 두 줄 다 필요하다."

구글 위협 인텔리전스 그룹(GTIG)이 공격자의 시험용 서버에서 찾은 설정 파일에, 러시아어로 남아 있던 주석입니다. 두 줄에 들어갈 것은 LLM API 키였고, 그 키를 쓰는 프로그램의 이름은 exploit_agent였습니다. 이 프로그램은 인기 웹 소프트웨어의 보안 패치가 나오면 고치기 전후 코드를 비교해 취약점을 찾고, 공격 코드를 쓰고, 실제로 실행했습니다. 그 사이에 사람은 없었습니다.

GTIG는 11월 17일 낸 AI 위협 보고서에서, 취약점 발견부터 공격까지 사람 없이 자동으로 돌린 사례를 처음 확인했다고 밝혔습니다. 보고서를 따라가 보면 새로운 것은 공격 기법이 아닙니다. 패치가 나온 뒤 공격이 오기까지의 시간을 줄이는 일에서, 사람이 빠졌다는 점입니다.

고친 줄이 구멍의 위치를 알려 줍니다

보안 패치는 취약점을 고친 업데이트입니다. 패치 공지는 대개 "권한 확인 문제를 고쳤다" 정도로 짧지만, 고친 코드는 훨씬 많은 것을 말해 줍니다. 오픈소스라면 고치기 전후 코드를 그대로 나란히 놓을 수 있고, 아니어도 업데이트 전후 프로그램을 비교할 수 있습니다. 이를 패치 비교(patch diffing)라고 합니다. 새로 들어간 확인 한 줄을 거꾸로 읽으면, 고치기 전에는 그 확인 없이 통과할 수 있었다는 사실이 보입니다.

코드 리뷰 화면처럼 그린 보안 패치 예시. 설정 저장 기능의 2.4.0에서 2.4.1로 가는 패치로, '설정 저장 요청을 받으면' 다음 줄의 '로그인했는지만 확인하고'가 지워지고 '로그인했는지 확인하고'와 '관리자인지도 확인한 뒤' 두 줄이 더해졌습니다. 아래에는 패치 공지에는 '권한 확인 문제를 고쳤습니다. 최신 버전으로 업데이트하세요'만 적혀 있지만, 바뀐 줄을 거꾸로 읽으면 고치기 전에는 로그인만 하면 누구나 설정을 바꿀 수 있었다는 것이 보인다는 설명이 있습니다. 맨 아래 시간 줄은 취약점이 생긴 뒤 패치 공개 전까지가 제로데이 구간, 패치 공개 뒤 우리 서버에 적용하기 전까지가 n-day 구간이고, 적용한 뒤에는 막힌다는 것을 보여 줍니다. 그림 속 코드는 예시입니다.
그림 1. 공지는 무엇을 고쳤는지만 말하지만, 바뀐 줄은 어디가 문제였는지까지 보여 줍니다.

그래서 보안에서는 취약점을 패치를 기준으로 나눕니다. 패치가 나오기 전에 공격에 쓰이면 제로데이, 나온 뒤에 쓰이면 n-day입니다. 제로데이는 아무도 모르는 구멍을 먼저 찾아야 해서 어렵고 비쌉니다. n-day는 구멍의 위치가 이미 공개돼 있고, 패치를 아직 적용하지 않은 곳이 표적이 됩니다.

n-day 공격은 속도 싸움입니다. 바뀐 코드를 읽고, 원래 구멍을 이해하고, 그 구멍을 노리는 코드를 짜는 데 걸리는 시간이 짧을수록 더 많은 곳을 노릴 수 있습니다. 이 일은 지금까지 숙련된 사람의 몫이었습니다.

exploit_agent는 네 단계를 사람 없이 돌았습니다

GTIG가 찾은 exploit_agent는 여러 AI 에이전트로 짠 프레임워크로, 여러 프론티어 LLM과 로컬 LLM을 함께 연결해 썼습니다. 보고서에 적힌 일의 순서는 이렇습니다.

  1. 인기 웹 애플리케이션 소프트웨어의 패치 발표 전후 코드를 비교합니다.
  2. 찾은 차이를 분석해 취약점 후보를 고릅니다.
  3. 공격 코드 초안을 씁니다.
  4. 사람 개입 없이 자동으로 실행합니다.

한 번 돌고 끝나는 구조도 아니었습니다. 대상 소프트웨어를 계속 지켜보며 비교하도록 설정돼 있었습니다. 서버에는 피해 조직에서 빼낸 데이터와 침투 뒤에 쓰는 스크립트도 함께 있었습니다. 내부 정찰, 비밀번호 무차별 대입, 웹셸(원격 조종용 뒷문) 설치에 쓰는 것들이었고, 다른 공격자가 먼저 심어 둔 웹셸을 지우는 스크립트까지 있었습니다. 남이 먼저 들어온 서버까지 차지하려 한 것으로 보입니다. 피해 기록으로 보면 운영자는 프랑스의 미디어·엔터테인먼트 웹사이트와 교육 분야를 노렸습니다.

어두운 편집기 화면에 공격자 서버에서 나온 exploit_agent 환경 설정 파일의 주석 두 줄을 옮긴 그림. 1번 줄은 러시아어로 'LLM API-ключи для авто-эксплуатации (пилот exploit_agent)'이고 번역은 'LLM API 키, 자동 공격용(exploit_agent 시범판)'입니다. 2번 줄은 'Впиши ключи сам — сюда, не в чат. Обе строки обязательны.'이고 번역은 '키는 직접 넣을 것. 채팅창 말고 여기에. 두 줄 다 필요하다.'입니다. 아래에는 GTIG 보고서 표 1에 실린 주석을 그대로 옮기고 번역을 달았으며 키 값은 보고서에 나오지 않는다는 설명이 있습니다.
그림 2. 공격자의 설정 파일에 남아 있던 주석. 이 도구는 스스로를 시범판이라고 부르고 있었습니다.

출처: Google Threat Intelligence Group, AI Threat Tracker (새 탭에서 열림)(2026-11-17) 표 1

보고서가 밝히지 않은 것도 그만큼 많습니다. 어떤 모델을 썼는지, 몇 번 시도해 몇 번 성공했는지, 패치가 나온 뒤 공격까지 얼마나 걸렸는지는 나오지 않습니다. 대상도 "인기 웹 애플리케이션 소프트웨어"라고만 적혀 있습니다. 사람 없이 돌아갔다는 말은 GTIG가 서버에서 본 구성을 두고 내린 평가이고, 실제 성공률을 잰 결과는 아닙니다.

AI를 쓴 공격은 전에도 있었습니다

같은 보고서에는 지난 8월 인쇄 관리 소프트웨어 PaperCut 사례도 나옵니다. 취약점 두 개가 공개되자 보안 연구자들이 LLM으로 하루 안에 동작하는 공격 코드를 만들었고, 나흘 뒤에는 LLM으로 공격 코드를 만들고 시험해 대상 목록까지 꾸린 것으로 보이는 공격이 수백 개 조직을 노렸습니다. 여기까지는 사람이 LLM을 도구로 쓴 경우입니다. GTIG도 지난 분기 보고서에서는 취약점 탐색과 공격을 일부 자동화한 시도까지만 다뤘습니다. exploit_agent는 그 고리에서 사람을 뺐습니다.

GTIG는 공격자의 LLM 사용을 일곱 단계로 나눠 봅니다. 채팅창에 묻던 1단계를 지나 지금은 여러 공격 단계를 LLM 도구가 맡고 사람은 최소한만 끼는 5단계에 와 있고, 사람이 거의 끼지 않는 6단계는 앞으로 1~3개월 안에 올 것으로 내다봤습니다. 이 예상이 맞는다면 exploit_agent 같은 도구는 한 운영자의 시범판에 그치지 않을 것입니다.

구글 GTIG의 원문 그림 'Evolution of threat actor use of LLMs'. 왼쪽부터 일곱 단계가 시간 순서로 놓여 있습니다. 2025년 말부터 2026년 9월까지 관찰된 단계는 1단계 프롬프트로 LLM 쓰기(사람 주도, 챗봇), 2단계 악성코드 안에 LLM 기능 넣기(실행 중 자동 호출), 3단계 LLM 자동화를 작업에 넣기(LLM이 고리 안에), 4단계 자율 프레임워크 개발과 실험(실험적 자율)입니다. 노란색으로 강조된 5단계가 현재 단계로, 여러 공격 단계를 LLM 도구가 실제로 수행하고 사람 개입은 최소입니다. 빨간 점선으로 표시된 예상 단계는 앞으로 1~3개월의 6단계 여러 에이전트가 하는 단순한 공격(사람 없음)과, 3~6개월의 7단계 정교한 완전 자율 공격입니다.
그림 3. GTIG가 나눈 공격자의 LLM 사용 일곱 단계. 지금은 5단계이고, 사람이 빠지는 6단계는 1~3개월 뒤로 봤습니다.

출처: Google Threat Intelligence Group, AI Threat Tracker (새 탭에서 열림) 그림 2

패치 뒤에 남는 시간은 이미 며칠입니다

GTIG가 n-day를 주목하는 이유는 볼 자료가 정해져 있기 때문입니다. 제로데이를 찾으려면 넓게 뒤져야 하지만, n-day는 버전별 소스 코드와 릴리스 노트, 보안 연구 글, 공개된 개념 증명 코드(PoC)를 보면 됩니다. 범위가 좁은 만큼 LLM에 맡기기도 쉽습니다.

패치 뒤에 남는 시간은 AI 이전부터 줄고 있었습니다. 구글 맨디언트가 잰 평균 공격 소요 시간(TTE)은 2018~2019년 63일에서 2023년 5일로 줄었고, 2025년은 -7일로 추정됩니다. 평균으로는 패치보다 공격이 먼저 오는데, 제로데이가 평균을 끌어내린 결과입니다. n-day만 따로 봐도 빠릅니다. 2023년 n-day 41개 가운데 29%는 패치가 나온 지 일주일 안에, 56%는 한 달 안에 공격에 쓰였습니다.

공격까지 걸리는 시간이 줄고 있음을 보여 주는 그림. 왼쪽 막대 그래프는 Mandiant가 잰 평균 공격 소요 시간(TTE)으로, 제로데이를 포함한 평균입니다. 2018~2019년 63일, 2020~2021년 초 44일, 2021~2022년 32일, 2023년 5일이고, 2025년 추정치는 -7일이라 막대가 0 아래로 내려갑니다. 0보다 아래는 평균적으로 패치가 나오기 전에 공격이 먼저 시작된다는 표시입니다. 오른쪽은 2023년 n-day 41개가 패치가 나온 뒤 공격에 쓰이기까지 걸린 시간으로, 하루 안 12%, 일주일 안 29%, 한 달 안 56%, 6개월 안 95%입니다.
그림 4. 평균 공격 소요 시간은 63일에서 5일로, 2025년에는 0 아래로 내려갔습니다.

출처: Mandiant, Time-to-Exploit Trends: 2023 (새 탭에서 열림), M-Trends 2026 (새 탭에서 열림)

올해 숫자에서 눈여겨볼 것은 어느 쪽이 늘었느냐입니다. 2026년 1~8월 실제 공격에 쓰인 취약점은 141개로, 이미 2025년 한 해(127개)를 넘었습니다. 그런데 제로데이는 월평균 8개에서 11개로 조금 늘었을 뿐입니다(8월에만 22개로 튀었습니다). 늘어난 몫의 상당 부분은 n-day에서 나왔고, GTIG는 그 주된 원인이 LLM으로 패치와 버전 차이를 분석해 n-day를 빠르게 무기로 만드는 데 있을 수 있다고 봅니다.

구글 GTIG의 원문 막대 그래프 'Vulnerabilities exploited per month, January 2025 - August 2026'. 달마다 실제 공격에 쓰인 취약점 수를 진한 파랑의 제로데이와 연한 파랑의 n-day로 나눠 쌓았습니다. 2025년에는 대부분 달이 10개 안팎이고 n-day는 몇 개에 그칩니다. 2026년에는 봄부터 n-day 몫이 눈에 띄게 커져 6월과 7월에는 n-day가 절반가량을 차지하고, 8월에는 제로데이가 20개를 넘으며 전체가 30개를 조금 넘어 가장 높습니다.
그림 5. 월별로 실제 공격에 쓰인 취약점 수. 2026년 들어 연한 파랑의 n-day 몫이 커졌습니다.

출처: Google Threat Intelligence Group, AI Threat Tracker (새 탭에서 열림) 그림 3

아직은 시끄럽고, 자주 틀립니다

GTIG는 이런 도구가 지금은 은밀함을 내주고 속도를 얻고 있다고 평가했습니다. 사람이 고르지 않고 자동으로 실행하다 보니 트래픽과 식별자, 코드 흔적이 많이 남고, 그만큼 잡힐 가능성도 커집니다. 다만 흔적이 많아도 목표는 충분히 이룬다는 말을 덧붙였습니다.

LLM이 만든 공격 코드가 다 동작하는 것도 아닙니다. 10월 PHP 취약점 패치가 나온 뒤 며칠 동안 LLM으로 만든 것으로 보이는 공격 코드 수백 개가 올라왔지만 동작하지 않았고, 이 가짜를 가려내는 일은 방어하는 쪽에 떨어졌습니다. 공개된 취약점 가운데 실제 공격이 확인된 것도 0.23%, 431개 중 1개꼴입니다. 패치마다 공격이 따라오지는 않습니다.

막는 쪽도 같은 자동화로 갑니다

구글은 2024년 딥마인드와 프로젝트 제로가 함께 만든 Big Sleep으로 아직 알려지지 않은 취약점을 찾고, CodeMender 같은 에이전트로 출시 전후에 취약점을 찾아 고칩니다. 공격자가 패치를 읽기 전에, 패치할 일 자체를 줄이자는 방향입니다. GTIG가 방어하는 쪽에 권한 것도 속도와 순서에 관한 것이었습니다.

  • 모든 패치를 한꺼번에 하려 하지 말고, 실제 공격에 쓰이는 취약점부터 처리합니다.
  • 인터넷에 열린 장비와 관리 화면을 먼저 지킵니다.
  • 에이전트처럼 스스로 코드를 실행하는 작업은 격리된 환경에서 돌립니다.
  • 소프트웨어를 만드는 쪽은 출시 전에 AI로 코드를 검토합니다.

AI를 만드는 도구도 표적입니다

AI 플랫폼을 다루는 팀이라면 같은 GTIG의 10월 동향 보고서에서 따로 볼 숫자가 있습니다. 2026년 1~8월에 공개된 AI 관련 취약점은 1,500개가 넘고, 그 절반인 782개가 LangChain, Langflow, Dify, MCP 같은 에이전트·오케스트레이션 프레임워크에서 나왔습니다. LiteLLM과 Langflow의 취약점은 이미 실제 공격에 쓰였습니다. 이런 프레임워크는 대부분 오픈소스이고 패치가 자주 나옵니다. exploit_agent가 지켜보던 "인기 웹 애플리케이션"과 조건이 크게 다르지 않습니다.

2026년 1~8월에 공개된 AI 관련 취약점을 층별로 정리한 막대 그래프. 합계 1,584개 가운데 에이전트·오케스트레이션 프레임워크(Flowise, Langflow, LangChain, Dify, MCP)가 782개로 가장 많고, AI 웹앱·포털 230개, 추론·서빙(vLLM, Ollama, LiteLLM, Triton, Ray) 212개, 모델 자체 106개, ML 프레임워크·허브 99개, 프론티어 모델 도구 97개, MLOps·실험 관리 39개, 벡터 DB·검색 19개입니다. 아래에는 에이전트·오케스트레이션 프레임워크가 전체의 절반을 차지하고 워크플로 안에서 코드를 실행하는 기능이 특히 위험한 곳으로 꼽혔다는 설명과, LiteLLM과 Langflow의 취약점은 공개 뒤 실제 공격에 쓰였지만 AI 인프라를 노린 제로데이 공격은 아직 확인되지 않았다는 설명이 있습니다.
그림 6. 공개된 AI 관련 취약점의 절반이 에이전트·오케스트레이션 프레임워크에서 나왔습니다.

출처: Google Threat Intelligence Group, Vulnerability Discovery and Exploitation Trends in the AI Era (새 탭에서 열림)(2026-10-01)

GTIG의 예상대로라면 사람이 거의 끼지 않는 공격은 다음 분기 보고서에 더 자주 나올 것입니다. 그때 함께 볼 숫자는 패치가 나온 뒤 첫 공격까지 걸린 시간입니다. 이번 보고서에는 그 숫자가 없었습니다.

글쓴이정우성AI Platform Team · 연구원
산업 AI 도입·전환

우리 산업 현장에도 AI를 적용할 수 있을까요?

어디서 시작할지 고민이라면, 포인랩과 산업 AI 전환의 첫걸음을 함께 찾아보세요.