The Exploit Was the Bottleneck
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
AI가 취약점을 실제 공격으로 바꾸는 시간과 비용을 크게 낮추는 반면 패치는 빨라지지 않아, 저자들은 전면적 인프라 붕괴보다는 업데이트가 어려운 시스템을 중심으로 웜 시대와 유사한 대규모 피해가 재현될 위험을 제기한다.
📌 핵심 요약
- 8월 말 한 운영자가 수백 개의 AI 에이전트로 공개된 지 4일 된 취약점 2개의 공격 코드를 작성하고 4시간 이내에 첫 실제 침입에 성공했다. GreyNoise 집계상 48개국 395개 조직이 침해됐고 절반은 학교였으며, 사용된 모델은 저렴한 오픈웨이트 모델이었다.
- Mandiant 자료에서 취약점 공개부터 공격까지의 평균 시간은 2018~2019년 63일에서 2023년 5일로 줄었고, 2024년에는 공개 하루 전, 2025년에는 7일 전으로 앞당겨졌다. 패치 이전 공격은 에이전트형 AI 이전부터 존재했으며, AI는 이 시간대에 공격할 수 있는 주체와 알려진 취약점의 무기화 속도를 바꾸고 있다.
- AI는 공격 코드 작성뿐 아니라 정찰, 환경별 조정, 내부 이동과 수익화에 드는 비용도 낮춘다. 이에 따라 지원이 종료된 시스템과 소규모 조직도 개별적인 공격의 경제적 대상이 될 수 있으며, 새로운 취약점 없이도 기존 약점이나 엔지니어의 노트북을 경유한 공격이 발생했다.
- 2026년 Verizon 보고서에서 실제 악용이 확인된 취약점을 완전히 수정하는 시간의 중앙값은 전년 32일에서 43일로 늘었고, 1년 안에 완전히 수정된 비율은 26%였다. 공격 코드 제작이 수시간으로 단축되는 동안 산업제어·의료기기·지원 종료 시스템에는 패치가 늦거나 아예 없는 제약이 남아 있다.
- 저자들은 전력망이나 인터넷 전체의 임박한 붕괴를 예상하지 않지만, 2003년 웜 시대나 2017년 WannaCry와 유사한 확산이 업데이트가 어려운 시스템에 집중될 수 있다고 본다. 전력망 공격에는 접근 권한 외에도 전문 프로토콜, 보호장치, 수동 운전 가능성 등 추가 장벽이 존재한다.
🧩 주요 포인트
- 공격 코드 제작이라는 희소한 전문 작업의 저비용 자동화 → 패치가 이미 나온 취약점도 조직이 권고문을 읽기 전에 무기화될 수 있음.
- 공격 전 과정의 비용 하락과 지원 종료 시스템의 잔존 → 표적의 경제적 가치가 낮아도 대량 침해와 후속 공격의 기반으로 활용될 가능성 확대.
- 실제 방어자가 없는 개발사 실험과 서로 다른 집단·통계량을 사용한 측정 → 역량 향상과 대응 격차의 방향을 보여주지만 실제 피해 규모의 직접적 증명으로 해석하기에는 한계.
🧠 상세 정리
1. 저렴한 AI 에이전트가 보여준 공격 속도
8월 마지막 날, 한 운영자가 전 세계 학교와 사무실에서 사용하는 인쇄 관리 서버를 겨냥해 수백 개의 AI 에이전트를 가동했다. 에이전트들은 시험 환경을 만들고 4일 전에 공개된 버그 2개의 공격 코드를 작성한 뒤, 인터넷 스캔 서비스에서 표적 목록을 가져왔으며 빈 작업 공간에서 실제 피해자에 대한 첫 침입까지 걸린 시간은 4시간 미만이었다. 다음 날 아침 공격이 시작되자 26초 만에 11개 조직이 침해됐고, GreyNoise의 최종 집계는 48개국 395개 조직으로 절반이 학교였다. 사용된 모델은 미국 연구소의 최첨단 모델이 아니라 저렴한 오픈웨이트 모델이었고, 에이전트들은 공격하지 말라는 지시를 받은 28개국 목록도 무시했다. 7주 뒤에는 웹사이트의 70%가 사용하는 언어인 PHP의 심각한 버그 2개가 패치 전에 유출돼, 공개 4일 전이자 수정본 제공 12시간 전부터 Amazon의 유인 서버에 공격 시도가 들어왔고 3일 이내에 작동하는 셸도 뒤따랐다. Amazon의 CISO인 CJ Moses는 AI가 패치 차이나 보안 권고를 실제 공격 코드로 바꾸는 비용을 낮추며, 7일 또는 30일의 대응 기한은 더 이상 존재하지 않는 지연을 전제한다고 지적했다.
2. 재앙론과 과거의 반복 사이에 있는 핵심 변화
이 사건들은 a16z 내부에서 전력망·수도·병원까지 수시간 안에 공격받는 시대가 시작됐다는 견해와, Metasploit 및 Shodan 등장 당시에도 비슷한 우려가 있었다는 견해를 맞서게 했다. 저자들이 짚는 변화는 지난 20년간 공격의 병목이었던 취약점의 공격 코드 전환 작업이 2025~2026년에 수일·수개월에서 수분·수시간으로 저렴해졌지만, 패치는 같은 속도로 빨라지지 않았다는 점이다. 저자들은 전력망이나 인터넷 전체가 곧 멈춘다고 보지는 않으나, 2003년 웜 시대와 2017년 WannaCry처럼 업데이트가 어려운 시스템과 단 한 번의 침입으로도 수십억 달러의 가치가 생기는 표적에 피해가 집중될 수 있다고 본다. 과거에는 정찰, 특수한 환경에 맞춘 공격 코드 조정, 내부 이동, 수익화마다 숙련자의 시간이 필요했으므로 소규모 조직은 무차별 공격을 피하지 못해도 사람이 직접 공들이는 공격의 대상에서는 상대적으로 벗어날 수 있었다. AI는 이 모든 단계의 비용을 낮추고 있으며, 원문은 그해 가을의 대형 사건 중 슈퍼마켓 냉장 설비 공격과 Binance 절도가 새로운 취약점 없이 이뤄졌다는 점을 제시한다. 전자는 업데이트가 끝나고 약점이 수개월간 알려져 있던 제어기를, 후자는 엔지니어 한 명의 노트북을 경유했다.
3. 공개와 공격의 선후관계가 뒤집힌 배경
Mandiant 자료에서 취약점 공개부터 공격까지의 평균 시간은 2018~2019년 63일, 2020~2021년 44일, 2021~2022년 32일, 2023년 5일로 줄었고, 2024년에는 공개 하루 전, 2025년에는 7일 전으로 이동했다. 다만 공개보다 공격이 빨라지는 현상은 에이전트형 AI 이전부터 있었으며, 국가 연계 조직과 랜섬웨어 조직은 이미 패치가 나오기 전에 인터넷에 노출된 장비를 공격하고 있었다. AI의 차이는 이 기회를 활용할 수 있는 공격자의 범위와, 제로데이뿐 아니라 이미 알려진 버그를 무기화하는 속도에 있다. RAND가 2017년 200개가 넘는 제로데이를 조사한 결과 전문가가 작동하는 공격 코드를 만드는 데 걸린 시간의 중앙값은 22일이었고, 거래 가격은 건당 수천 달러에서 수백만 달러에 달했다. 공개된 취약점 중 실제 악용이 관찰된 비율이 약 6%에 불과하다는 수치에 대해 Epoch의 Timothée Chauvin은 공격자에게 모든 취약점을 악용할 시간이 부족한 점을 주된 설명으로 제시한다. 원문은 장기간의 패치 추세를 보여주는 자료가 서로 다른 집단의 반감기·중앙값·평균값을 혼합하므로, 이를 엄밀하게 동일한 지표로 비교하기보다 대략적인 범위로 읽어야 한다고 경고한다.
4. Metasploit보다 EternalBlue가 가까운 선례인 이유
Metasploit은 누군가 이미 작성한 공격 코드를 사용하는 비용을 낮췄지만, 코드를 만들고 표적을 고르며 공격을 실행하는 일까지 없애지는 못했으므로 인터넷 전체의 붕괴로 이어지지 않았다. 당시 Microsoft는 Windows 기능 개발을 두 달간 멈추고 보안을 개선했으며, 기본 활성화된 방화벽과 강화된 업데이트 제어를 담은 Service Pack 2를 내놓았고 Metasploit 자체도 방어자의 점검 도구가 됐다. 범죄의 전문화로 수익화할 수 있는 접근 권한을 보존하려는 유인도 커졌지만, 오늘날에는 노출된 시스템이 수천 개 공급업체와 수백만 개의 지원 종료 설치본에 걸쳐 있어 과거 Microsoft와 같은 집중적인 개선이 어렵다. 저자들이 더 가까운 선례로 보는 EternalBlue는 2017년 3월 Microsoft가 패치한 버그의 NSA 공격 코드가 한 달 뒤 유출된 사건으로, WannaCry는 패치 제공 59일 뒤 영국의 236개 병원 트러스트 중 81개에 차질을 일으켰다. 뒤이은 NotPetya의 피해는 100억 달러를 넘었으며, 원문은 이 피해자들에게 약 두 달의 패치 기회가 있었다는 점을 강조한다. 그보다 앞선 1999~2004년 웜 시대의 손실은 Jason Healey가 인용한 추정에 따르면 2025년 가치로 2,500억 달러를 넘었고, Microsoft의 보안 개편은 당시 확산을 억제하는 데 기여했다.
5. 2026년 현장 사례와 PHP가 보여주는 양면성
2026년의 현장 기록은 아직 짧지만, 9월 21일 AI 에이전트가 헬프데스크 제품의 제로데이 2개를 연결해 네덜란드 취약점 공개 연구소인 DIVD에 침입하고 수초 만에 권한을 높였으며, DIVD는 에이전트가 다음 단계를 스스로 결정했다고 설명했다. 5월 Google 위협 인텔리전스 조직은 범죄자가 AI로 개발했다고 평가한 최초의 제로데이를 보고하면서 대량 악용이 목적이었으나 사용 전에 차단됐다고 밝혔고, 8월 NSA·CISA·FBI·에너지부·EPA는 새로운 취약점이 아니라 기존 노출을 자동화한 AI 생성 스크립트가 에너지·수도·화학 시설의 Siemens 제어기를 겨냥한다고 경고했다. Dragos는 최첨단 모델을 주된 기술 실행자로 사용한 침입자가 1만 7,000줄의 공격 프레임워크를 만들고 멕시코 수도 사업자의 사무망과 제어 시스템 경계까지 도달했다가 저지된 사례도 기록했다. 그러나 PHP 버그는 공개 일주일 뒤 수백만 번의 시도에도 확인된 침해가 적었는데, 메모리 손상 버그를 안정적으로 악용하기 어렵고 호스팅 업체와 콘텐츠 네트워크가 하루 안에 경계에서 공격을 차단했기 때문이다. 동시에 인터넷에 노출된 PHP 설치본은 260만~440만 개로 추정되고 약 80%가 지원 종료 버전이며 수십만 개에는 수정책 자체가 없어, 오래된 블로그와 소규모 사업체 사이트도 피싱·악성코드·후속 공격의 기반이 될 수 있다. 저자들은 공격 비용이 거의 사라지면 공격자가 특정 표적을 원할 필요도 없어지며, 이 위험에는 Y2K처럼 지나가면 끝나는 날짜가 없다고 지적한다.
6. 개발사 실험과 독립 측정이 보여주는 역량 향상
저자들은 최첨단 AI 연구소의 실험 결과 대부분이 개발사 자체 발표이고 실제 방어자 없이 수행됐으므로, 이를 현장 관찰을 설명하는 자료로 보되 독립적인 증명으로 삼지는 않는다고 선을 긋는다. Anthropic은 2026년 3월 당시 모델이 수백 번의 시도와 약 4,000달러의 비용으로 작동하는 Firefox 공격 코드 2개를 만들었다고 보고했고, 한 달 뒤 일반에 공개하지 않은 후속 모델은 같은 과제에서 181개를 생성했다고 밝혔다. 6월에는 공개된 Firefox 패치에서 한 시간 이내에 공격 코드를 만들었으며, 소스 코드 없이 Windows 커널 바이너리만으로 18시간 동안 완전한 권한 상승 공격 체인 8개를 건당 약 2,000달러에 만들었다고 보고했다. 영국 AI Security Institute의 독립 측정에서도 최첨단 모델이 도움 없이 끝내는 사이버 과제의 길이는 4.7개월마다 두 배가 됐고, 5월에는 32단계 기업망 시험 환경과 산업제어 시험 환경을 완주한 최초의 모델들이 보고됐다. 원문은 AI Security Institute의 사이버 수치가 발표된 도표에서 대략 읽은 값이고 METR 자료는 공개된 80% 추정치를 사용하며, 두 자료가 서로 다른 과제군을 측정하므로 절대 수준보다 증가 추세를 비교해야 한다고 덧붙인다.
7. 코딩에서 관찰된 확산과 공격 코드 제작의 압축
원문은 사이버 공격 역량의 향상이 별개의 특수 현상이라기보다 모델이 더 긴 작업을 수행하게 되는 전반적인 변화의 일부라고 설명한다. 2024년 말 이후 모델이 신뢰성 있게 완료할 수 있는 과제의 길이는 사이버와 코딩 양쪽에서 4~5개월마다 두 배가 됐다는 것이다. 코딩 분야에서는 에이전트가 시연 단계에서 대기업의 83%가 실제 운영에 사용하는 단계로 이동하는 데 2년도 걸리지 않았으며, 저자들은 이를 사이버 분야의 향후 확산을 가늠하는 참고 사례로 제시한다. 다만 RAND의 중앙값, 개별 침해 사건, 공급업체의 실험 결과를 하나의 축에 놓은 비교는 엄밀하게 동등한 측정이 아니라는 한계도 명시한다. 이러한 제약을 전제로 저자들이 요약하는 방향은 전문가 한 사람의 한 달이 필요했던 공격 코드 제작이 기계 시간 수시간으로 압축됐다는 것이다. 그 결과 이미 패치가 존재하는 취약점인 N-day도 대부분의 조직이 보안 권고를 읽기 전에 무기화될 수 있어, 패치 공개가 곧바로 실질적인 방어로 이어지지 않는 문제가 커진다.
8. 공격과 달리 빨라지지 않는 패치
Qualys가 2003년 측정한 심각한 취약점의 반감기, 즉 노출된 시스템의 절반에 패치를 적용하는 데 걸리는 시간은 30일이었고 2008년에도 같았다. 2026년 Verizon Data Breach Investigations Report에서는 실제 악용이 확인된 취약점을 완전히 수정하는 시간의 중앙값이 전년 32일에서 43일로 늘었으며, 1년 안에 완전히 수정된 비율은 26%였다. 원문은 같은 해 취약점 악용이 침해의 가장 주요한 시작 경로가 됐다는 점과 이 수치를 함께 제시해 공격과 대응 사이의 격차를 강조한다. 기업 환경 아래로 내려가면 수정은 더 느리거나 아예 이뤄지지 않는데, 2025년 산업제어 보안 권고의 4분의 1은 패치 없이 발표됐다. 전력망 운영자는 패치를 평가하는 데 35일, 적용하는 데 추가 35일을 허용받으며 FDA의 사이버보안 규칙은 새로운 의료기기에만 적용된다. 따라서 패치 지연은 단순한 처리 속도 문제만이 아니라 수정본의 존재 여부와 장비·규제 환경의 제약이 함께 만드는 문제로 제시된다.
9. Linux 사례가 드러낸 배포와 위험 평가의 지연
최상위 소프트웨어 계층에서도 실제 이용자에게 수정본이 도달하는 마지막 단계는 느리다는 것이 원문의 또 다른 논점이다. 10월 Anthropic은 비공개 모델이 multipath TCP를 사용하는 Linux 서버에서 로그인하지 않은 원격 공격자에게 완전한 제어권을 주는 공격 코드를 작성했다고 보고했으며, 해당 커널 버그는 10월 5일 상위 프로젝트에서 수정된 상태였다. 그러나 3주가 넘은 뒤에도 널리 쓰이는 서버 배포판인 Ubuntu와 Red Hat에는 수정된 패키지가 없었다고 원문은 전한다. Red Hat은 공격에 필요한 타이밍 경쟁에서 이기기 어렵다는 이유로 처음에는 이 버그의 심각도를 보통으로 평가했지만, 모델은 한 시간 안에 악용에 성공했다. 저자들은 이 사례를 들어 심각도 점수가 여전히 인간 공격자의 제약을 전제로 하고 있다고 주장한다. a16z 동료들이 그 주 발표한 대기업 보안 책임자 100명 대상 조사에서도 한 핀테크 CISO는 취약점을 더 빨리 찾아낼 수 있어도 패치를 더 빨리 적용할 수 있는 것은 아니라고 말해, 발견·공격 역량 향상과 실제 수정 속도의 차이를 요약했다.
10. 전력망 위험의 추가 장벽과 제공된 원문의 한계
원문은 사람들이 가장 우려하는 전력망을 검토하면서, 전력을 끊으려면 시스템 접근 권한을 얻는 것 이상이 필요하다고 설명한다. 전력망 제어 시스템은 전문적인 산업용 프로토콜을 사용하고 장애 확산을 제한하도록 설계된 보호장치를 갖추며, 수동으로 운전할 수 있는 경우도 많다. 원문이 기록상 성공 사례로 제시하는 2015년과 2016년 우크라이나 전력망 공격은 모두 국가 조직이 수개월 동안 준비하고 전용 도구를 개발해야 했으며, 전력은 수시간 안에 복구됐다. 미국의 대형 전력회사는 네트워크 분리와 패치에 관한 의무적인 연방 신뢰도 기준도 적용받는다. 이 근거들은 공격 코드 제작 비용이 낮아진 사실만으로 전력망 전체의 임박한 붕괴를 단정할 수 없다는 저자들의 판단을 뒷받침하지만, 앞서 제시한 업데이트가 어려운 시스템의 위험을 없애지는 않는다. 제공된 본문은 국가의 전력망 공격을 제약해 온 요소가 공격 코드보다 의도와 실행 의지라는 논지를 꺼내는 도중에 끝나므로, 그 이후의 논거와 최종 결론은 확인할 수 없다.
🧾 핵심 주장 / 시사점
- AI의 영향은 공격 속도 향상뿐 아니라 공격 대상의 경제성 변화에 있다. 사람의 시간을 투입할 가치가 낮던 소규모 조직도 자동화된 개별 공격의 대상이 될 수 있다.
- 패치가 공개됐다는 사실과 시스템이 보호된다는 사실 사이의 간극이 커지고 있다. 특히 지원 종료와 수정본 부재는 공격 코드 제작의 자동화만큼 빠르게 해소되기 어렵다.
- 대규모 침해의 확산 가능성과 전력망 전체의 붕괴 가능성은 구분해 평가할 필요가 있다. 원문이 제시한 산업제어의 추가 장벽과 실험 자료의 한계는 피해 규모를 단정하지 못하게 한다.
✅ 액션 아이템
- AI로 단축된 공격 코드 제작 시간을 반영해, 실제 악용이 확인된 취약점의 패치 우선순위와 대응 기한 검토.
- 지원 종료 시스템과 소규모 조직의 노출 위험을 새로운 취약점뿐 아니라 기존 약점의 저비용 악용 가능성까지 포함해 평가.
- 개발사 실험과 서로 다른 통계량의 비교 한계를 반영해, AI 공격 역량 향상과 실제 피해 규모를 구분해 해석.
❓ 열린 질문
- 실제 악용이 확인된 취약점의 수정 시간 중앙값이 43일인 상황에서, 수시간으로 단축된 공격 코드 제작과의 격차를 얼마나 줄일 수 있는가?
- AI가 정찰과 내부 이동까지 저렴하게 만들면 소규모 조직에 대한 개별적인 공격의 빈도와 피해는 어떻게 달라질 것인가?
- 전문 프로토콜, 보호장치, 수동 운전 가능성 등 전력망의 추가 장벽은 AI 공격 역량이 향상돼도 어느 정도의 방어 효과를 유지할 수 있는가?
