🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AI가 사이버 공격의 속도와 규모를 기계 수준으로 끌어올리면서, 기업들은 아직 완전히 존재하지 않는 위협 모델까지 전제로 방어 체계를 다시 설계해야 하는 국면에 들어섰다.

📌 핵심 요약

• 필립 마틴은 2019년 코인베이스가 겪은 고도화된 공격 사례를 출발점으로, 당시에는 수 주간의 사회공학과 희귀한 제로데이 취약점이 필요했던 공격이 AI 시대에는 훨씬 더 빠르게 실행될 수 있다고 경고한다.
• 최전선 AI 모델들은 이미 숙련된 보안 감사자처럼 코드베이스를 읽고 오래 숨어 있던 취약점을 찾아낼 수 있는 수준에 도달했으며, 이는 사이버 보안에서 가능한 일의 구조 자체가 바뀌고 있음을 뜻한다.
• 현재는 방어자가 자기 시스템의 코드, 로그, 아키텍처, 이력을 더 많이 알고 있기 때문에 AI를 먼저 대규모로 활용하면 방어 측에 유리하지만, DeFi나 오픈소스처럼 공격자와 방어자가 같은 맥락을 공유하는 영역에서는 경쟁이 훨씬 치열해진다.
• AI는 공급망 공격, 취약점 악용, 권한 상승, 측면 이동, 데이터 탈취의 시간을 압축해 인간 대응자가 따라가기 어려운 속도로 사고를 전개시킬 가능성이 크며, 모델 비용이 낮아지면 이 능력은 더 많은 공격자에게 확산될 수 있다.
• 기업은 방어 목적으로 AI를 적극 실험하고 도입하며, 서드파티와 소프트웨어 라이브러리 관리를 강화하고, 공격자가 기계 속도로 움직인다는 가정 아래 사고 대응 플레이북을 재설계해야 한다.

🧩 주요 포인트

1. 필립 마틴은 2019년 코인베이스가 겪은 고도화된 공격 사례를 출발점으로, 당시에는 수 주간의 사회공학과 희귀한 제로데이 취약점이 필요했던 공격이 AI 시대에는 훨씬 더 빠르게 실행될 수 있다고 경고한다.
2. 최전선 AI 모델들은 이미 숙련된 보안 감사자처럼 코드베이스를 읽고 오래 숨어 있던 취약점을 찾아낼 수 있는 수준에 도달했으며, 이는 사이버 보안에서 가능한 일의 구조 자체가 바뀌고 있음을 뜻한다.
3. 현재는 방어자가 자기 시스템의 코드, 로그, 아키텍처, 이력을 더 많이 알고 있기 때문에 AI를 먼저 대규모로 활용하면 방어 측에 유리하지만, DeFi나 오픈소스처럼 공격자와 방어자가 같은 맥락을 공유하는 영역에서는 경쟁이 훨씬 치열해진다.
4. AI는 공급망 공격, 취약점 악용, 권한 상승, 측면 이동, 데이터 탈취의 시간을 압축해 인간 대응자가 따라가기 어려운 속도로 사고를 전개시킬 가능성이 크며, 모델 비용이 낮아지면 이 능력은 더 많은 공격자에게 확산될 수 있다.
5. 기업은 방어 목적으로 AI를 적극 실험하고 도입하며, 서드파티와 소프트웨어 라이브러리 관리를 강화하고, 공격자가 기계 속도로 움직인다는 가정 아래 사고 대응 플레이북을 재설계해야 한다.

🧠 상세 정리

1. 2019년 코인베이스 공격이 보여준 기존 위협의 한계

글은 2019년 코인베이스가 겪은 정교한 공격 사례로 시작한다. 공격자들은 손상된 케임브리지대학교 계정에서 보낸 이메일로 코인베이스 직원들을 수 주 동안 겨냥했고, 신뢰를 쌓은 뒤 파이어폭스 브라우저를 노린 두 개의 연결된 제로데이 취약점을 사용했다. 하나는 브라우저 내부 침투를, 다른 하나는 호스트 기기에서 악성 코드를 실행하는 것을 목표로 했다. 당시 이 공격은 기업 부문을 겨냥한 공격 중에서도 매우 고도화된 사례로 묘사된다. 코인베이스 보안팀은 직원의 신고와 자동 경보가 동시에 작동한 덕분에 몇 시간 안에 공격을 포착했고, 대응은 분 단위로 이뤄졌으며 고객 자금 손실은 없었다.

2. AI 시대에는 공격 준비 시간이 급격히 줄어든다

필립 마틴은 같은 사건을 지금은 다르게 바라본다고 말한다. 2019년의 공격자는 사회공학에 수 주를 쓰고 희귀한 제로데이까지 동원해야 단 한 번의 침투 기회를 얻을 수 있었다. 그러나 AI 기반 공격자라면 그런 시간이 필요하지 않을 수 있으며, 심지어 몇 시간조차 필요하지 않을 수 있다는 것이 그의 문제의식이다. 글의 핵심은 AI가 이미 사이버 공격이 발생하는 방식을 바꾸고 있고 앞으로도 계속 바꿀 것이라는 점이다. 다만 그 변화의 구체적 형태가 아직 완전히 정해지지 않았기 때문에, 보안 책임자에게 가장 어려운 일은 아직 완전히 존재하지 않는 위협 모델까지 계획하는 것이 된다.

3. 프런티어 AI 모델이 넘은 사이버 보안 능력의 문턱

저자는 Anthropic, OpenAI 등에서 만들어지는 프런티어 AI 모델들이 18개월 전만 해도 추측처럼 보였을 능력의 문턱을 넘었다고 평가한다. 이 모델들은 숙련된 감사자가 코드베이스를 읽는 방식과 비슷하게 코드를 이해하되, 기계의 속도와 기억력, 집중력을 결합한다. 실제로 한 최신 모델은 지구상에서 가장 많이 감사된 코드베이스 중 하나로 꼽히는 OpenBSD에서 27년 된 버그를 찾아냈다. 저자는 이를 단순한 성능 향상이 아니라, 무엇이 가능해졌는지를 바꾸는 구조적 변화로 본다. 보안 업무에서 AI가 취약점 탐지의 깊이와 속도를 동시에 확장할 수 있음을 보여주는 사례다.

4. 현재는 방어자가 더 많은 맥락을 갖고 있어 유리하다

글은 현재의 변화가 우선적으로는 방어자에게 유리하다고 설명한다. 보안은 상당 부분 맥락의 문제이며, 방어자는 일반적으로 공격자보다 자기 시스템에 대해 더 많은 정보를 알고 있다. 코드, 로그, 아키텍처, 과거 이력 같은 내부 맥락을 강력한 모델에 제공하면 취약점을 더 빠르고 철저하게 찾는 도구가 될 수 있다. 코인베이스는 이미 애플리케이션 보안, 자체 시스템에 대한 모의 공격인 레드팀 활동, 인프라 강화 등 여러 보안 업무에 AI를 활용하고 있다. 방어자가 이러한 도구를 먼저, 그리고 대규모로 배치할 수 있는 환경에서는 방어자가 우위를 가질 수 있다는 것이 저자의 판단이다.

5. DeFi와 공개 코드에서는 공격자와 방어자가 같은 출발선에 선다

문제는 공격자와 방어자가 같은 맥락을 공유할 때 훨씬 심각해진다. 저자는 대표적 사례로 코드가 공개되어 작동하는 탈중앙화 금융, 즉 DeFi를 든다. 스마트 계약의 경우 공격자는 감사자와 동일하게 코드를 들여다볼 수 있으므로, 누가 먼저 버그를 찾느냐는 모델의 능력과 집중력의 경쟁이 된다. 이런 환경에서 AI는 기존 공격 일정을 압축해, 과거에는 수 주가 걸렸을 일을 몇 시간 안에 가능하게 만들 수 있다. 그 결과 익스플로잇은 더 빠르고, 더 저렴하고, 더 자주 발생할 가능성이 커진다.

6. 오픈소스 공급망은 AI 공격 확산의 핵심 취약 지점이다

저자는 이 문제가 DeFi에만 머물지 않고 전 세계 소프트웨어의 기반을 이루는 오픈소스 코드로 확장된다고 말한다. 많은 핵심 코드는 GitHub 같은 플랫폼에 공개되어 있어 공격자와 방어자가 모두 검토할 수 있다. 보안 분야에서는 이런 위험을 공급망 공격이라고 부르며, 이는 새로운 문제가 아니지만 탐지와 방어가 매우 어렵다. AI가 결합되면 이러한 공격은 이전보다 훨씬 빠르고 쉬워질 수 있다. 공개된 라이브러리나 의존성에서 취약점을 찾고 이를 악용하는 속도가 빨라지면, 기업은 자기 코드만이 아니라 의존하는 외부 코드 전체를 더 엄격하게 관리해야 한다.

7. 고성능 모델의 비용 하락은 공격 능력의 대중화를 부른다

현재 OpenBSD의 오래된 버그를 찾아낼 수 있는 수준의 프런티어 모델은 실행에 막대한 하드웨어가 필요하다. 저자는 Anthropic과 동종 기업들이 이러한 능력을 조심스럽게 공개해 방어자에게 선제적 이점을 주고 있으며, 이는 생태계에 실제로 도움이 된다고 평가한다. 그러나 그 이점은 일시적이다. 모델 실행 비용은 낮아지고 있고, 연구자들은 더 적은 하드웨어로 더 큰 모델을 돌리는 효율화 방법을 계속 개선하고 있다. 지금은 1,000만 달러 규모의 하드웨어가 필요할 수 있는 능력이 1~2년 뒤에는 10만 달러 수준으로 낮아질 수 있으며, 그러면 현재 일부 연구소에 제한된 능력이 자금력 있는 공격 집단의 손에 들어갈 수 있다.

8. 기업은 기계 속도의 사고 대응을 전제로 재설계해야 한다

저자가 기업에 제안하는 대응은 세 가지 축으로 정리된다. 첫째, 공격자들이 결국 갖게 될 도구에서 뒤처질 이유가 없으므로 방어 측에서도 AI를 적극적으로 실험하고 활용해야 한다. 둘째, 서드파티와 소프트웨어 라이브러리 관리를 강화해야 하며, 버전 고정이나 새 라이브러리 릴리스에 대한 냉각 기간 같은 단순한 조치도 공급망 공격을 줄이는 데 큰 도움이 될 수 있다. 셋째, 사고 대응은 공격자가 기계 속도로 움직인다는 가정 아래 다시 만들어져야 한다. 공격자는 잠을 자거나 전략을 멈춰 세우거나 망설이지 않을 수 있으므로, 기존의 인간 중심 대응 속도만으로는 충분하지 않다.

9. 특정 모델이 아니라 조직의 적응 속도가 핵심이다

글의 결론은 특정 모델 출시를 해결해야 할 단일 문제로 보지 말라는 것이다. 1년 뒤에는 더 강력한 모델이 등장할 것이고, 같은 사이클이 반복될 수 있다. 따라서 목표는 하나의 도구를 막는 것이 아니라, 위협이 진화하는 속도보다 더 빠르게 적응하는 조직을 만드는 데 있어야 한다. 저자는 지난 10년 동안 암호화폐 산업이 자신이 경험한 어떤 분야보다 빠르게 진화했다고 말하며, AI가 형성할 다음 10년은 그보다 더 빠를 것이라고 전망한다. 방어자가 한 번 이겨 끝나는 싸움이 아니라 군비 경쟁이며, 일부 전투에서 질 수 있더라도 전쟁에서 지지 않는 것이 중요하다는 메시지로 글을 마무리한다.

🧾 핵심 주장 / 시사점

• AI 보안 경쟁의 핵심은 단순히 더 강한 모델을 쓰는 것이 아니라, 내부 맥락을 얼마나 빨리 모델에 연결하고 방어 프로세스로 흡수하느냐에 있다.
• 공개 코드와 오픈소스 의존성이 많은 조직일수록 공격자와 방어자의 정보 격차가 줄어들기 때문에, 공급망 관리가 기존보다 훨씬 전략적인 보안 과제가 된다.
• 앞으로의 사고 대응은 ‘침해를 가정하라’는 원칙을 넘어, 침해 이후 공격자가 인간보다 훨씬 빠르게 움직인다는 전제를 실제 플레이북과 자동화에 반영해야 한다.

✅ 액션 아이템

• 기업은 공격이 AI 속도로 진행된다는 전제하에 사고 대응 플레이북을 전면 재설계하고 대응 연습 시나리오를 맞춘다.
• 공급망·서드파티·라이브러리 의존성을 기준으로 취약점 노출구간을 재분류하고 통제 포인트를 재정의한다.
• 2019년형 수주간 사회공학·희귀 제로데이 공격 대비보다 AI 기반 고속 공격 시나리오를 우선순위로 상향해 방어 투자를 조정한다.

❓ 열린 질문

• AI 감사 모델이 오랜 잠복 취약점을 발굴하는 효율은 어떤 운영 지표로 정량 비교할 것인가?
• 공격자들이 AI로 이동하면서 대응자의 반응 속도 격차는 어떤 임계값에서 통제 실패로 간주될까?
• 공격자와 방어자가 동일 맥락을 공유하는 DeFi·오픈소스 영역에서 방어 우선순위를 어디까지 확장해야 할까?