The Biggest Shift in Cybersecurity in 30 Years

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

The Biggest Shift in Cybersecurity in 30 Years를 중심으로, AI는 공격의 속도와 범위를 바꾼다. 사람은 제한된 자원으로 특정 침투 경로에 집중하지만, AI 에이전트는 여러 경로와 작를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. AI는 공격의 속도와 범위를 바꾼다. 사람은 제한된 자원으로 특정 침투 경로에 집중하지만, AI 에이전트는 여러 경로와 작업을 동시에 시도할 수 있다. 현재 공격에는 중복 행동과 조정 능력의 빈틈이 남아 있지만, 공격 전문성의 확산은 공격자 식별까지 어렵게 만들 수 있다.
2. 보안의 기준이 취약점 목록에서 실제 악용 가능성으로 이동한다. Armadin Red는 실제 익스플로잇을 수행해 원격 코드 실행이나 데이터 접근 여부를 확인한다. 네트워크를 지도화하고 앱·서비스·위협의 변화에 맞춰 재검증하며, 알려진 CVE뿐 아니라 맞춤형 애플리케이션의 논리 결함도 탐색한다.
3. 발견과 차단 사이의 시간을 줄이는 것이 자율 방어의 핵심이다. Armadin Blue는 발견한 위험을 EDR·방화벽 등으로 전달해 보완 통제를 적용하려 한다. 이는 근본 수정까지 시간을 벌어주는 조치이며, 예방이 실패할 때를 대비한 탐지와 즉시 차단도 함께 필요하다.
4. AI의 성과와 안전성은 보안 전문가의 참여에 달려 있다. Armadin이 발표한 90개 이상의 제로데이는 대부분 인간이 발견했고, AI는 반복 작업의 90% 이상을 처리했다고 한다. 최근 일부는 AI가 직접 발견했다. 공격 에이전트에는 실행 환경 통제, 결정적 금지 규칙, 입력·출력 검사, 행동 기록과 인간 판단을 결합한다.
5. 기술 전환은 보안 조직과 사업 경쟁 방식도 바꾼다. SOC는 기존 절차를 자동화하는 데서 더 나아가 어떤 업무가 남을지 재검토해야 한다. 공급업체는 빠르게 바뀌는 제품에 맞춰 영업 교육과 운영 절차를 갱신하고, 기술 우위의 지속성이 불확실한 만큼 고객 성과와 신뢰를 쌓아야 한다.

🧩 배경과 문제 정의

• AI는 사이버 공격의 규모와 속도를 크게 높여, 사람이 순차적으로 취약점을 찾고 탐지·대응하는 기존 방식의 한계를 드러낸다.
• 보안의 핵심 문제는 취약점 목록을 만드는 데서 실제 침투 가능성을 검증하고, 공격자보다 먼저 방어 조치를 적용하는 데로 이동한다.
• Armadin은 공격용 AI로 방어를 시험하고 훈련하는 접근을 추진한다. 단기적으로는 공격이 유리하지만, 장기적으로는 자율 방어가 더 효과적일 수 있다는 전망이다.
• 공격 에이전트를 안전하게 운용하려면 AI 기술과 보안 분야의 전문성을 결합하고, 여러 보호 계층의 실패까지 고려해야 한다.

🕒 시간순 섹션별 상세정리

1. AI 전환과 창업팀의 역량이 현업 복귀를 이끌었다

• David Slater, Travis Lam, Evan 등의 역량과 사업 구상이 Armadin 참여의 계기가 됐다. 다시 창업하는 것 자체보다 이 팀과 함께 문제를 해결해야 한다는 판단이 컸다. [01:36]
• 보안 분야에서 쌓은 30년의 경험만으로는 AI가 가져올 변화를 따라가기 어렵다는 인식이 있었다. 이 전환기에 직접 참여하고, 기존 인맥과 경험으로 기업의 도입을 앞당기는 역할이 필요했다. [02:05]

2. 실제 공격 가능성의 발견과 차단을 함께 추진한다

• Armadin Red는 프런티어 모델과 공격용 AI를 활용해 기업 네트워크에 실제 악용 가능한 위험이 있는지 시험한다. [03:12]
• 공격용 AI와 방어용 AI가 함께 작동하고 훈련해야 한다는 구상이다. 첫 번째 목표는 공격자보다 먼저 위험을 찾는 것이고, 두 번째 목표인 Armadin Blue는 보완 통제로 그 위험을 차단하는 것이다. [03:44]

3. 현재 AI 공격의 조정 능력에는 빈틈이 있지만 규모와 속도는 크다

• Armadin이 구축한 시스템에서는 25,000개 에이전트가 협력한다. 다만 당시 관찰한 실제 외부 공격에서는 그 정도로 조정된 시스템을 보지 못했다는 평가다. [04:36]
• 현재 AI 공격은 A 지점에 침입한 뒤 B로 이동하고도 다시 A에 침입하려는 중복 행동을 보인다. 공격의 조정 능력은 앞으로 더 정교해질 것으로 예상한다. [05:10]

4. 공격 능력보다 비용과 익명 접근성이 확산의 제약이 된다

• 취약점 탐색은 코드라는 구조화된 언어와 절차를 다룬다. 이 때문에 다양한 언어를 구사하는 최고급 모델이 아니어도 AI가 공격 작업에 강점을 가질 수 있다. [06:11]
• 공개 모델도 이미 사이버 공격에 충분한 수준이라는 판단이다. 모델 발전을 늦추는 것만으로 위험을 막기에는 늦었으며, GPU를 익명으로 이용할 수 있게 되면 범죄 공격이 늘어날 것으로 예상한다. [06:26]

5. 국가의 정밀 침투와 AI 군집 공격 사이에서 공격 교리가 달라진다

• 기존 국가 단위의 첩보 공격은 대상을 제한하고 특정 조직을 깊게 침투하는 방식이었다. 무차별 공격보다 저격에 가까운 접근이라는 평가다. [07:57]
• AI 공격은 드론 군집처럼 여러 경로를 포괄적으로 시도할 수 있다. 더 거칠고 눈에 띄더라도 사람이 시도하지 않을 행동까지 수행해 공격 범위를 넓힌다. [08:30]

6. 공격 전문성의 확산은 공격자 식별을 어렵게 한다

• 단순히 특정 사이트를 공격하라는 프롬프트만으로는 은밀하고 정교한 침투를 기대하기 어렵다. 충분한 추가 훈련과 사람의 개입이 필요하다는 판단이다. [09:24]
• 기술 수준이 낮고 성공률이 낮았던 공격자도 모델을 이용하면 더 높은 공격 능력을 갖출 수 있다. AI는 공격 전문성을 넓게 확산하는 수단이 된다. [09:48]

7. 강한 공격으로 방어를 훈련하고 네트워크를 지도화한다

• 강력한 공격을 상대로 시험해야 방어의 실제 수준을 확인할 수 있다. AI 시대의 전술적 방어는 대응 속도 때문에 사람이 매번 판단하는 구조로 운영하기 어렵다는 주장이다. [10:58]
• ‘하이퍼어택’은 에이전트 군집으로 네트워크의 서비스, 경로, 시스템과 자산을 빠르게 탐색한다. 이 과정에서 네트워크에 관한 테라바이트 규모의 메타데이터가 생길 수 있다. [11:40]

8. 변화를 감시하고 필요한 시점에 공격을 재검증한다

• 앱, 경로, 서비스 업데이트와 신규 장비를 주기적으로 확인하고 바뀐 부분을 공격한다. 전체 공격을 항상 반복하는 것은 비용이 크고 불필요하므로, 위협이나 네트워크의 변화 또는 자체 점검 필요에 따라 시험한다. [12:08]
• 새 취약점이 알려지면 공격자보다 먼저 실제 악용 가능성을 확인하는 것이 목표다. 모든 버그가 안정적인 시스템 접근이나 원격 명령 실행으로 이어지는 것은 아니므로 위험을 구분해야 한다. [13:07]

9. 알려진 취약점 탐색에서 실제 침투와 논리 결함 검증으로 이동한다

• 기존 침투 테스트에 대한 비판은 알려진 문제를 탐색해 목록을 늘리면서도 실제 악용 가능성을 충분히 입증하지 못한다는 것이다. [15:33]
• Armadin은 익스플로잇을 실제 수행해 원격 코드 실행이나 데이터 접근 여부를 확인하는 방식을 택한다. 이를 통해 오탐을 없애겠다는 접근이다. [15:48]

10. 운영 환경의 제로데이 발견이 지속적 레드팀의 근거가 된다

• Armadin은 2026년 1월 이후 고객의 실제 운영 환경에서 제로데이 취약점을 90개 넘게 발견했다고 밝혔다. 고객에는 Fortune 500 기업이 포함되며, 모델은 익스플로잇 개발 능력을 갖춘 레드팀 전문가와 함께 추가 훈련했다. [16:40]
• 소스 코드나 사전 로그인 접근 없이 인터넷에서 블랙박스 방식으로 침투한다. 보통 48시간 안에 DMZ의 원격 코드 실행 가능성을 알리면 고객은 이를 사고처럼 취급해 대응하며, 수정에는 더 긴 시간이 걸릴 수 있다. [17:12]

11. Armadin Blue는 근본 수정에 앞서 빠른 보완 통제를 적용한다

• Armadin Blue는 발견한 위험을 EDR이나 방화벽 등 방어 플랫폼에 전달해 보완 통제를 신속히 만든다. 다른 공격 모델보다 5분 먼저 위험을 찾았다면 그 시간 안에 보호 조치를 적용하는 것이 목표다. [19:11]
• 초기 보호 조치는 단순할 수 있지만 자율 방어는 빠르게 보편화될 것으로 예상한다. 불완전한 패치라도 침입을 막는 편이 낫다는 판단이며, 이는 패치가 만드는 문제와 침입 위험 사이의 선택이다. [19:30]

12. SOC는 기존 절차의 자동화를 넘어 역할 자체를 재검토해야 한다

• CISO의 목표는 효과적인 자율 보안이며, 우수한 인력을 유지하면서 조직에 맞는 절차를 자동화해야 한다. 다만 지금 자동화하는 SOC 절차 중 일부는 AI 시대에 아예 사라질 수 있다. [21:22]
• 탐지·대응 과정에 사람이 개입하면 너무 느려질 것이라는 전망이다. 예방은 AI가 관리하고 탐지와 대응도 AI가 수행하면서, 각 단계에 허용되는 시간이 계속 짧아진다. [21:50]

13. 침입 이후의 동시 확산이 즉각적인 자동 차단을 요구한다

• 에이전트 기반 내부 명령·제어는 사람이 순차적으로 이동하는 것과 달리 수많은 작업을 동시에 수행한다. Armadin의 시험에서는 한 번 침입한 뒤 확산되는 속도가 매우 빨랐다는 경험이 근거로 드러난다. [23:04]
• 예방을 강화하면서 탐지 직후 즉시 차단해야 한다. 탐지와 대응이 자동으로 충분히 빨라지면 예방과의 경계도 흐려질 수 있다. [23:45]

14. 단기적인 공격 우위 속에서 기업은 방어 강화에 자원을 집중한다

• 기업의 취약성은 빠르게 줄고 있다는 평가지만, 공격자는 지금 침투하려 하고 방어자는 노출 지점을 서둘러 막으려 한다. 단기적으로 AI가 공격에 유리하다는 판단이 양쪽의 긴박감을 만든다. [24:42]
• 장기적으로는 공격용 AI로 훈련한 자율 방어가 사람이 패킷을 들여다보는 것보다 더 효과적이고 꼼꼼할 것으로 예상한다. 현재는 그 체계가 자리 잡기 전의 위험 노출 구간이다. [25:19]

15. Mythos와 에이전트 사고는 위협 인식과 안전성 평가의 부족을 드러낸다

• Mythos는 AI 공격 능력을 널리 알리고 기업이 위협의 변화를 인정하게 만든 계기라는 평가다. 공급업체들은 자사 소프트웨어의 취약점 탐색에 나섰고, 대응의 긴박감이 커졌다. [26:33]
• Hugging Face 관련 사건의 구체적인 경위는 제시되지 않는다. 다만 기술 전환기마다 적대자의 능력을 과소평가하듯, 이번에는 모델의 능력을 과소평가했으며 가드레일과 결정적 통제로 막을 여지가 있었다는 해석이다. [27:17]

16. 공격 에이전트는 실행 환경 통제와 지속적인 검증으로 관리한다

• Armadin 역시 실제 운영 네트워크에 침투할 수 있는 여러 공격 모델과 시스템을 만들었다. 높은 공격 성공률만큼 이를 안전하게 통제하는 문제가 중요해진다. [28:19]
• 보호 조치에는 하이퍼바이저, 호스트 수준의 잠금과 프록시가 포함된다. 공격 모델의 실행 환경에 여러 통제 계층을 두는 접근이다. [28:33]

17. 보호 계층의 실패를 가정하고 분야 전문가가 평가에 참여해야 한다

• 모든 보안 계층이 실패할 수 있다고 가정하고, 특정 활동을 금지하는 결정적 규칙을 둬야 한다. 여러 검증 계층만으로 안전을 보장한다고 생각해서는 안 된다는 접근이다. [29:15]
• 특정 분야에서 행동하는 에이전트를 안전하게 만들려면 그 분야의 전문성이 필요하다. 사이버 보안 경험이 없으면 시험 과정에서 예상하지 못한 행동을 뒤늦게 발견할 수 있다. [29:28]

18. 실제 공격 경로 평가에서 모델 간 차이는 속도와 비용에 집중된다

• Armadin은 실제 피해 현장과 숙련된 운영자의 네트워크 테스트에서 수행된 공격을 바탕으로 완전한 킬체인 20개를 구성했다. 어떤 모델도 전체 경로를 완료한 사례가 8개를 넘지 못했다. [30:04]
• 오픈 웨이트 모델과 최첨단 폐쇄형 모델 모두 8개에 도달했다. 폐쇄형 모델이 악용 가능한 위험을 더 빨리 찾았지만, 오픈 모델도 실행 시간을 늘리면 같은 수준에 도달했다. [30:24]

19. AI 침해 대응에는 보안 전문성과 재현 가능한 행동 기록이 필요하다

• 보안 분야의 전문가는 AI 전문가와 함께 평가와 대응 체계를 만들어야 한다. 클라우드 등장 당시 새로운 침해 양상을 익혔듯, AI를 이용한 침해의 형태와 모델 제공업체에 필요한 로그도 새롭게 파악해야 한다. [31:38]
• AI가 예상 밖의 행동을 했을 때 무엇이 언제 일어났는지 신속히 확인할 수 있어야 한다. Armadin은 에이전트의 출발지 IP 주소, 날짜와 시간, 수행 행동을 모두 기록해 과거 실행을 되짚을 수 있도록 한다. [32:24]

20. 공격용 AI의 안전장치는 창의성 활용과 통제 사이에서 조정해야 한다

• 처음에는 강하게 제한한 뒤 점진적으로 허용 범위를 넓혀 적절한 경계를 찾아야 한다. 규칙을 지나치게 결정론적으로 적용하면 최첨단 모델의 지능과 창의성을 충분히 활용하지 못할 수 있다. [33:26]
• 모든 입력과 출력을 살피는 분류기가 필요하며, 사람의 적절·부적절 판단으로 이를 훈련해야 한다. 허용 범위에는 회색지대가 남기 때문에 기대한 결과를 얻는다고 100% 확신할 수는 없다. [33:40]

21. 인간 중심의 취약점 발굴에서 AI의 직접 발견으로 전환이 시작됐다

• 보안 운영자들은 공격과 레드팀 분야에서 각각 15년의 경험을 갖췄으며, 경력 전체를 통틀어 Fortune 100 기업 중 99곳을 대상으로 레드팀 활동을 수행했다. [34:44]
• Armadin의 90개 이상 제로데이 취약점은 대부분 인간이 발견했다. 다만 AI가 반복적이고 지루한 작업의 90% 이상을 처리하면서 인간은 더 어려운 문제에 집중할 수 있었다. [35:07]

22. 보안 인텔리전스는 피해 이후 학습에서 사전 문제 발견으로 확장된다

• 2004년 시작한 Mandiant는 자체 자금으로 운영하며 수익을 냈다. 출발 전제는 예방 조치에만 의존할 수 없다는 것이었고, 중요한 침해에 대응해 재발 방지에 필요한 정보를 먼저 확보하는 전략을 택했다. [35:53]
• 기존 안티바이러스는 악성코드 서명에 의존하고, 탐지에 실패하면 사용자가 악성코드를 찾아 제출해야 하는 한계가 있었다. 안티바이러스나 이를 대체할 수단은 여전히 필요하지만, 쉽게 우회되는 방어를 보완할 학습 가능한 두 번째 방어층도 필요했다. [36:54]

23. 자체 수익 중심의 창업에서 선제 투자와 빠른 시장 진입으로 조건이 달라졌다

• 초기 Mandiant는 생업을 유지할 만큼 수익을 내는 데서 출발했다. 경쟁사보다 높은 보수를 주고 더 많은 업무를 요구하며, 적은 수의 뛰어난 인재로 운영하는 철학을 택했다. [38:25]
• Armadin은 자금을 확보하고 빠르게 시장을 선점해야 한다. 강한 성장 기회에도 영업 조직, 시장 진출 체계, 해외 사업이 아직 갖춰지지 않았으며, 이를 구축하는 동시에 다음 단계의 사업도 준비해야 한다. [39:26]

24. 빠른 제품 변화는 조직 운영과 영업 교육의 주기를 바꾼다

• 급성장하는 조직에는 확장을 이끌고 정착된 운영 절차를 이해하는 리더가 처음부터 필요하다. 끈기와 배짱에만 의존할 수 없으며, Armadin의 일하는 방식을 반복 가능한 절차로 만들어야 한다. [40:55]
• 과거에는 1월 영업 행사에서 제품 교육을 하면 상당 기간 활용할 수 있었지만, 이제 제품이 2주마다 달라진다. 영업 조직이 최신 상태를 유지하도록 교육 방식을 바꿔야 한다. [41:22]

25. 최고 수준의 제품과 명확한 절차가 성장 과정의 혼란을 줄인다

• 목표는 해당 분야의 세계 최고가 되는 것이며, 이를 유지하려면 더 나은 인재와 더 많은 노력, 지속적인 검증이 필요하다. 현재 최고인지 반복해서 확인해야 한다. [42:23]
• 고객의 피드백이 엔지니어에게 직접 들어가는 연결이 중요하다. 고객은 개선이 필요한 지점을 빠르게 드러내며, 자금 조달과 함께 운영 절차를 확장하고 그 절차도 계속 시험해야 한다. [43:06]

26. 기술의 차별화가 짧아질수록 고객 성과와 브랜드가 중요해진다

• 지식재산의 우위가 얼마나 오래갈지는 불확실하다. 현재 기술을 다른 회사가 6개월 뒤 구현할 수 있다고 가정하면, 그동안 고객을 확보하고 만족시키며 신뢰의 기준이 되는 브랜드를 구축해야 한다. [43:56]
• 현재 창업의 핵심 차이는 자금 조달, 속도, 브랜드, 시장 진출 체계다. 보안 시장의 변화와 긴급한 수요에 대응하려면 이 체계를 2년 전보다 훨씬 빠르게 구축해야 한다. [44:21]

27. 치열한 경쟁 속에서도 고객 확보와 만족의 반복이 중심 과제다

• 창업자와 스타트업이 늘고 자금 확보도 가능해지면서 어느 분야를 택하든 경쟁을 피하기 어렵다는 판단이다. 마케팅 메시지가 넘치는 시장에서는 고객을 확보하고 만족시키는 일을 반복해 고객의 적극적인 추천을 얻는 것이 핵심 차별화 수단이다. [45:39]
• 교육, 영업 지원, 마케팅, 채용, 팀워크는 모두 고객 만족을 잘 구현하도록 설계해야 한다. Armadin은 엔지니어를 한 공간에 모으는 방식을 선호하며, 분산된 팀을 관리하는 것보다 즉시 질문하고 함께 답하는 편이 단순하고 빠르다고 본다. [46:26]

🧾 결론

• 핵심 변화는 더 많은 취약점을 보고하는 데서 공격자가 실제로 이용할 경로를 먼저 입증하고 차단하는 데로 보안의 목표가 이동한다는 것이다.
• 공격용 AI로 방어를 시험하고 훈련하는 지속적 레드팀이 중요한 접근으로 제시된다. 다만 전체 공격을 무조건 반복하기보다 네트워크와 위협의 변화에 맞춰 시험 범위를 조정해야 한다.
• 단기적으로는 공격이 유리하다는 판단이지만, 장기적으로는 공격용 AI로 훈련한 자율 방어가 더 효과적일 수 있다는 전망이다. 현재는 그 체계가 자리 잡기 전의 위험 노출 구간으로 설명된다.
• 인간의 역할은 어려운 취약점 분석, 에이전트 평가, 예외 판단, 근본 수정과 조직 설계에 집중되는 방향으로 제시된다.

📈 투자·시사 포인트

• 제품 가치는 발견과 조치의 연결에서 확인해야 한다. 취약점 탐색 능력뿐 아니라 실제 악용 가능성 입증, 방어 플랫폼 연동, 보호 조치 적용까지 걸리는 시간을 함께 살펴볼 필요가 있다.
• 모델 성능과 운영 경제성을 분리해 봐야 한다. 제시된 평가에서는 오픈 웨이트 모델과 폐쇄형 모델의 최종 성과가 비슷했지만 시간과 비용은 달랐다. 지속적 레드팀의 사업성은 실행 비용과 필요한 대응 속도에 영향을 받을 수 있다.
• 기술 우위만으로 경쟁력을 판단하기 어렵다. Armadin은 기술을 경쟁사가 따라올 가능성을 전제로 고객 확보, 만족, 브랜드와 시장 진출 체계를 강조한다. 기업 보안에서는 영업 조직과 반복 가능한 운영 절차도 성장의 조건이다.
• 시장 재편 전망과 실제 성과를 구분해야 한다. 향후 2년간 보안 기술 스택이 크게 바뀔 것이라는 전망은 성장 기회를 시사하지만, 제품 채택·매출·수익성을 입증하는 자료는 아니다.

⚠️ 불확실하거나 확인이 필요한 부분

• 25,000개 에이전트 협력, 90개 이상의 제로데이, 반복 작업 90% 이상 처리 등은 Armadin 측 설명이다. 독립 검증 자료와 측정 기준은 제공되지 않으며, 제로데이 대부분은 인간이 발견했다는 후반 설명을 함께 봐야 한다.
• 모델 비교는 완전한 킬체인 20개를 대상으로 했고, 어떤 모델도 8개를 넘게 완료하지 못했다. 이 결과만으로 모든 네트워크에서 모델들의 공격 능력이 동등하다고 일반화할 수 없다.
• 자율 방어의 장기 우위, 침투 테스트의 점진적 대체, 향후 2년간 기술 스택 재편은 전망이다. 정착 시점과 최종 조직 형태는 확정되지 않았다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 현재 취약점 보고서를 검토해 목록에 오른 문제와 실제 원격 코드 실행·데이터 접근이 입증된 문제를 구분하고 대응 우선순위를 정한다.
• 앱·서비스·경로·장비 변경과 새로운 취약점 공개를 재검증 계기로 삼고, 네트워크의 변화 빈도에 맞춰 시험 주기를 조정한다.
• 위험 발견부터 EDR·방화벽 보완 통제 적용까지의 시간을 측정하고, 임시 보호 조치 이후 근본 수정의 담당자와 절차를 정한다.
• SOC 업무 중 즉시 자동 차단이 필요한 단계와 인간의 예외 판단이 필요한 단계를 검토하고, 예방 실패 이후의 방어 계층도 점검한다.

❓ 열린 질문

• 자율 방어가 공격보다 지속적으로 우위를 확보하려면 발견 속도, 차단 정확도와 운영 안정성이 어느 수준에 도달해야 할까?
• AI가 제로데이를 직접 발견하는 비중이 커질 때 인간 전문가의 검증과 에이전트 통제는 어떻게 확장해야 할까?
• 기존 침투 테스트와 SOC 업무 중 어떤 부분이 대체되고, 어떤 부분은 인간의 판단과 책임이 계속 필요할까?