The Changing Physics of Cybersecurity and Drug Development with OpenAI President Greg Brockman

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

The Changing Physics of Cybersecurity and Drug Development with OpenAI President Greg Brockman를 중심으로, 소프트웨어가 저렴해질수록 보안의 가치가 커진다. 브록먼은 기능 구현 비용이 내려가면 신뢰성·보안·복원력이 더 중요한 가치가를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. 소프트웨어가 저렴해질수록 보안의 가치가 커진다. 브록먼은 기능 구현 비용이 내려가면 신뢰성·보안·복원력이 더 중요한 가치가 된다고 본다. 공격 역량도 확산되는 만큼, 방어자가 고성능 AI를 먼저 활용할 수 있는 현재의 기회를 강조한다.
2. AI의 수학 성과는 새로운 지식 생성의 가능성을 보여준다. 다만 정답을 내는 것과 사람이 이해할 수 있는 통찰을 제공하는 것은 별개의 과제다. 다른 AI가 결과를 비판하도록 하는 방식은 인간의 감독을 돕는 수단으로 제시된다.
3. 신약 개발은 분자 설계만 빨라져서는 충분하지 않다. 생물학 데이터 확보, 실험, 임상시험, 규제 제출이 각각 병목이다. 진행자가 제시한 비용·기간 구분에서도 임상시험의 비중이 크며, 브록먼은 문헌과 환자 상태의 연결이나 제출 자료 작성에서도 개선 가능성을 찾는다.
4. 상시 에이전트는 업무 맥락과 제품 인터페이스를 바꾼다. Dots는 메시지·일정·프로젝트를 종합해 미이행 약속과 일정 충돌을 찾는 사례다. 업무용 AI는 생산성 효과에 따라 더 많은 연산을 투입할 수 있지만, 간소한 인터페이스 안에서도 기업의 권한과 기능 제한을 전달해야 한다.
5. 보안 개선은 반복 작업이며 인간의 결정권이 기준이다. Daybreak는 기존 코드의 취약점 발견과 수정을 지원한다. 새 모델마다 재점검하고 공급망과 누적된 보안 부채를 개선해야 하며, AI의 능력이 커져도 결과의 방향은 인간의 판단과 가치가 정해야 한다.

🧩 배경과 문제 정의

• AI가 기존 지식을 활용하는 수준을 넘어 새로운 지식을 만들 수 있는지, 그 결과를 사람이 이해하고 검증할 수 있는지가 핵심 문제다.
• 수학에서 나타난 성과를 생물학과 신약 개발로 확장하려면 데이터 부족, 실험, 임상시험, 규제 등 서로 다른 병목을 해결해야 한다.
• 상시 작동하는 AI 에이전트는 업무 방식과 제품 인터페이스를 바꾸며, 소비자용 서비스와 기업용 서비스의 경계에도 영향을 준다.
• 소프트웨어 제작 비용이 낮아지고 AI의 사이버 역량이 높아질수록, 신뢰성과 보안을 확보하기 위한 투자와 방어자의 대응이 중요해진다.

🕒 시간순 섹션별 상세정리

1. 인간의 통제권과 소프트웨어의 신뢰성이 핵심 가치가 된다

• 인간이 미래에 대한 통제권을 유지하고, AI가 인간의 주도권을 확대해야 한다는 원칙을 제시한다. [00:02]
• 브록먼은 소프트웨어가 저렴해질수록 안정성과 보안의 가치가 커져 보안 지출이 소프트웨어 지출을 크게 넘어야 한다고 본다. 사이버보안의 작동 조건이 바뀌면서 더 안전한 세계를 만들 기회도 생긴다는 전망이다. [00:09]

2. 수학 성과가 AI의 새로운 지식 생성 가능성을 보여준다

• 브록먼은 최근 수학 성과를 AI가 새로운 지식을 만들 수 있다는 증거로 평가한다. 과학기술이 인간의 삶을 개선해 온 만큼, 과학적 발견의 가속이 중요한 변화라는 판단이다. [02:01]
• 완전히 새로운 이론을 만드는 단계에는 아직 이르지 못했지만, 100년 된 수학 문제를 해결할 수 있게 됐다고 보여준다. 핵심 가치는 도구를 갖춘 사람이 이전에는 불가능했던 성과를 달성하는 데 있으며, 이를 생물학이나 소규모 사업 운영에도 적용할 수 있다고 기대한다. [02:38]

3. 정답을 넘어 사람이 이해할 수 있는 수학적 통찰이 중요하다

• 수학의 성과는 아무도 이해하지 못하는 증명으로 문제를 끝내는 데 그치지 않는다. 증명에서 어떤 통찰을 얻고, 그 통찰이 사람에게 어떤 의미를 갖는지가 중요하다. [05:04]
• 브록먼에 따르면 해결된 중요한 미해결 문제 약 400개가 공개됐고, 수학계가 그 안의 통찰을 검토하고 있다. 일부 분야 전문가들은 기존 아이디어나 결과를 예상 밖의 방식으로 적용한 점에 주목하고 있다. [05:33]

4. AI 간 비판은 사람이 어려운 결과를 감독하는 수단이 된다

• AI가 문제를 해결하는 능력뿐 아니라 사람이 더 많이 알고 이해하도록 돕는 능력도 중요하다. AI가 무엇을 하는지 사람이 이해할 수 있어야 한다는 요구는 안전성과 정렬 문제에도 연결된다. [06:52]
• 토론과 반복적 증폭은 사람이 직접 검증하기 어려운 과제를 감독하기 위한 기법이다. 책을 읽지 않은 사람이 요약의 품질을 판단하기 어려운 것처럼, 결과만 받아서는 정확성을 확인하기 힘든 문제가 있다. [07:26]

5. 수학의 성과를 다른 과학으로 옮기는 관건은 데이터다

• 수학의 발전에는 모델의 지능 향상과 쉽게 정답을 확인할 수 있는 산술 문제를 이용한 훈련이 기여했다. 그러나 현재 다루는 문제를 단순히 검증 가능한 문제로만 설명하기는 어렵다. [09:38]
• 형식화된 증명은 검증할 수 있지만, 실제로 생성하는 자연어 증명이 정확한지 확인하는 일은 훨씬 어렵다. 따라서 수학의 성과를 검증 용이성 하나로 설명할 수는 없다. [10:04]

6. 신약 개발의 병목은 분자 설계 이후에도 길게 계속된다

• 생물학에 같은 모델과 기법을 적용하면 일부 작업은 빠르게 쉬워지겠지만, 다른 병목은 남을 수 있다. 임상시험 관련 규제 제출 자료를 작성하는 데 약 1년이 걸리는 문제처럼, 생물학 이론과 직접 관련 없는 절차도 AI로 개선할 대상이다. [11:13]
• 필요한 기초 데이터 자체가 없는 구간에서는 실험실과 시뮬레이션 방식의 혁신이 중요해진다. 수학과 생물학은 과학적 발견이라는 공통점이 있지만, 데이터를 얻는 방식은 다르다. [11:59]

7. 생물학의 언어를 학습하고 기존 치료 지식을 연결한다

• 브록먼은 삶의 질을 높이는 효과를 고려할 때 신약 개발을 가장 우선적으로 혁신할 분야로 본다. 인간은 자연어에 익숙하지만 생물학에는 그렇지 않으며, 신경망이 자연어보다 생물학을 본질적으로 더 못할 이유는 없다는 가설을 제시한다. [13:11]
• 자연어에서 확인한 신경망의 성과를 근거로 생물학의 언어도 풀어낼 수 있다고 기대한다. 개발 과정의 병렬성을 높이고 여러 단계의 소요 시간을 줄일 가능성도 제시한다. [14:02]

8. 규제 개편은 예측 성능의 입증과 장기 검증에 달려 있다

• 신약 개발의 조건이 실제로 바뀌었다는 사실을 입증한다면 규제와 시스템 전반도 바뀌어야 한다는 입장이다. 자율주행차가 사람보다 훨씬 안전해진다는 가정 아래 교통체계를 재설계할 수 있다는 비유로 이를 보여준다. [15:51]
• 임상시험 규제는 국가마다 다르며, 브록먼에 따르면 개발자들은 원하는 시험 방식에 더 적합한 규제 환경을 찾아 이동하고 있다. 구체적인 제도 변화는 AI가 무엇을 실제로 입증할 수 있는지에 달려 있다. [16:52]

9. Dots는 업무 맥락을 통합하는 상시 에이전트다

• Dots는 사용자가 일을 멈춘 뒤에도 계속 작동하는 선제적 에이전트다. 브록먼은 보내기로 한 메시지나 아직 이행하지 않은 약속을 찾아 아침에 할 일 목록으로 받는다고 보여준다. [18:46]
• 일정 충돌과 다음 약속을 위한 조기 퇴장 필요성도 찾아낸다. 이메일, Slack, 진행 중인 프로젝트와 사용자의 질문을 함께 활용해 현재 관심사와 업무 맥락을 파악한다. [19:11]

10. 소비자용과 업무용 AI의 차이는 비용과 연산 투입에서 커진다

• 대중적인 소비자 서비스는 무료 또는 낮은 가격으로 대규모 이용자를 지원해야 한다. 업무용 서비스는 추가 비용보다 생산성 향상이 크다면 더 높은 지능과 더 많은 연산을 사용하는 선택이 가능하다. [20:32]
• ChatGPT 무료 이용자 전체에 메모리를 제공하는 일은 대규모 엔지니어링 과제였지만, 소수에게 높은 비용으로 같은 기능을 제공하는 일은 상대적으로 쉽다는 설명이다. 시장별 연산 투입량 차이가 제품 기능의 차이로도 이어질 수 있다. [21:11]

11. 소비자·기업 서비스의 통합과 창업 장벽 하락이 맞물린다

• 브록먼은 소비자용과 기업용 AI 사이에 근본적인 차이는 없다고 본다. ChatGPT 소비자 12억 명과 코딩·기업 사업을 함께 보유한 기반을 활용해 두 영역을 통합하는 것이 OpenAI 전략의 일부라고 보여준다. [21:58]
• 신뢰할 수 있는 AI가 기존의 진입장벽을 처리해 줄 수 있다는 판단으로 직장을 떠나 창업하는 사례가 나타나고 있다. 이런 변화가 소비자와 기업 사이에 오래 유지된 구분을 흐릴 것으로 전망한다. [22:34]

12. 인터페이스가 줄어들수록 기업의 권한과 제한을 드러내기 어려워진다

• 브록먼은 가장 좋은 UI를 별도의 UI가 필요 없는 상태로 본다. 사용자는 음성, Slack, iMessage, 전화처럼 익숙한 접점에서 에이전트와 대화할 수 있으며, Dots에서도 이런 접근이 가능하다고 보여준다. [23:37]
• 기업 환경에는 사용자 외에도 관리자와 보안팀 등 여러 이해관계자가 있다. 기업은 새 기능의 도입 시점을 통제하려 하므로 관리자 설정에 따라 사용 가능한 기능이 달라질 수 있다. [23:57]

13. 응답의 깊이와 화면을 사용자의 순간적 필요에 맞춘다

• 브록먼에 따르면 GPT-6는 빠른 답을 먼저 제공한 뒤 계속 생각해 더 정확하고 충분한 답을 줄 수 있다. 과제에 따라 얼마나 깊이 생각할지를 조절하는 능력이 개선되고 있다는 설명이다. [25:44]
• 생성형 UI는 고정된 버튼과 메뉴를 익히게 하는 대신 결과에 맞는 화면을 즉석에서 만든다. 항공권 예약처럼 여러 선택지를 비교해야 하는 작업에서는 복잡한 시각적 인터페이스가 유용하다. [25:59]

14. 공격 역량이 확산되기 전에 방어자가 활용할 시간이 있다

• 브록먼은 현재를 최첨단 AI로 방어 체계를 강화할 수 있는 ‘방어자의 창’으로 규정한다. 동시에 모델이 출시될 때마다 누구나 접근할 수 있는 사이버 역량도 높아지고 있다고 본다. [27:18]
• 브록먼에 따르면 한국에서는 여러 모델을 활용한 은행 대상의 주목도 높은 해킹 사례가 발생했다. 이런 영향이 나타나기 시작한 만큼 방어자는 현재의 시간을 활용해야 한다는 주장이다. [27:43]

15. Daybreak는 기존 코드의 취약점을 찾고 고치는 데 초점을 둔다

• OpenAI는 Daybreak 프로그램을 통해 방어자에게 고성능 모델을 책임 있게 제공하고, 시스템의 취약점을 발견하고 수정하도록 지원하고 있다고 보여준다. [28:06]
• 점검 대상은 이미 코드에 존재하던 결함이다. 사람이 작성한 각 코드가 안전한지, 개발자가 필요한 보안 훈련을 받았는지를 다시 물어야 한다는 문제의식으로 계속된다. [28:21]

16. 인터넷에 누적된 보안 부채와 AI를 통한 개선 가능성

• 핵심 인프라가 소수 오픈소스 개발자에게 의존하는 구조와 Heartbleed 같은 취약점은 AI 이전부터 존재했다. 초기 웜과 바이러스가 등장한 뒤 백신과 통신 암호화를 보강했듯, 인터넷은 보안을 사후에 추가해 왔으며 이제 그 기술 부채를 해소해야 하는 시점이라는 진단이다. [29:44]
• OpenAI는 일선 방어자가 모델을 확보하고 방어에 활용하도록 10억 달러 규모의 지원을 약속했다. 취약점 발굴과 함께 사고 대응 조율, 정부·커뮤니티와의 협력도 추진한다. [30:13]

17. 새 모델마다 반복하는 취약점 점검과 안전한 코드 생성

• OpenAI는 프로덕션 엔지니어 약 25%의 기존 프로젝트를 중단하고 보안에 집중하도록 했다. 당시 최고 성능 모델로 인프라를 공격자 관점에서 점검하고 반복 실행용 도구를 구축했으며, 발견한 문제를 수정한 뒤 해당 모델이 추가로 찾아낼 수 있는 문제가 더 나오지 않는 수준에 도달했다. [31:25]
• 새로운 모델이 나오면 같은 점검과 수정 과정을 다시 수행해야 한다. 동시에 모델이 처음부터 안전한 코드를 작성하도록 훈련하고 있으며, AI를 적절히 활용하면 시스템 자체의 보안 수준을 근본적으로 높일 수 있다는 기대다. [31:53]

18. 공격과 방어의 과도기, 조직별 대응 역량의 중요성

• 진행자는 코드베이스의 보안 개선이 따라잡기 전까지 공격과 사고가 늘고, 이후 방어가 따라붙는 과도기가 나타날 가능성을 제시한다. 이는 업계에서 들은 견해를 바탕으로 한 전망이며, 확정된 경로로 제시되지는 않는다. [32:22]
• 브록먼은 대응할 기회가 영원히 지속되지는 않으며, 조직의 보안이 기본적인 보안 조치뿐 아니라 방어에 투입한 사이버 역량 수준에도 좌우될 것으로 본다. 방어자가 공격자를 앞설 가능성은 있지만, 조직 운영 방식의 변화와 중요 인프라에 대한 공동 대응, 자원이 부족한 주체에 대한 지원이 필요하다. [33:20]

19. 저렴해지는 소프트웨어와 커지는 보안·공급망 투자의 가치

• 브록먼은 자신의 판단이 틀릴 수 있음을 전제하면서도 보안 지출이 소프트웨어 지출을 크게 넘어야 한다고 본다. 소프트웨어 제작 비용이 낮아질수록 단순한 기능 구현보다 신뢰성·보안·복원력이 더 중요한 가치가 된다는 논리다. [34:55]
• 소수 유지관리자에게 의존하면서도 공급망을 충분히 감사하지 않는 구조는 악성 패키지 하나가 여러 기업에 피해를 주는 위험으로 계속된다. 전문인력 부족이 개선을 제약해 왔으며, Socket 같은 공급망 검사 도구는 취약점과 프로젝트 인수 이후의 악성 변경 등을 찾아내는 대응 생태계의 사례다. [36:03]

20. AI의 능력이 커져도 인간의 판단과 통제권을 유지해야 한다

• 브록먼은 AGI가 모든 인류에게 이익을 주도록 한다는 사명에서 인간이 핵심이라고 강조한다. 인간이 미래에 대한 통제권을 갖고, AI가 인간의 주도성과 선택권을 확대해야 한다는 원칙이다. [37:17]
• 모델의 능력은 고르지 않으며 이미 일부 영역에서는 인간을 넘어선다. 그럼에도 인간의 판단과 가치가 방향을 정해야 하며, 향후 일부 분야에서 인간의 역할이 CEO나 이사회 구성원처럼 바뀌더라도 실질적인 결정권은 유지되어야 한다. [38:17]

🧾 결론

• AI의 파급력은 개별 작업의 자동화를 넘어 발견·개발·방어 과정 전체를 얼마나 개선하는지에 달려 있다.
• 신약 개발에서는 데이터와 장기 검증이, 사이버보안에서는 반복 점검과 조직의 대응 역량이 성과를 좌우한다.
• 브록먼의 전망은 인간이 더 많은 일을 이해하고 수행하도록 돕는 AI를 지향한다. 최종 판단 기준은 인간의 선택권과 삶의 질이 나아지는지다.

📈 투자·시사 포인트

• 보안 지출의 가치 변화: 소프트웨어 제작 비용 하락이 보안 수요 감소로 이어진다고 보기 어렵다는 관점이다. 취약점 수정, 공급망 감사, 사고 대응, 복원력에 대한 수요를 함께 살펴볼 필요가 있다.
• 신약 개발의 성과 평가: 분자 후보 생성 능력과 함께 데이터 확보, 임상 진행, 규제 업무에서 실제 시간과 비용을 줄였는지 확인하는 접근이 필요하다.
• 업무용 에이전트의 경제성: 높은 연산 비용을 감수할 만큼 생산성이 개선되는지가 핵심이다. 업무 맥락 통합과 기업의 권한 통제도 제품 평가 요소가 된다.
• 보안 생태계의 실행력: 고성능 모델의 제공만으로 충분한지, 인력과 자원이 부족한 조직까지 취약점 수정과 대응을 실행할 수 있는지 살펴봐야 한다.

⚠️ 불확실하거나 확인이 필요한 부분

• 수학의 미해결 문제 약 400개와 100년 된 문제 해결은 브록먼의 설명에 근거한다. 개별 문제의 중요도, 해결 인정 여부, 증명의 정확성은 원문과 전문가 검토를 확인해야 한다.
• 신약 개발 약 15년·15억 달러와 단계별 비용·기간은 진행자가 제시한 수치다. 산정 범위와 대표성이 제공된 자료만으로 확인되지는 않는다.
• 신경망이 생물학의 언어를 풀고 개발 기간을 줄일 수 있다는 설명은 가설과 전망을 포함한다. 자료에서도 실제 임상시험보다 더 나은 결과를 제공하는 단계에는 아직 도달하지 않았다고 밝힌다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 수학 성과의 원문과 검토 자료를 찾아 문제 해결 여부와 사람이 얻은 통찰을 구분해 정리한다.
• 신약 개발 과정을 데이터·실험·임상·규제 제출로 나누고, AI 적용 전후의 시간·비용·검증 결과를 확인한다.
• 현재 코드와 소프트웨어 공급망의 취약점 점검·수정 현황을 확인하고, 새 모델 도입 시 재점검할 절차를 마련한다.
• 상시 에이전트의 업무 효과를 미이행 약속 탐지, 일정 충돌 발견, 절약 시간으로 평가하고 관리자 권한과 기능 제한의 전달 방식도 점검한다.

❓ 열린 질문

• AI의 수학적 발견을 생물학으로 확장할 때 데이터 확보와 실제 실험 중 어느 병목이 더 오래 남을까?
• 임상 예측 성능이 개선되더라도 장기 예후 검증에 필요한 시간을 얼마나 줄일 수 있을까?
• 공격 역량이 확산되기 전에 자원이 부족한 조직까지 방어 수준을 높이려면 어떤 지원과 운영 변화가 필요할까?