AI Fundamentals with Mihail Eric, Head of AI Monaco

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

AI Fundamentals with Mihail Eric, Head of AI Monaco를 중심으로, 딥러닝의 재도약은 알고리즘·GPU·대규모 데이터의 결합에서 나왔다. 트랜스포머와 다음 토큰 예측은 방대한 텍스트로 언어 모델을 학를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. 딥러닝의 재도약은 알고리즘·GPU·대규모 데이터의 결합에서 나왔다. 트랜스포머와 다음 토큰 예측은 방대한 텍스트로 언어 모델을 학습하는 기반이 됐다.
2. 사전 학습은 문장을 이어 쓰는 능력을 만들고, 지도 미세조정은 요청과 결과물의 대응을 익히게 한다. 인간 선호를 반영하는 정렬 학습과 추론 강화학습은 유용한 응답과 여러 단계의 문제 해결로 능력을 확장한다. 추론 시점에 연산을 더 투입하는 방식도 어려운 과제의 성능 개선에 기여한다.
3. 에이전트는 모델에 지시·도구·실행 루프를 결합한 시스템이며, 하네스는 작업 순서와 도구 호출을 조율한다. 스킬은 재사용 가능한 절차를 제공하지만 필요할 때 호출되는지 확인해야 한다. 소비자용 에이전트에는 기억, 예약 실행, 익숙한 메신저 채널과의 연결도 중요하다.
4. 이미지·영상 생성은 조건에 맞춘 노이즈 제거를 활용하고, 음성 생성은 화자·감정 등 풍부한 조건을 음성 파형으로 변환한다. 로보틱스는 물리적 행동까지 확장하지만 시연 데이터와 하드웨어 비용의 제약이 남아 있다. 이들 응용을 뒷받침하는 인프라는 데이터·컴퓨팅·모델 개발·추론 서빙으로 구성된다.
5. 사업 기회는 분야별 고객 업무를 이해하고 그 흐름을 에이전트로 구현하는 데서 나온다. 토큰 사용량과 과업 완수에 따른 과금이 중요해지는 가운데, 고객 현장에서 제품을 맞추는 FDE의 역할도 커진다. 모델 개선과 하네스 개선 중 어디에 투자할지, 가격과 수익성을 어떻게 조정할지는 열린 문제다.

🧩 배경과 문제 정의

• 오늘날의 LLM과 에이전트는 갑자기 등장한 기술이 아니라, 딥러닝·트랜스포머·후속 학습·추론 모델이 축적되며 발전한 결과다.
• 문장의 다음 부분을 예측하는 모델을 실제 업무 수행 시스템으로 바꾸려면, 지시를 따르는 학습과 인간 선호 반영, 여러 단계의 행동을 익히는 과정이 필요하다.
• AI의 실용성과 확산에는 모델 성능뿐 아니라 사용하기 쉬운 인터페이스, 도구 접근, 작업 절차와 실행을 관리하는 구조가 함께 영향을 준다.

🕒 시간순 섹션별 상세정리

1. 딥러닝의 재도약을 만든 알고리즘·GPU·데이터의 결합

• 신경망을 연구하는 딥러닝의 핵심 기법은 일부가 1950년대부터 연구됐고 1990년대에도 상당히 발전해 있었다. 2012~2016년의 확산은 기존 기술이 새로운 조건과 결합한 재도약이었다 [04:27]
• 새로운 가중치 초기화 기법에 더해, 게임용 소비자 GPU를 딥러닝 연산에 적용할 수 있게 되면서 신경망 학습에 필요한 계산 능력이 확보됐다 [05:29]

2. 트랜스포머와 다음 토큰 예측이 대규모 언어 학습의 기반이 되다

• 2017년 구글 연구진의 「Attention Is All You Need」에서 등장한 트랜스포머는 현대 LLM의 핵심 구조가 됐다. 다음 토큰 예측은 앞선 텍스트를 바탕으로 이어질 내용을 예측하는 학습 목표다 [08:33]
• “The customer signed the” 뒤에는 contract, agreement, deal 등 여러 후보가 가능하다. 모델은 다음 토큰의 확률 분포를 학습하고, 예시에서는 contract로 문장을 이어 간다 [09:28]

3. ChatGPT의 확산에는 후속 학습과 인터페이스가 함께 작용했다

• 2022년 등장한 ChatGPT는 대규모 언어 모델을 다양한 작업에 활용하는 전환점이었다 [10:50]
• 후속 학습과 인간 피드백 기반 강화학습인 RLHF를 결합하면서, 단순히 다음 토큰을 이어 쓰는 모델이 질문에 응답하고 요청된 작업을 수행하는 방향으로 발전했다 [11:34]

4. 추론 모델이 복잡한 다단계 작업의 가능성을 넓혔다

• 2024년경 등장한 OpenAI o1은 초기의 주요 추론 모델로 꼽힌다. 추론 모델의 발전은 에이전트가 여러 단계의 작업을 수행할 수 있게 되는 기반과 연결된다 [13:12]
• 추론 모델은 기존 트랜스포머를 새로운 방식으로 학습시키며, 검증 가능한 보상과 추론 시점의 연산량, 강화학습이 핵심 개념으로 드러난다 [13:21]

5. 추론 시점에 더 많은 연산을 쓰면 어려운 문제의 성능이 높아진다

• 테스트 타임 컴퓨트는 모델이 답을 내는 과정에 더 많은 연산과 시간을 투입하는 개념이다. 모델이 더 오래 ‘생각하도록’ 학습하고 실행하면 작업 성능을 높일 수 있다는 관찰에 기반한다 [14:15]
• 투자 메모를 바로 작성하는 대신 구조를 정하고, 필요한 조사를 수행하고, 내용을 채우는 단계를 거치게 하면 더 나은 결과를 얻을 수 있다 [14:41]

6. 사전 학습은 방대한 데이터에서 문장을 이어 쓰는 능력을 만든다

• 프롬프트는 모델에 주는 입력이다. 예시 과제는 가상의 시드 단계 기업 Closed AI를 위한 투자 메모 작성이며, 사전 학습에는 위키피디아·디지털 도서·Common Crawl 같은 대규모 데이터가 활용된다 [16:57]
• 사전 학습의 핵심은 다음 토큰을 반복해서 예측하는 것이다. 앞선 내용을 바탕으로 다음 토큰을 맞히는 과정을 통해 데이터의 패턴을 학습한다 [17:14]

7. 지도 미세조정은 요청과 결과물의 대응 관계를 학습시킨다

• 후속 학습은 사전 학습 이후의 여러 기법을 포괄한다. 그중 지도 미세조정은 입력과 원하는 출력의 쌍을 학습 자료로 사용한다 [18:14]
• 투자 메모 요청에는 완성된 메모를, 스프레드시트 요청에는 해당 결과물을 연결해 제공한다. 모델은 이런 예시에서 요청에 맞는 출력 형태를 모방하는 법을 익힌다 [18:36]

8. 정렬 학습은 인간의 선호에 맞춰 응답의 유용성을 높인다

• 정렬은 모델의 출력을 인간이 원하는 방향에 더 가깝게 만드는 과정이다. 두 응답 중 어느 쪽을 더 선호하는지 선택하는 데이터가 학습에 활용된다 [20:03]
• 투자 메모 예시에서는 실리콘밸리 벤처 투자자와 DPI를 고려한 응답으로 구체화된다. 문서 형식뿐 아니라 투자자가 궁금해할 수익 가능성에 맞추는 것이 응답의 유용성을 높인다 [20:43]

9. 추론 강화학습은 환경 안에서 행동하고 보상받는 과정을 익힌다

• 추론 강화학습에는 에이전트가 행동하고 결과로부터 학습할 수 있는 환경이 필요하다. 이 환경은 세계의 작은 일부처럼 구성되며, 어떤 행동에 보상을 줄지는 설계자가 정한다 [21:19]
• 투자 메모 작성에서는 웹 조사, 비교 기업 분석, Crunchbase와 PitchBook 같은 투자 정보원 탐색, 결과 통합과 요약이 연속된 작업이 된다. 목표는 이런 단계를 거쳐 투자 파트너들이 만족할 만한 메모를 만드는 것이다 [21:46]

10. 에이전트와 하네스는 목표를 실행하는 시스템을 구성한다

• 에이전트는 핵심적으로 LLM 같은 모델에 지시, 도구, 실행 루프를 결합한 구조다. 사용자는 “메모를 만들어 달라” 같은 프롬프트로 목표를 지정한다 [23:09]
• 하네스는 목표를 실행하는 여러 단계를 조율하는 구조다. 모델이 어떤 도구를 호출하고 어떤 순서로 작업을 진행할지 관리하는 역할을 한다 [23:37]

11. 지시·스킬·컨텍스트 구성이 모델의 행동을 구체화한다

• 검색, 코드 실행, 그래프 생성 같은 도구는 LLM이 텍스트 응답을 넘어 실제 작업을 할 수 있게 한다 [23:48]
• 시스템 프롬프트는 모델에 주는 행동 지침의 모음이며, 스킬은 특정 상황에서 사용할 절차를 담은 프롬프트다. 둘 다 모델의 행동을 구체적으로 규정하는 데 쓰인다 [24:35]

12. 제품 관리 스킬은 재사용 가능한 작업 절차를 파일로 제공한다

• 제품 관리 플러그인은 여러 스킬의 묶음이다. 시연의 플러그인에는 총 8개 스킬이 있으며, 명세 작성·제품 브레인스토밍·지표 검토·리서치 종합 같은 개별 역량을 포함한다 [26:19]
• 제품 브레인스토밍 스킬의 핵심은 skill.md라는 텍스트 파일이다. 파일에는 호출 시 LLM이 수행해야 할 행동과 제품 아이디어를 함께 발전시키는 절차가 적혀 있다 [26:59]

13. 외부 도구 연결은 에이전트의 실제 접근 범위를 결정한다

• 도구는 LLM이 외부 세계와 상호작용하게 하는 하네스의 중요한 구성 요소다. 제품 관리자에게는 Slack, Linear, Asana, Atlassian, Notion, Figma 같은 서비스가 유용한 연결 대상이 될 수 있다 [27:30]
• 화면에 도구 후보가 보인다고 해서 모두 사용할 수 있는 것은 아니다. 시연에서는 관련 플러그인을 전부 불러오지 않았으므로 모든 도구에 접근할 수 있다고 볼 수 없으며, 필요한 연결을 제공해야 에이전트가 활용할 수 있다 [27:45]

14. 스킬은 필요에 따라 동적으로 불러오지만 명시적 요청이 필요할 수 있다

• 레모네이드 가판대 아이디어를 만들어 달라는 단순한 요청에서는 스킬을 거의 사용하지 않았다. 작업이 모호할 때는 제품 관리자처럼 생각하라는 지시 등으로 원하는 접근 방식을 더 구체화할 필요가 있다 [28:50]
• 시연에서는 스킬을 사용하라고 명시적으로 요청한 뒤 관련 절차가 불러와졌다. 이처럼 익숙한 과제는 사전 학습에서 얻은 지식만으로도 처리할 수 있어 스킬 호출이 생략됐을 가능성이 있다 [29:32]

15. 스킬이 행동 방식을 정하고 하네스가 실행을 조율한다

• 스킬을 언어 모델의 문맥에 넣으면 제품 관리자처럼 아이디어에 반론을 제기하고 질문하는 사고 파트너 역할이 활성화된다. 질문과 반론은 시장 공략 전략을 더 구체적으로 만드는 데 쓰인다 [29:53]
• 도구는 필요할 때 Slack 같은 외부 시스템의 데이터를 가져오고, 하네스는 스킬 호출 시점과 결과 취합을 조율해 문제 해결에 필요한 정보를 결합한다 [30:35]

16. 분야별 전문성을 결합한 에이전트가 업무 자동화 기회를 만든다

• 영업 같은 특정 분야의 전문가 지식을 에이전트 시스템과 결합하면 업무 흐름을 정밀하게 다룰 수 있고, 일부 업무는 완전히 자동화할 가능성이 있다 [31:45]
• 코딩은 에이전트 시스템과 추론 모델의 결합으로 큰 성과를 얻은 초기 분야다. 법률의 Harvey·Lora, 영업의 Monaco·Revo, 고객 지원의 Sierra·Decagon도 특정 분야의 업무를 해결하는 접근을 따른다 [32:08]

17. 실제 업무를 포착한 뒤 에이전트로 구현하는 개발 방식

• 초기 플랫폼이 반드시 높은 지능을 갖출 필요는 없다. 먼저 사용자가 과업을 수행하는 방식을 기록하고 관찰해 분야별 업무 흐름을 파악하는 것이 출발점이다 [33:15]
• 플랫폼에서 파악한 업무 흐름을 에이전트로 구현하고, 도구·스킬·프롬프트로 구성된 하네스에 언어 모델 또는 여러 모델을 결합하면 사업적 가치를 만들 수 있다 [33:29]

18. 소비자용 에이전트에는 기억과 일상 채널 연결이 필요하다

• 소비자용 에이전트는 추론 능력과 스킬에 더해 세션 사이, 나아가 플랫폼 사이에서도 사용자 맥락을 유지하는 지속성과 기억이 필요하다 [34:42]
• 트리거와 예약 실행, 문맥 관리는 플랫폼 차원의 기능이다. 사용자가 매번 직접 요청하지 않아도 필요한 시점에 작업을 수행할 수 있도록 실행 기반을 갖춰야 한다 [35:07]

19. 토큰 사용량과 업무 성과가 새로운 과금 기준이 된다

• 토큰은 대략 단어에 비유할 수 있지만 단어와 정확히 일치하지는 않는다. AI 작업의 비용·복잡성·처리 속도를 생각하는 새로운 단위이며, ‘토큰 맥싱’은 에이전트를 집중적으로 사용해 토큰 소비를 늘리는 현상을 가리킨다 [36:24]
• 코딩 에이전트가 소프트웨어의 초기 버전을 빠르게 만들면서 소프트웨어 자체의 차별성이 약해지고 있다. 이에 따라 전통적인 좌석별 구독료 외에 토큰 소비량에 비례하는 사용량 과금이 중요해진다 [37:27]

20. 시각 생성은 프롬프트에 맞춰 노이즈를 제거한다

• 이미지·영상 생성의 주요 기술인 확산 트랜스포머는 트랜스포머와 확산 기법을 결합한다. 모델은 이미지 또는 여러 이미지에 있는 노이즈를 제거하는 과정을 학습한다 [39:42]
• ‘현대적인 강당’ 같은 요청을 조건으로 주면 통계적으로 무작위인 노이즈에서 요청에 맞는 이미지를 만들어 간다. 이 조건부 노이즈 제거와 트랜스포머의 결합이 현대 시각 생성 시스템을 구동한다 [40:18]

21. 음성 생성은 풍부한 입력을 소리의 파형으로 변환한다

• ElevenLabs·Fish Audio 같은 음성 생성 시스템은 사람처럼 들리는 음성을 만들고 말투나 억양을 조정한다. 기본 구조는 트랜스포머지만 입력이 텍스트에만 한정되지 않는다 [41:03]
• 수백만 시간 규모의 오디오로 학습하며, 텍스트 요청과 함께 화자 정체성·감정·말하기 속도 같은 조건을 입력할 수 있다 [41:44]

22. 로보틱스의 가능성은 커지지만 데이터와 비용 제약이 남는다

• 로보틱스는 상승 추세지만 결정적인 돌파구에 도달했다고 보기는 어렵다. 비전·언어·행동 모델은 시각과 언어 정보를 결합해 물리적 행동 또는 그 표현을 출력하지만, 기초 기술에도 여전히 많은 작업이 필요하다 [42:44]
• 캔 열기나 빨래 정리 같은 행동의 시연 데이터를 충분히 확보하는 문제가 오랫동안 병목이었다. 합성 데이터와 기존 데이터를 보강하는 대안이 등장하면서 학습 데이터의 제약은 일부 완화되고 있다 [43:40]

23. AI 인프라는 데이터부터 모델 서비스까지 여러 층으로 구성된다

• AI 인프라는 현재와 다음 세대 AI를 가능하게 하는 기반이며, 약 2조 달러의 경제적 가치를 가진 영역으로 평가된다. 응용 서비스가 작동하도록 필요한 자원과 기술을 공급하는 사업 기회가 크다 [46:08]
• 인프라의 주요 층은 추론 제공업체가 담당하는 서빙, 프런티어 연구소와 신생 연구소의 모델 개발, 그 아래의 데이터와 컴퓨팅이다. 이 구성 요소들이 에이전트와 AI 제품을 뒷받침한다 [46:56]

24. 과업별 데이터와 강화학습 환경은 가치가 크지만 고객이 집중돼 있다

• 이미지 분류에서 약 100만 개의 라벨링된 이미지가 중요했던 것처럼, 모델이 특정 과업을 배우도록 만드는 데이터에도 큰 가치가 있다. 수학 문제 풀이·세금 처리·코딩 등에서는 수행 방법을 보여 주는 시연 데이터가 필요하다 [47:28]
• 강화학습 환경은 에이전트가 시행착오로 과업을 배우는 통제된 공간이다. 반드시 물리적 공간일 필요는 없으며, 법률 업무에서는 PDF 자료와 Gmail·Excel 같은 도구에 접근할 수 있는 데이터룸이 환경이 될 수 있다 [48:36]

25. 네오클라우드는 AI 전용 컴퓨팅을 제공하지만 자본 부담이 크다

• 네오클라우드는 GPU 클러스터와 AI에 최적화된 컴퓨팅 인프라를 제공한다. AWS·Azure·Google Cloud 같은 범용 클라우드와 달리 AI 용도를 중심으로 사업 기반을 구축한다 [50:42]
• GPU 구매와 주기적인 교체 때문에 초기 설비 투자와 지속적인 자본 지출이 크다. 모델 학습에 대한 고객의 높은 지불 의사는 수익 기회를 만들지만, 클라우드 사업의 투자 부담도 함께 따른다 [51:12]

26. 추론 제공업체는 대형 모델을 빠르고 경제적으로 서비스한다

• 초대형 모델은 메모리 요구량 때문에 일반 소비자 기기에서 실행하기 어렵다. 추론 제공업체는 대규모 장비와 소프트웨어를 활용해 응답 지연과 서비스 비용을 낮추고 모델을 사용할 수 있게 한다 [51:58]
• 비공개 가중치 모델은 모델 자체 대신 인터페이스에 접근하게 한다. 공개 가중치 모델은 매개변수에 접근하고 모델 일부를 수정할 수 있으며, 추론 제공업체는 이런 공개 모델을 호스팅하는 역할도 맡는다 [52:39]

27. 범용 모델과 공개 가중치 모델은 서로 다른 강점과 제약을 가진다

• 프런티어 연구소와 신생 연구소는 범용 모델의 학습과 상용화를 추진한다. 일부는 텍스트를 넘어 다른 분야의 모델을 개발하며, 토큰 기반 과금과 분야별 연구를 중심으로 기존 주요 업체와 경쟁한다 [53:37]
• 공개 가중치 모델은 맞춤화와 독점 완화의 가능성을 가진다. 특정 과업에 특화된 작은 모델은 이상적인 경우 더 저렴하고 빠를 수 있지만, 법률에 특화된 모델이 범용 모델의 모든 업무를 수행할 수 있는 것은 아니다 [55:06]

28. 모델의 지능과 하네스의 업무 구현 중 투자 우선순위는 열려 있다

• 모델은 지능 계층이고, 하네스는 스킬·도구·프롬프트 등 모델 주변의 실행 구조다. 새로운 학습 방법으로 모델 자체를 개선할지, 더 많은 업무 흐름을 하네스에 구현할지에 따라 성과의 원천과 투자 방향이 달라진다 [57:17]
• 수직형 AI 사업에서는 분야별 업무를 하네스에 담는 데 큰 가치가 있다는 입장이다. Monaco는 영업 업무에 특화된 흐름을 구축하지만, 모델과 하네스 중 어느 쪽이 더 큰 개선을 만드는지는 이 구간에서 결론 나지 않은 문제로 남는다 [57:49]

29. 지능 계층과 워크플로 사이의 투자 선택, 기억의 제품화

• 새로 출발하는 기업은 시간과 자금을 지능 계층 개발에 투입할지, 지능을 둘러싼 업무 흐름을 만드는 데 투입할지 판단해야 한다. 이 구분은 혁신 자원의 배분과 사업 방향에 직접 연결된다. [58:22]
• 기억과 지속 학습의 과제는 과거 상호작용과 수정 내용을 이후 응답에 활용하고, 사용자에 대한 이해를 축적하는 것이다. 같은 요구를 반복해서 입력하는 부담을 줄이려면 기억을 제품 안에서 어떻게 표현하고 활용할지 설계해야 하며, 이를 해결하려는 기업들이 등장하고 있다. [59:04]

30. 자율 에이전트의 보안 위협과 책임 추적

• 강력한 에이전트는 보호된 시스템을 침범하는 새로운 보안 위협을 만든다. 허위 정보가 사회적 담론에 유입되는 문제까지 포함하면, 보안의 범위는 기술적 침해를 넘어선다. [59:25]
• 시스템이 잘못 작동했을 때 원인을 추적하고 핵심 문제를 수정하려면 해석 가능성과 책임 소재를 확보해야 한다. 에이전트가 정교해질수록 이런 요구도 커진다. [1:00:02]

31. 에이전트의 실력을 검증하는 데이터와 환경

• 에이전트가 특정 과제를 수행하는지뿐 아니라 얼마나 잘 수행하는지 판단하려면 더 많은 평가·검증 환경이 필요하다. [1:01:13]
• 이런 데이터와 환경을 최첨단 모델 연구소에 공급할 수 있다는 점이 데이터 제공 기업의 큰 매출과 높은 기업가치를 뒷받침한다. [1:01:27]

32. 전력과 데이터센터가 AI 확장의 병목이 될 가능성

• 일부 추정에 따르면 전 세계 사용자에게 모델을 제공할 데이터센터를 확충하려면 발전량을 거의 세 배로 늘려야 하며, 비용은 5조 달러 이상에 이를 수 있다. 이는 예상되는 AI 사용량을 감당하기 위한 규모다. [1:02:05]
• 장기 예측은 어렵지만 인프라 투자가 GDP의 수 퍼센트, 예컨대 3% 수준에 이를 가능성이 거론된다. 이 규모는 1800년대 철도 건설에 비견되며, 인터넷 인프라 확충보다 큰 투자로 묘사된다. [1:02:27]

33. 대규모 AI 보급이 높이는 도메인 전문성과 고객 이해의 가치

• 현재의 AI 수용 규모는 15년간의 경험에서도 전례 없는 수준이라는 평가다. 광범위한 채택은 더 많은 사람이 기술을 활용하고 직접 제품을 만드는 기회를 넓힌다. [1:02:59]
• GTM의 가치는 판매 활동에만 있지 않다. 자신만의 도메인 전문성으로 고객의 업무를 이해하고, 그 흐름에 맞춘 시스템을 만드는 능력이 큰 가치를 낼 수 있다. [1:03:32]

34. Jev의 저비용·고속 예측과 혁신성의 불확실성

• 자막에서 ‘Jev’로 불리는 모델은 프롬프트에 따라 토큰을 생성하는 LLM과 달리 입력을 받아 예측하는 방식으로 드러난다. 분류 과제에 가까운 동작을 하면서도 LLM보다 저렴하고 빠르다는 점이 관심을 끌었다. [1:05:43]
• 단순히 분류용 출력 계층이나 가중치를 바꾸는 것만으로는 그 정도의 비용과 속도 특성을 설명하기 어렵다는 판단이다. 이 특성들의 결합은 범용 분류 모델의 개선 가능성을 시사한다. [1:06:46]

35. 정보 과부하에 대응하는 선별적 학습과 반복 실험

• AI 분야에서 15년 이상 일했어도 모든 변화를 따라가기 어렵다. 신뢰할 수 있는 사람들이 만드는 고품질 뉴스레터를 일상에 포함하면, 무엇에 주의를 기울일지 선별하는 데 도움이 된다. [1:08:22]
• 비기술자도 LLM을 이용해 자유롭게 실험할 수 있으며, 웹앱을 30분 이내에 만드는 사례도 가능하다. 매일 새로운 내용을 하나 읽고 매주 도구 두세 개를 시험하는 습관은 실패한 실험과 실제 업무에 남길 도구를 구분하는 기반이 된다. [1:09:09]

36. 짧은 실무 경력에서도 찾을 수 있는 창업 문제

• 약 5년의 현장 경험도 의미 있는 사업과 경제적 가치를 만들기에 충분할 수 있다. 자신에게 익숙한 지식은 누구에게나 당연할 것이라고 생각하는 ‘전문가의 맹점’이 오히려 고유한 통찰을 과소평가하게 만든다. [1:10:24]
• 컨설팅이나 금융 업무에서 수작업이 많았던 일, 하기 싫었던 일, 반복적으로 어려움을 겪었던 일을 되짚으면 해결할 문제를 찾을 수 있다. 그 불편을 AI로 개선하는 데서 출발할 수 있다. [1:11:02]

37. 추론 시점의 연산 확대와 학습 환경 보강

• 추론 시점에 더 많은 생각 토큰을 사용하는 방식은 수학 능력을 10·20·30%포인트 높이는 효과와 연결된다. 이 접근의 한계까지 아직 도달하지 않았다는 판단이며, 추가 연구 여지가 크다. [1:11:51]
• 코딩 에이전트는 현재 가장 발전한 응용 분야로 평가되지만, 오늘날 Facebook 같은 시스템을 통째로 만들 수 있는 수준은 아니다. 그런 규모에 도달하려면 복잡한 코드베이스와 그 발전 과정을 배울 수 있는 데이터·환경이 필요하다는 견해다. [1:12:36]

38. 고객 현장에서 제품을 맞추는 FDE의 확대

• 현장 배치 엔지니어인 FDE는 제작자·제품 관리자·기술자의 역할을 결합해 고객 가까이에서 일한다. 고객에게 맞춤 솔루션을 만들거나, 사용 중 발견한 문제를 원래 제품의 개선에 반영한다. [1:15:46]
• 이 역할은 컨설팅의 성격도 지닌다. OpenAI와 Anthropic 등이 기업 고객 현장에 더 깊이 들어가고 관련 인력을 채용하는 움직임은 FDE의 가치와 성장 가능성을 뒷받침한다. [1:16:35]

39. 보조금 축소 이후의 가격과 수익성 조정

• AI 서비스가 최대 10배까지 보조받는다는 문제 제기가 있지만, 실제 비용과 가격의 격차는 기업 내부 정보 없이 판단하기 어렵다. Uber와 Lyft처럼 초기 보조금으로 시장을 키운 뒤 가격을 높이는 방식은 이전에도 있었다. [1:19:28]
• AI 기업이 상장하면 공개된 경제성과 일반 투자자에 대한 책임 때문에 수익성 검증이 강화되고, 현재의 보조금 구조도 조정될 수 있다는 개인적 전망이다. 다만 가격이 20달러에서 2만 달러로 뛴다고 보지는 않으며, 사용자가 감당할 수 있는 한계가 존재한다. [1:20:14]

40. 활용 사례의 지속성과 모델 제공업체의 고객 유지 문제

• AI 활용 사례에는 지속적인 수요가 있지만, 특정 모델 제공업체에 대한 고객 유지력은 별개다. Claude Code가 만족스럽지 않으면 하루 만에 Codex로 바꿀 수 있다는 예처럼, 모델 자체에는 강한 전환 장벽이 없다는 판단이다. [1:21:41]
• 제공업체가 산업별 업무와 워크플로에 깊이 들어가는 것은 고객 유지력을 확보하려는 방법으로 읽힌다. Harvey 같은 특정 산업에 특화된 기업을 인수할 가능성도 개인적 전망으로 제시되며, 실제 인수 여부는 확정되지 않았다. [1:22:08]

🧾 결론

• AI를 이해하려면 문장 예측 능력, 요청을 따르는 학습, 추론 능력, 업무 실행 구조를 구분해 볼 필요가 있다.
• 실제 제품의 유용성은 모델 성능과 함께 인터페이스, 도구 접근, 스킬, 기억, 실행 조율에 좌우된다.
• 고객의 반복 업무를 관찰하고 구현하는 도메인 전문성은 AI 제품을 만드는 중요한 자산이다.
• 에이전트의 확장에는 과업별 평가 환경, 보안, 책임 추적과 데이터센터·전력 기반이 함께 필요하다.

📈 투자·시사 포인트

• 수직형 AI 사업은 고객 업무에 깊이 들어갈수록 가치를 만들 가능성이 있다. 특정 모델에 대한 전환 장벽이 낮다는 설명을 고려하면, 업무 흐름과 고객 관계가 유지력을 만드는지 살펴볼 필요가 있다.
• 데이터·강화학습 환경 사업은 기회가 크지만 구매자가 주요 기업 6~10개에 집중됐다는 설명이 나온다. 매출 규모와 함께 고객 집중도와 수요의 지속성을 검토해야 한다.
• 네오클라우드와 추론 서빙은 AI 확산의 기반이다. GPU 구매·교체에 따른 자본 지출, 응답 지연, 서비스 비용을 함께 봐야 하며, 전력과 데이터센터 확충도 성장의 제약이 될 수 있다.
• 사용량 과금과 성과 기반 과금에서는 토큰 소비뿐 아니라 업무 완수와 제공 비용이 중요해진다. 보조금 조정 이후에도 고객이 감당할 가격으로 수익성을 확보할 수 있는지가 핵심 질문이다.

⚠️ 불확실하거나 확인이 필요한 부분

• AI 인프라의 약 2조 달러 가치, 발전량의 거의 세 배 확대, 5조 달러 이상의 비용, GDP 약 3% 수준의 투자 등은 영상에서 제시된 평가·추정이다. 산정 범위와 전제는 제공된 자료만으로 확인할 수 없다.
• 모델의 지능 개선과 하네스의 업무 구현 중 어느 쪽이 더 큰 성과를 내는지는 결론이 나지 않았다. 공개 가중치 모델의 비용·속도 이점도 특정 과업과 운영 조건에 따라 달라질 수 있다.
• 자막의 ‘Jev’는 내부 기술과 혁신성이 확인되지 않았다. 추론 연산 확대에 따른 성능 향상도 제시된 과제·벤치마크를 넘어 일반화하기에는 근거가 부족하다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 자신의 업무에서 반복되는 수작업과 어려운 과제를 하나 고르고, 현재 수행 순서와 필요한 자료·도구를 기록한다.
• 같은 과제에 직접 답변하는 방식과 계획·조사·통합 단계를 거치는 방식을 적용해 결과 품질, 처리 시간, 토큰 사용량을 비교한다.
• 필요한 도구가 실제로 연결돼 있는지 확인하고, 원하는 스킬이 호출되는지 관찰한다. 호출되지 않으면 사용할 절차를 명시해 다시 실행한다.
• 에이전트가 실패한 사례를 모아 과업 완수 여부와 결과 품질을 평가할 데이터·환경을 구성한다.

❓ 열린 질문

• 특정 업무에서 모델을 개선하는 것과 하네스에 업무 흐름을 더 정밀하게 구현하는 것 중 무엇이 더 큰 성과를 만드는가?
• 세션과 플랫폼을 넘는 기억을 제품에 어떻게 표현하고 활용해야 반복 입력을 줄일 수 있는가?
• 성과 기반 과금에서 과업의 성공과 품질을 어떤 평가 환경으로 검증할 수 있는가?