AI Canon

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

a16z의 ‘AI Canon’은 현대 AI를 이해하기 위해 영향력이 컸던 논문, 글, 강의, 실무 가이드, 시장 분석 자료를 단계별로 묶은 선별 참고 목록이다.

📌 핵심 요약

AI 연구와 출판 속도가 급격히 빨라지면서 전문가도 따라가기 어렵고 초보자는 출발점을 찾기 어렵다는 문제의식에서 출발한다.
글은 트랜스포머와 잠재 확산 모델에 대한 쉬운 입문 자료로 시작해, 딥러닝 기초와 LLM 기술 심화 자료로 이어진다.
LLM 애플리케이션을 실제로 만드는 데 필요한 프롬프트 엔지니어링, 보안, 벡터 검색, LangChain, OpenAI API, Hugging Face 자료도 별도로 정리한다.
Chatbot Arena와 Open LLM Leaderboard처럼 모델 성능을 비교하는 벤치마크 자료를 소개해 실무자가 모델 선택의 참고점을 얻을 수 있게 한다.
마지막으로 생성형 AI가 인프라, 모델, 애플리케이션, 예술, 게임, B2B, 금융, 소비자 시장에 미치는 영향을 다룬 a16z의 시장 분석 글들을 제시한다.

🧩 주요 포인트

AI 연구와 출판 속도가 급격히 빨라지면서 전문가도 따라가기 어렵고 초보자는 출발점을 찾기 어렵다는 문제의식에서 출발한다.
글은 트랜스포머와 잠재 확산 모델에 대한 쉬운 입문 자료로 시작해, 딥러닝 기초와 LLM 기술 심화 자료로 이어진다.
LLM 애플리케이션을 실제로 만드는 데 필요한 프롬프트 엔지니어링, 보안, 벡터 검색, LangChain, OpenAI API, Hugging Face 자료도 별도로 정리한다.
Chatbot Arena와 Open LLM Leaderboard처럼 모델 성능을 비교하는 벤치마크 자료를 소개해 실무자가 모델 선택의 참고점을 얻을 수 있게 한다.
마지막으로 생성형 AI가 인프라, 모델, 애플리케이션, 예술, 게임, B2B, 금융, 소비자 시장에 미치는 영향을 다룬 a16z의 시장 분석 글들을 제시한다.

🧠 상세 정리

1. AI Canon의 문제의식과 목적

이 글은 인공지능 연구가 기하급수적으로 늘어나고 있다는 관찰에서 시작한다. 새로운 논문과 글이 계속 쏟아지기 때문에 AI 전문가조차 모든 흐름을 따라가기 어렵고, 입문자는 어디서부터 공부해야 할지 판단하기 더 어렵다고 설명한다. 이에 저자들은 자신들이 현대 AI를 이해하는 데 의존해 온 자료를 선별해 ‘AI Canon’이라는 이름으로 공유한다. 여기서 ‘canon’은 최근 몇 년간 분야에 큰 영향을 준 논문, 블로그 글, 강의, 가이드의 묶음을 뜻한다.

2. 전체 구성: 입문, 기술 학습, 실무, 시장 분석

AI Canon은 단순한 링크 모음이 아니라 학습 흐름을 고려해 배열된 안내서에 가깝다. 먼저 현재 AI 물결을 이끄는 트랜스포머와 잠재 확산 모델을 부드럽게 소개하는 자료로 시작한다. 이후 신경망, 역전파, 임베딩 같은 기본 개념을 배우는 자료와 대형 언어 모델을 더 깊이 이해하는 기술 자료로 확장된다. 그다음 LLM을 활용해 실제 애플리케이션을 만드는 실무 가이드와 AI 시장 분석을 제시하고, 마지막에는 ‘Attention is All You Need’를 비롯한 주요 연구 결과의 참고 목록을 포함한다고 설명한다.

3. 비전문가를 위한 현대 AI 입문 자료

첫 번째 묶음은 전문 배경지식 없이도 현대 AI의 핵심을 빠르게 이해할 수 있는 글들이다. Andrej Karpathy의 ‘Software 2.0’은 AI를 컴퓨터를 프로그래밍하는 새롭고 강력한 방식으로 바라보는 관점을 제시하며, LLM이 빠르게 발전하면서 그 통찰이 더욱 설득력을 얻었다고 소개된다. ‘State of GPT’는 ChatGPT와 GPT 모델이 어떻게 작동하고 어떻게 사용되며 연구개발이 어떤 방향으로 갈 수 있는지 쉽게 설명하는 자료로 제시된다. Stephen Wolfram의 글은 초기 신경망부터 오늘날의 LLM과 ChatGPT까지 이어지는 흐름을 원리에서부터 길지만 읽기 쉽게 설명하는 자료로 소개된다.

4. 트랜스포머와 이미지 생성 모델에 대한 쉬운 설명

입문 섹션은 언어 모델뿐 아니라 이미지 생성 모델까지 함께 다룬다. Dale Markowitz의 ‘Transformers, explained’는 LLM이 무엇이고 어떻게 작동하는지 더 짧고 직접적으로 설명하는 글로 소개되며, GPT-3을 기준으로 쓰였지만 더 최신 모델에도 적용되는 직관을 제공한다고 설명된다. Chris McCormick의 ‘How Stable Diffusion works’는 컴퓨터 비전 쪽에서 이에 대응하는 자료로, Stable Diffusion과 텍스트-이미지 모델 전반에 대한 직관을 일반 독자에게 제공한다. 더 쉬운 입문 자료로는 r/StableDiffusion의 만화도 함께 언급된다.

5. 기초 학습: 딥러닝, 임베딩, 역전파

다음 섹션은 머신러닝과 AI의 기본 아이디어를 이해하기 위한 학습 자료를 모은다. Nvidia의 ‘Deep learning in a nutshell’ 4부작은 2015년 기준의 딥러닝 핵심 개념을 설명하는 자료로, AI를 처음 배우는 사람에게 좋은 출발점으로 제시된다. ‘Practical deep learning for coders’는 실제 예제와 코드를 통해 AI 기본기를 배우는 무료 종합 강의로 소개된다. Word2vec 설명 글은 LLM과 모든 언어 모델의 구성 요소인 임베딩과 토큰을 쉽게 이해하게 해 주며, 역전파를 더 깊이 알고 싶은 독자를 위해 ‘Yes you should understand backprop’와 Stanford CS231n 강의도 제안된다.

6. 대학 강의와 대형 모델 심화 자료

기초를 넘어서는 학습 경로로는 Stanford CS229와 CS224N이 제시된다. CS229는 Andrew Ng의 머신러닝 입문 강의로, 머신러닝의 기본기를 다루는 자료로 소개된다. CS224N은 Chris Manning의 딥러닝 기반 자연어처리 강의로, NLP의 기초부터 1세대 LLM까지를 포괄한다고 설명된다. 이어지는 기술 심화 섹션에서는 Jay Alammar의 ‘The illustrated transformer’, PyTorch 지식이 필요한 ‘The annotated transformer’, Karpathy의 GPT 구현 영상, 잠재 확산 모델을 설명하는 ‘The illustrated Stable Diffusion’이 언급되며, 독자의 기술 수준에 따라 트랜스포머와 생성 모델을 더 깊이 파고들 수 있게 구성된다.

7. RLHF, 스케일링, GPT-4, 에이전트와 프롬프팅

심화 자료는 모델 구조뿐 아니라 모델 행동과 성능 향상 원리도 다룬다. Chip Huyen의 RLHF 설명과 John Shulman의 강연은 LLM이 더 예측 가능하고 인간 친화적으로 행동하도록 만드는 강화학습 기반 피드백의 중요성과 한계를 이해하는 자료로 제시된다. Yann LeCun의 예측 학습 강연, Karpathy의 Tesla 자율주행 강연, Gwern의 스케일링 가설 글, Chinchilla 논문 해설은 대규모 모델에서 데이터와 컴퓨트 확장이 왜 중요한지 이해하는 데 쓰인다. Microsoft Research의 GPT-4 초기 실험, Auto-GPT와 AI 에이전트 소개, ‘Waluigi Effect’ 글은 모델 능력, 자동화 가능성, 프롬프팅 이론을 살펴보는 참고점으로 묶인다.

8. LLM 애플리케이션 구축과 시장 분석

글은 LLM 중심의 새로운 애플리케이션 스택이 등장하고 있지만 아직 정규 교육 자료가 많지 않다고 설명하며, 실무자에게 유용한 자료들을 따로 모은다. GitHub 지원 봇 구축 글, Chip Huyen의 프로덕션 LLM 애플리케이션 글, Prompt Engineering Guide, Simon Willison의 프롬프트 인젝션 설명, OpenAI cookbook, Pinecone 학습 센터, LangChain 문서가 대표 자료로 소개된다. LLM Bootcamp와 Hugging Face Transformers 강의는 실제 구축과 오픈소스 모델 활용을 배우는 과정으로 제시된다. 이후 Chatbot Arena와 Open LLM Leaderboard를 벤치마크로 소개하고, 생성형 AI가 인프라·모델·애플리케이션 계층, 컴퓨트 비용, 예술, 게임, B2B, 금융, 소비자 시장에 미치는 영향을 다룬 a16z의 시장 분석 글들로 흐름을 확장한다.

🧾 핵심 주장 / 시사점

이 글의 핵심 가치는 특정 기술 하나를 설명하는 데 있지 않고, 입문자부터 실무자까지 현대 AI 학습 경로를 단계별로 잡아 주는 데 있다.
저자들이 반복해서 강조하는 축은 트랜스포머, 잠재 확산 모델, RLHF, 스케일링, 프롬프팅, 벡터 검색처럼 현재 생성형 AI 제품과 연구를 지탱하는 기반 개념들이다.
시장 분석 섹션은 생성형 AI를 단순한 연구 성과가 아니라 인프라 비용, 애플리케이션 스택, 창작 산업, 기업용 소프트웨어, 금융과 소비자 서비스까지 바꾸는 산업 흐름으로 다룬다.

✅ 액션 아이템

a16z의 AI Canon처럼 트랜스포머·확산 모델 입문에서 LLM 심화까지 단계별 학습 흐름을 정렬한다.
LLM 실무 자원은 프롬프트 엔지니어링, 보안, 벡터 검색, LangChain, OpenAI API, Hugging Face로 분기해 즉시 활용도를 점검한다.
Chatbot Arena와 Open LLM Leaderboard 벤치마크를 함께 사용해 모델 적용 전 성능 비교 포인트를 정한다.