I wrote an AI textbook — how long until AI can do it better?

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

현재 대규모 언어 모델은 교과서 집필의 편집·검수·형식 변환에는 강력하지만, 장문 기술 글의 구조를 세우고 지식을 압축해 통찰로 연결하는 일에서는 아직 인간 전문가를 대체하지 못한다.

📌 핵심 요약

• 저자는 최근 몇 년간 모델의 코딩·수학·검색 능력이 빠르게 향상된 것과 달리, 장문 논픽션과 기술 글쓰기의 품질은 기대만큼 발전하지 않았다고 평가한다.
• 현재 모델은 문장·수식·그림 같은 개별 요소를 만들거나 검사하는 데 능숙하지만, 여러 요소를 반복해서 재검토하고 일관된 장 전체로 엮는 과정에서는 오류와 혼란을 누적한다.
• 저자는 인간 피드백 기반 강화학습 교과서를 집필하면서 모델을 오탈자 탐지, 편집 제안, 수식 작성, 도표 제작, 코드 정리, 마크다운과 LaTeX 원고 동기화에 유용하게 활용했다.
• 책에 포함된 모델 생성 문장은 전체의 1%보다 훨씬 적었으며, 저자는 전문가가 내용을 면밀히 판단하고 최종 구조와 설명을 통제할 때에만 일부 제안을 채택했다.
• 저자는 기술 글쓰기의 핵심인 초기 구성, 핵심 골격 설계, 지식의 압축과 이야기 형성은 새로운 이해를 만드는 과정이므로, 현재 모델이 대체하기에는 아직 크게 뒤처져 있다고 결론짓는다.

🧩 주요 포인트

1. 국소적인 문장 정확도는 높아졌지만 장 전체의 조직력은 정체되어 있어, 모델의 지식량 증가가 곧바로 장문 설명 능력의 향상으로 이어지지는 않는다.
2. 기존 과학을 명료하게 조직하고 전달하지 못한다는 사실은 광범위한 미해결 과학 문제를 자율적으로 해결한다는 기대에도 제약을 주며, 당분간 성과는 제한된 문제 해결과 분야 간 연결에 가까울 가능성이 크다.
3. 현재 효과적인 역할 분담은 인간 전문가가 개념적 골격·판단·이야기를 맡고 모델이 검수·편집·반복 작업·매체 변환을 맡는 방식이며, 전문성이 부족하면 모델의 결함을 발견하기도 어렵다.

🧠 상세 정리

1. 창의적 글쓰기와 논픽션 글쓰기의 차이

저자는 인공지능 글쓰기에 대한 비판이 주로 개성, 관점, 인간적 표현과 사고 과정이 드러나는 창의적 글에 집중되어 왔다고 설명한다. 좋은 고유 문체의 글은 선택된 단어를 통해 필자의 내면과 생각의 흐름을 보여주지만, 대규모 언어 모델이 대화 상대보다 도구로 정교해질수록 영감을 주는 글을 만드는 목표에서는 오히려 후퇴하고 있다고 본다. 반면 채우기용 문구와 설명문 같은 논픽션은 초기 대규모 언어 모델부터 실제로 유용했던 능력이었고, 그 결함도 모델의 전반적인 지능이나 학습 문제만 해결되면 빠르게 사라질 것으로 예상되었다. 그러나 저자가 수년 동안 모델을 집필 보조 도구로 사용한 결과 품질은 조금 좋아졌을 뿐이며, 장문 논픽션의 핵심적인 한계는 여전히 남아 있었다.

2. 장문 글쓰기의 정체가 과학 능력에 던지는 경고

저자는 모델이 자기 분야에서 이미 확립된 과학 지식을 조직하고 설득력 있게 제시하는 데에도 어려움을 겪는다고 지적한다. 이런 능력은 광범위하고 개방적인 과학 문제를 스스로 해결하기 전에 먼저 갖춰야 할 자연스러운 전제 조건이며, 이를 해결하지 못하면 가까운 시기의 성과는 비교적 쉬운 문제를 풀거나 멀리 떨어진 분야의 연결점을 찾는 수준에 가까울 것이라고 본다. 그는 클로드가 리만 가설과 관련해 진전을 보였다는 발표가 나온 날에도 이러한 견해를 밝혔지만, 과학 문제의 범위가 매우 넓고 현재 모델의 포괄 범위는 흔히 생각하는 것보다 좁다고 주장한다. 저자에게 지식을 조직하는 일은 단순한 정리가 아니라 통찰에 필요한 압축인데, 현재 모델의 장문 글은 정보를 압축하기보다 엔트로피를 늘리는 경향이 있어 인간 안내자 없이 결과를 계속 쌓기 어렵다. 다만 수학처럼 좁은 과학 영역에서 나타난 발전이 더 넓고 일관된 진전으로 번질 가능성과, 모델이 과학자에게 매우 강력한 보조 수단이라는 점에는 여전히 낙관적이다.

3. 교과서 집필에서 확인한 실제 활용 범위

저자는 인간 피드백 기반 강화학습을 다룬 사후 학습 교과서를 완성하면서 대규모 언어 모델을 여러 실무 단계에 사용했다. 모델은 LaTeX 수식 형식을 정리하고, 광범위한 문장 교정을 수행하며, 틱즈나 파이썬으로 도표를 만드는 작업을 지원했다. 2024년 당시의 발전 속도를 보면 2026년에 사람이 논픽션 책을 출간하는 일이 시대에 뒤처져 보일 수 있다고 우려했지만, 실제로는 글쓰기 품질이 그만큼 빠르게 향상되지 않았다. 같은 기간 모델은 코딩과 수학에서 보통 수준을 넘어서는 능력을 보였고 검색과 조사에서도 무능한 단계에서 상당히 쓸 만한 단계로 발전했지만, 좋은 글쓰기는 이러한 능력들과 별개의 축처럼 움직였다. 저자는 글쓰기가 무시된 것이 아니라 본질적으로 어렵고, 그 능력만을 겨냥해 개선할 수 있는 양질의 학습 데이터가 부족한 문제라고 해석한다.

4. 한 문장의 정확성과 한 장의 완성도 사이

전용 작업 환경, 정교한 지시문, 더 많은 추론 자원을 쓰게 하는 학습 환경 등은 모델의 글쓰기를 개선할 수 있는 비교적 쉬운 수단이지만, 저자는 이런 방법만으로 능력이 몇 배씩 도약하지는 않을 것으로 본다. 현재 모델은 개별 문장을 제대로 쓸 수 있어도 장 전체를 맡기면 혼란스러운 표현, 흐릿한 구성, 불필요하게 재치 있어 보이려는 문장과 우발적인 개념 오류를 함께 만들어 낸다. 더 큰 모델이 더 많은 세계 지식을 보유하면 작은 오류는 줄어들 수 있지만, 보유한 지식을 장문의 구조로 변환해 활용하는 방식이 근본적으로 달라질 것이라고 저자는 기대하지 않는다. 즉 문제는 단순한 사실 부족이 아니라 내용을 선별하고 순서를 만들며 여러 설명의 관계를 지속적으로 조정하는 능력에 있다. 그래서 다른 분야에서 확인된 빠른 성능 향상만으로 장문 기술 글쓰기의 발전 속도를 추정해서는 안 된다는 것이 저자의 판단이다.

5. 검수에는 강하지만 통합에는 약한 모델

저자가 거의 완성된 200~300쪽 분량의 원고를 GPT 5.5 프로에 전달했을 때, 모델은 원고 곳곳에 숨어 있던 놀랍도록 미세한 오탈자와 작은 문제를 찾아냈다. 클로드 계열 모델은 편집자로서 더 유용했는데, 과제의 사고 틀을 비교적 잘 이해하고 취향이 드러나는 제안을 내놓으며 여러 형태의 글쓰기 막힘을 해소하는 데 도움을 주었다. 이런 사례의 공통점은 모델이 문장, 수식, 그림과 같은 각 단위를 검사하거나 특정 부분을 새로 만드는 데에는 능숙하다는 것이다. 반대로 수정과 추가가 계속될 때 앞선 요소를 다시 검토하고 전체 맥락 속에서 연결하는 능력은 약해, 작은 불일치가 줄어들지 않고 누적되는 양상을 보인다. 저자는 이를 줄이기 어려운 복합 오류로 느꼈으며, 수학과 코드에서 비슷한 문제를 크게 줄였던 RLVR이 글쓰기에는 아직 같은 해결책을 제공하지 못했다고 설명한다.

6. 전문가의 감독 아래 제한적으로 채택한 문장

저자는 책의 기술 설명 문장 가운데 모델에서 나온 표현이 일부 포함되어 있음을 밝히지만, 그 비중은 전체의 1%보다 훨씬 적다고 강조한다. 자신이 해당 분야의 진정한 전문가로서 독자에게 꼭 필요한 문장이라고 판단했고 편집 과정에서 내용을 면밀히 살필 수 있었기 때문에, 일부 모델 출력을 받아들이는 일이 부정행위처럼 느껴지지는 않았다고 설명한다. 실제 작업에서는 LaTeX 원고에 흩어진 편집자의 질문을 클로드 코드가 차례로 찾아 앞뒤 문맥을 보여주고, 단순 오탈자인지 더 섬세한 판단이 필요한 문제인지 분류하도록 했다. 저자는 직접 삽입할 답변을 작성하거나 클로드에게 대안을 요청한 뒤 최종 수정했으며, 때로는 제안에 포함된 일부 표현을 책에 반영했다. 다만 이런 채택은 두 번째 전체 원고 검토 단계처럼 책이 정서적으로는 끝났다고 느끼면서도 추가 작업이 남아 있던 시점에 이루어졌고, 저자는 이 방식이 쉽게 의존으로 이어질 수 있는 경계선임을 인정한다.

7. 효율이 높아져도 이해의 속도는 빨라지지 않는다

저자는 반복적인 관련 연구나 배경 설명처럼 이미 잘 아는 부분에는 모델이 유용하지만, 논문의 초록·서론·실험·결론을 맡기는 것은 아깝다고 말한다. 그런 부분에는 연구의 이야기와 핵심 정신이 담기며, 연구자가 자신의 연구가 실제로 무엇을 의미하는지 배우는 과정도 포함되기 때문이다. 한편 교과서 제작에서는 수식 작성, 저장소 정리, 프로그래밍 언어 간 변환뿐 아니라 마크다운판과 LaTeX판을 서로 동기화하는 데 모델이 큰 실무 가치를 제공했다. 웹판 독자의 의견과 출판사 편집진이 검토하는 별도 원고를 동시에 관리하는 데 이미 수십 시간이 들었으며, 인공지능 에이전트가 없었다면 시간이 다섯 배가량 필요했을 것이라고 저자는 추산한다. 그러나 에이전트를 사용한다고 이해의 속도까지 높아지는 것은 아니며, 직관·취향·본능과 같은 이해는 앞으로도 중요한 자산으로 남고 인공지능에 글쓰기를 맡길수록 그 능력을 기를 기회가 줄어든다고 지적한다. 특히 기존 전문성이 없는 사람은 모델이 만든 결함을 알아채기 어렵다는 점에서, 높은 생산성과 깊은 이해를 동일시해서는 안 된다고 본다.

8. 기술 글쓰기의 향후 역할 분담

저자가 교과서를 완성한 중요한 동기는 거절 표집과 캐릭터 학습처럼 웹에 정리된 자료가 거의 없는 사후 학습 방법을 하나의 참고 자료로 남기려는 것이었다. 그는 더 많은 인간 노력을 들였다면 자신이 더 배우고 책도 조금 개선되었을 것이라고 인정하지만, 빠르게 변하는 분야와 모델의 발전 속도 때문에 출간 전에 내용이 낡을 수 있다는 긴박감 속에서 완성 자체를 공동체에 대한 기여로 판단했다. 결과적으로 모델이 논픽션 글쓰기에서 기대에 미치지 못했기 때문에, 2024년에 집필을 시작했을 때보다 책의 지속 가능성을 더 확신하게 되었다고 말한다. 현재 모델은 지식을 다른 형식으로 바꾸고, 발표자가 설명을 덧붙일 슬라이드 초안이나 배경 자료와 같은 보조 콘텐츠를 만드는 데에는 뛰어난 도구다. 그러나 논픽션이나 참고서 집필 초기에 핵심 골격을 정하고 지식을 어떤 순서와 방식으로 제시할지 결정하는 과정에서는 새로운 지식과 통찰이 생기며, 모델은 이 부분에서 인간보다 크게 뒤처져 있다고 평가한다. 따라서 저자는 전문가가 책의 극히 일부에 모델의 도움을 받아 지식을 더 많이 공유하는 것은 긍정적으로 보면서도, 중심 구조와 판단을 모델에 넘기는 것과는 분명히 구분한다.

🧾 핵심 주장 / 시사점

• 모델의 장문 글쓰기 능력을 평가할 때에는 문장별 정확도나 오탈자 탐지율보다, 전체 구조를 유지하고 수정 사항을 다시 통합하는 능력을 별도로 살펴야 한다.
• 확립된 지식을 압축하고 명료하게 설명하는 능력은 과학적 성과를 보기 좋게 전달하는 부차적 기술이 아니라, 넓은 문제에서 통찰을 형성하기 위한 핵심 과정이다.
• 현재 가장 생산적인 사용 방식은 인간 전문가가 개념적 골격·서사·최종 판단을 책임지고, 모델이 검수·반복 편집·형식 변환과 같은 경계가 명확한 작업을 담당하게 하는 것이다.

✅ 액션 아이템

• 저자가 교과서를 집필하면서 인간 전문가가 핵심 골격과 최종 구조를 통제하고 문장·수식·그림 요소는 모델로 편집·검수·형식 변환한다.
• 오탈자 탐지, 수식 작성, 코드 정리, 도표 제작, 마크다운과 LaTeX 동기화처럼 반복 작업은 모델에 맡기고 최종 설명 판단은 인간이 한다.
• 책에 포함된 모델 생성 문장 비율이 1%보다 훨씬 낮았다는 점을 반영해, 기술 글쓰기에서 초기 구성과 이야기 형성의 골격은 인간 전문가가 설계한다.

❓ 열린 질문

• 문장·수식·그림을 개별 생성·검사한 뒤 장문 기술 글의 재검토 단계에서 오류가 반복적으로 누적되는 지점은 어디인가?
• 국소적인 문장 정확도는 높아졌지만 장 전체 조직력이 정체되는 상황에서, 지식량 증가가 장문 설명 능력 개선으로 이어지지 않는 제약은 무엇인가?
• 인간 피드백 기반 강화학습 교과서 집필에서 모델이 만든 문장 비율이 1%보다 낮은 경우, 초기 구성·핵심 골격 설계는 어디까지 모델 제안을 받아들일 것인가?