I Built a Self-Improving AI, and So Can You

🖼️ 인포그래픽

I Built a Self-Improving AI, and So Can You 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

WIRED 필자는 Claude와 AutoResearch, Prime Intellect 도구를 활용해 작은 모델과 연구 논문 큐레이터를 반복 개선해 보며, 자기개선 AI가 거대 연구소만의 초지능 담론이 아니라 실무 자동화와 전문 모델 민주화의 방향이 될 수 있음을 확인했다.

📌 핵심 요약

글은 프런티어 AI 연구소들이 자기개선 모델을 초지능으로 가는 경로로 보는 상황에서 출발하지만, 필자는 더 현실적인 질문, 즉 뉴스레터 제작의 반복 업무를 줄일 수 있는지에 초점을 맞춘다.
필자는 AutoResearch를 설치하고 Claude에게 실험을 맡겨 작은 언어 모델을 처음부터 학습시키는 루프를 돌렸으며, Claude가 파라미터와 학습 방식을 조정하면서 출력 품질을 점차 개선하는 과정을 관찰했다.
초기 모델은 ‘In the beginning’ 프롬프트에 끝없는 반복 문장을 내놓을 정도로 조악했지만, 이후 버전은 더 일관되고 반복이 줄어들어 지속적 개선 가능성을 보여주었다.
이후 필자는 Prime Intellect 도구로 과거 뉴스레터의 연구 논문 소개 항목 약 100개를 모아 Frontier_Paper_Curator라는 맞춤 모델을 만들었고, Claude와 합성 데이터, 평가 모델, 강화학습을 활용해 논문 탐색·요약 능력을 개선했다.
글은 Prime Intellect와 Adaption 같은 스타트업이 자기개선형 학습 인프라를 더 넓게 배포하려 한다는 점, 프런티어 모델 의존의 통제·데이터 위험, 그리고 아직 과잉 선택과 다소 일반적인 요약이라는 한계를 함께 제시한다.

🧩 주요 포인트

글은 프런티어 AI 연구소들이 자기개선 모델을 초지능으로 가는 경로로 보는 상황에서 출발하지만, 필자는 더 현실적인 질문, 즉 뉴스레터 제작의 반복 업무를 줄일 수 있는지에 초점을 맞춘다.
필자는 AutoResearch를 설치하고 Claude에게 실험을 맡겨 작은 언어 모델을 처음부터 학습시키는 루프를 돌렸으며, Claude가 파라미터와 학습 방식을 조정하면서 출력 품질을 점차 개선하는 과정을 관찰했다.
초기 모델은 ‘In the beginning’ 프롬프트에 끝없는 반복 문장을 내놓을 정도로 조악했지만, 이후 버전은 더 일관되고 반복이 줄어들어 지속적 개선 가능성을 보여주었다.
이후 필자는 Prime Intellect 도구로 과거 뉴스레터의 연구 논문 소개 항목 약 100개를 모아 Frontier_Paper_Curator라는 맞춤 모델을 만들었고, Claude와 합성 데이터, 평가 모델, 강화학습을 활용해 논문 탐색·요약 능력을 개선했다.
글은 Prime Intellect와 Adaption 같은 스타트업이 자기개선형 학습 인프라를 더 넓게 배포하려 한다는 점, 프런티어 모델 의존의 통제·데이터 위험, 그리고 아직 과잉 선택과 다소 일반적인 요약이라는 한계를 함께 제시한다.

🧠 상세 정리

1. 초지능 경쟁에서 개인의 실무 자동화 질문으로

글은 현재 프런티어 AI 연구소들이 자기개선 모델 개발에 경쟁적으로 뛰어들고 있다는 배경에서 시작한다. 일부는 AI가 스스로를 반복적으로 개선하는 루프를 통해 인간의 이해나 통제를 넘어서는 초지능에 도달할 수 있다고 본다. 그러나 필자는 이런 거대한 논의보다 자신에게 당장 필요한 뉴스레터 제작 업무에 관심을 둔다. 핵심 질문은 자기개선 AI가 이론적 초지능 담론을 넘어, 뉴스레터의 잡무를 자동화하고 계속 더 나아지는 모델을 만드는 데 실제로 도움이 되는가이다.

2. AutoResearch와 Claude로 시작한 첫 실험

필자는 먼저 작은 언어 모델을 처음부터 학습시키는 간단한 자기개선 루프를 실험한다. 이를 위해 AutoResearch라는 도구를 설치했는데, 이 도구는 기존 AI 모델이 더 작은 모델을 만들고 개선하도록 돕는다. AutoResearch는 OpenAI 공동창업에 참여했고 Tesla에서 AI 업무를 이끌었으며 최근 Anthropic에 합류한 Andrej Karpathy가 만든 것으로 소개된다. 필자는 Claude에 권장 지시문을 입력하고, 실제 어려운 작업은 Claude가 처리하도록 맡겼다.

3. 컴퓨팅 자원과 느슨한 권한 아래 진행된 학습

실험에서 필자가 직접 제공한 것은 모델 설계 능력이라기보다 계산 자원과 전력, 그리고 실험을 과감히 허용하는 태도에 가까웠다. 그는 AI 실험용 데스크톱 슈퍼컴퓨터로 설명된 Nvidia DGX를 사용했고, 며칠 동안 뜨겁게 돌아가는 전력 소모를 감수했다. 또한 모델이 일반적인 권한 확인 절차를 건너뛰고 작업하도록 허용했다고 적는다. 이 장면은 자기개선 루프가 완전히 추상적인 개념이 아니라, 실제 환경과 자원, 자동화 권한 설정 위에서 돌아가는 실험임을 보여준다.

4. 초기 모델의 실패와 반복 개선의 징후

AutoResearch 프로젝트를 몇 시간마다 확인하면서 필자는 Claude가 파라미터와 학습 체계를 조정하고, 그 결과가 작은 모델의 출력에 어떤 영향을 주는지 살핀 뒤 다시 개선하는 과정을 지켜본다. 초기 모델은 ‘In the beginning’이라는 문구를 이어 쓰라는 요청에 거의 의미 없는 반복 문장을 생성했다. ‘beginning’과 ‘end’가 끝없이 되풀이되는 출력은 모델이 아직 매우 미숙하다는 사실을 분명히 보여준다. 하지만 이후 Claude가 자율적으로 개선한 모델들은 더 일관된 문장을 만들고, 비정상적으로 끝없는 반복 경향도 줄어들었다.

5. 더 실용적인 과제: 연구 논문 큐레이션 모델

첫 실험 뒤 필자는 더 복잡하고 유용한 과제로 넘어간다. 그는 이미 Claude 기반 에이전트를 사용해 주목할 만한 연구 논문을 찾고 있었고, 이를 한 단계 더 발전시킬 수 있는지 확인하려 했다. 이를 위해 Prime Intellect라는 스타트업의 도구를 사용했으며, 이 도구는 특정 작업에 맞는 맞춤 모델을 AI로 학습시키는 방식으로 소개된다. 필자는 자신의 뉴스레터에서 본문 뒤에 붙는 ‘Elsewhere on the frontier of AI’ 항목 약 100개를 모아 학습 재료로 삼았다.

6. Frontier_Paper_Curator의 구성과 학습 방식

Prime Intellect 학습 환경 안에서 Claude는 필자만의 모델을 만들었고, 이 모델은 Frontier_Paper_Curator라는 이름을 얻었다. 목표는 흥미로운 연구 논문을 찾아 요약하는 것이었다. Claude는 추가 논문을 찾아내고 학습에 도움이 될 합성 데이터도 생성했다. 이후 또 다른 모델이 Frontier_Paper_Curator의 출력을 평가했으며, 학습 환경은 강화학습을 통해 모델을 더 개선했다. 이 과정은 단순히 사람이 데이터를 넣고 결과를 받는 것이 아니라, 생성·평가·개선이 이어지는 작은 자동화 훈련 루프에 가깝다.

7. 프런티어 연구소 중심이 아닌 전문 모델의 가능성

Prime Intellect의 CEO Vincent Weisser는 자기개선형 AI 훈련을 거대 프런티어 연구소만이 아니라 더 많은 사람과 기업이 이용할 수 있게 만드는 것이 목표라고 말한다. 그는 프런티어 연구소의 모델이 뛰어날 수는 있지만, 이런 훈련 방식을 민주화하면 특정 분야에 강한 전문 모델도 매우 유능해질 수 있다고 본다. 그의 관점은 하나의 중앙화된 거의 신적인 지능보다, 다양한 틈새와 목적에 맞는 수많은 지능이 더 많은 창의성을 열 수 있다는 것이다. 글은 이 대목에서 자기개선 AI의 미래를 독점적 초거대 모델이 아니라 분산된 전문 모델 생태계로도 상상한다.

8. 의존성의 위험, 현재 한계, 그리고 가능성

글은 Prime Intellect만이 이런 방향을 보는 것은 아니라고 설명하며, Adaption의 AutoScientist도 AI 모델 학습 자동화를 제공한다고 덧붙인다. Adaption의 CEO Sara Hooker는 토큰 사용량이 많고 내부 AI 전문가가 없는 대기업들과 협업 중이라고 말한다. 한편 Anthropic이 최신 모델 Fable 5에 대한 일부 요청을 차단한 사례와, 프런티어 연구소 사용이 데이터와 기술 통제권을 넘기는 일이 될 수 있다는 Alex Karp의 경고는 단일 모델 의존의 위험을 보여준다. 필자가 만든 연구 큐레이터는 하루도 안 되는 실험 뒤 꽤 좋은 논문 요약을 만들었지만, 아직 너무 많은 논문을 고르고 요약이 다소 일반적이라는 한계도 남아 있다.

🧾 핵심 주장 / 시사점

자기개선 AI의 실제 가치는 초지능 논쟁만이 아니라, 반복적이고 판단이 섞인 지식 노동을 줄이는 전문 모델 제작에서 먼저 드러날 수 있다.
글이 보여주는 핵심 변화는 사람이 직접 모델을 세밀하게 설계하는 방식에서, 강한 범용 모델이 데이터 생성·평가·학습 조정을 도와 맞춤 모델을 만드는 방식으로 이동하고 있다는 점이다.
전문 모델 민주화는 프런티어 모델 의존을 줄이는 대안이 될 수 있지만, 결과 품질 관리와 과잉 선택, 일반적인 요약처럼 실제 업무에 맞춘 정밀한 보정은 여전히 필요하다.

✅ 액션 아이템

뉴스레터 자동화 관점에서 AutoResearch-클로드 루프를 주기적으로 운영해 반복 출력·품질 변화를 추적하고 초기 모형의 개선 폭을 정량화한다.
과거 뉴스레터 연구논문 소개 약 100건을 기준 데이터로 삼아 Frontier_Paper_Curator를 재학습하고, 합성 데이터·평가 모델·강화학습 설정을 고정해 성능 변화를 비교한다.
프런티어 모델 의존, 통제권, 데이터 위험, 과잉 선택, 일반적 요약 한계를 한 번에 반영해 커스텀 모델의 배포 범위와 유지 조건을 정의한다.