Build Your Own JARVIS with Claude Code
Quick Summary
Claude Code와 음성·AI 모델·개인 데이터·업무 도구를 연결하면, 조회부터 전화·송장·브라우저 실행까지 처리하는 나만의 JARVIS를 구축할 수 있다.
영상 보기
클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 결론
Claude Code와 음성·AI 모델·개인 데이터·업무 도구를 연결하면, 조회부터 전화·송장·브라우저 실행까지 처리하는 나만의 JARVIS를 구축할 수 있다.
📌 핵심 요점
- 일정, 이메일, 송장, 전화, 로컬 파일을 하나의 음성 인터페이스에 통합해 정보 조회와 실제 업무 실행을 연속적으로 처리한다.
- Anthropic API를 기본 두뇌로 사용하면서 OpenRouter를 통해 Grok·Gemini 등으로 전환해 작업별로 다른 모델을 선택할 수 있다.
- Gmail·Google Calendar·Zapier·Google Drive 같은 도구와 전화 에이전트를 연결해 예약, 일정 등록, 문서 생성까지 자동화한다.
- AI 세컨드 브레인과 기존 파일에서 사업 맥락을 불러와 송장과 이메일 초안을 만들되, 외부 전송 전에는 사람이 검토한다.
- 화면과 음성을 함께 인식하는 기능이 브라우저 내 양식 작성과 질의 처리로 확장되며, 무료 자료와 유료 완성형 버전이 각각 제공된다.
🧩 배경과 문제 정의
- 일정·이메일·송장·전화·로컬 파일에 흩어진 업무를 하나의 음성형 개인 AI 비서에서 조회하고 실행하는 것이 핵심 과제다.
- 여러 AI 모델과 외부 도구를 연결해 짧은 요청을 개인·사업 데이터가 반영된 실제 결과물로 전환한다.
- 송장과 이메일을 자동화하면서도 외부 전송 전에는 사람이 검토하도록 실행 권한에 안전장치를 남긴다.
🕒 시간순 섹션별 상세정리
1. 개인비서 기능과 교체 가능한 AI 두뇌
- 프로필 사진 평가, 다음 날 일정 조회, 2,500달러 송장 준비, 안 읽은 이메일 확인을 하나의 음성 인터페이스에서 처리한다. [00:58]
- Anthropic API를 기본 두뇌로 사용하면서 OpenRouter를 통해 Grok·Gemini 등 다른 모델로 전환한다. [01:31]
- 핸즈프리 모드에서 호출어로 모델을 바꾸면 응답 모델과 함께 화면 색상과 스킨도 변경된다. [02:20]
2. 로컬 파일 검색과 전화 예약 자동화
- 로컬 폴더에서 커뮤니티 관련 파일을 찾아 브랜드와 유튜브 채널 연결 정보를 불러오며, 접근이 허용된 고객 자료도 같은 방식으로 조회할 수 있다. [02:55]
- 전용 전화번호를 가진 에이전트가 음성 요청을 받아 식당 예약이나 공급업체 가격 확인을 위한 실제 통화를 시작한다. [03:27]
- 세 명의 저녁 7시 테이블을 보증금 없이 확정하고, 통화 결과 보고와 캘린더 알림 등록까지 이어간다. [04:06]
3. 캘린더와 업무 도구를 잇는 실행 계층
- 캘린더에서 다음 날 오전 10시 일정, 오후 1시 Alex와의 점심, 오후 4시 헬스장을 확인하고 회의 전 준비 내용을 전화로 받는 흐름도 구성한다. [04:55]
- Gmail·Google Calendar·Zapier·Canva·Figma·Airtable·Google Drive·Google Docs가 조회 이후의 문서 작업을 이어가는 확장 도구 계층을 이룬다. [05:08]
- 텔레그램에서 Mike Johnson의 2,500달러 송장과 결제 안내 이메일을 요청하면 음성 확인 메시지와 완성된 송장의 Drive 링크를 반환한다. [05:53]
4. 사업 맥락을 반영한 송장과 이메일 초안
- 새 송장은 리드 테이블의 기존 3,400달러가 아니라 텔레그램에서 지정한 2,500달러를 적용하고 AI 평판 구축 항목을 문서화한다. [06:41]
- AI 세컨드 브레인과 관련 폴더에서 서비스 설명을 가져오고 기존 송장 형식을 재사용해 회사 정보와 세부 내역을 채운다. [07:19]
- 이메일은 자동 발송하지 않고 초안까지만 작성하며, 사람이 오류를 검토한 뒤 전송하도록 통제권을 유지한다. [07:54]
5. 화면 인식에서 브라우저 작업으로 확장
- 화면 공유가 시작되면 현재 화면과 음성을 함께 인식하고 사용자가 중간에 명령을 수정할 수 있어 실시간 협업이 가능하다. [08:20]
- 공유된 유튜브 채널에서 구독자 15만 3천 명, 영상 326개, 배너 문구와 커뮤니티 링크를 식별한다. [08:35]
- 화면의 정보를 답하는 데 그치지 않고 양식 작성과 질의 처리 등 사용자의 브라우저 안에서 직접 작업한다. [08:59]
6. 무료 구축 자료와 완성형 버전
- 무료 커뮤니티의 강의실과 유튜브 자료 메뉴에서 여러 버전의 Jarvis 프롬프트 팩과 AI 세컨드 브레인 자료를 받을 수 있다. [09:37]
- 음성과 전체 기능을 갖춘 완성형 버전 6은 유료 커뮤니티에서 제공되며, 직접 구축에는 Claude Code·Google Chrome·Anthropic API 키가 필요하다. [10:38]
- 후속 AI 직원·AI 비서 빌드와 추가 무료 자료가 계속 공개될 예정이어서 기능과 활용 사례가 더 확장된다. [11:10]
🧾 결론
- 이 JARVIS의 핵심은 대화 자체가 아니라 개인 데이터와 업무 도구를 연결해 요청을 실제 결과물로 바꾸는 실행 계층이다.
- 모델을 교체할 수 있는 구조는 하나의 AI 공급자에 모든 작업을 고정하지 않고 목적에 맞게 두뇌를 선택하게 한다.
- 로컬 파일과 AI 세컨드 브레인이 제공하는 맥락은 짧은 명령만으로도 회사 정보와 세부 내역이 반영된 문서를 만들게 한다.
- 이메일을 자동 발송하지 않고 초안으로 남기는 설계는 자동화의 효율성과 사람의 통제권을 함께 유지한다.
📈 투자·시사 포인트
- 개인 AI 비서의 차별화 지점은 단일 모델의 성능보다 캘린더·이메일·문서·전화·브라우저를 얼마나 매끄럽게 연결하는지에 있다.
- OpenRouter 기반 모델 전환은 여러 모델을 조합하는 모듈형 에이전트 구조가 실제 서비스 설계에 활용될 수 있음을 보여준다.
- 무료 프롬프트 팩과 AI 세컨드 브레인 자료에서 유료 완성형 버전 6으로 이어지는 구성은 커뮤니티 기반 배포와 유료화 방식을 보여준다.
- 송장·이메일처럼 외부에 영향을 주는 업무에서는 사람의 최종 검토가 도입 신뢰도를 좌우하는 핵심 안전장치가 된다.
⚠️ 불확실하거나 확인이 필요한 부분
- 영상은 기능 시연과 필요한 도구를 제시하지만, 전체 시스템의 코드 구조와 도구별 연결 방식은 구체적으로 설명하지 않는다.
- Anthropic API, OpenRouter, 전화 에이전트 사용에 따른 비용·지연 시간·실패율은 제시되지 않는다.
- 로컬 파일, Gmail, Calendar, Drive에 접근할 때 적용되는 권한 범위와 데이터 보호 방식은 확인이 필요하다.
- 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
- 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
- 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.
✅ 액션 아이템
- 일정 조회, 이메일 초안, 송장 생성, 전화 예약, 로컬 파일 검색 중 먼저 자동화할 업무를 선정한다.
- 직접 구축을 위해 Claude Code, Google Chrome, Anthropic API 키를 준비한다.
- Anthropic API와 OpenRouter를 연결하고 작업별 모델 전환이 필요한지 시험한다.
- Gmail·Calendar·Drive 등은 필요한 데이터에만 접근하도록 연결 범위를 제한한다.
❓ 열린 질문
- 실제 업무에서 모델을 전환할 때 비용, 응답 품질, 처리 속도를 어떤 기준으로 비교해야 하는가?
- 전화 예약이나 브라우저 작업이 실패했을 때 에이전트는 오류를 어떻게 감지하고 사용자에게 보고하는가?
- 로컬 파일과 AI 세컨드 브레인의 정보가 충돌하거나 오래되었을 때 어떤 자료를 우선하는가?