I ran Qwen 3.8 on a laptop and I''m blown away

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

Qwen 3.8을 노트북에서 실행한 시연은 로컬 AI의 실용성을 보여주지만, 모든 AI 구독을 대체할 수 있는지는 추가 검증이 필요하다.

📌 핵심 요점

1. 화자는 Microsoft Surface Ultra with RTX Spark를 휴대형 로컬 AI 기기로 소개한다. 최대 통합 메모리는 128GB라고 설명하지만, 실제 시연 기기는 64GB다.
2. 로컬 AI의 장점으로 구독료 없는 추론, 기기 내부의 프롬프트 처리, 오프라인 사용, 모델 맞춤화와 학습 경험을 제시한다. 다만 하드웨어 구입비와 전력 비용은 발생한다.
3. Hermes Agent에서 로컬 모델 실행 메뉴를 선택하고 추천 모델을 내려받는 과정을 보여준다. 제목에는 Qwen 3.8, 자막에는 Qwen 38 27B로 표기되어 정확한 모델 식별은 확인이 필요하다.
4. 짧은 자기소개 응답은 약 5초, 2D 게임 제작은 약 20분이 걸렸다고 보고한다. 게임의 코드 작성·테스트·실행까지 소개하지만, 체계적인 성능 비교는 제공하지 않는다.
5. 게임 모드 설치와 정기 보안 점검 같은 에이전트 활용을 제안한다. 최종 구매 판단은 이동 중 사용의 가치에 달려 있으며, 비용을 줄이는 대안으로 데스크톱에서 모델을 실행하고 다른 기기로 접속하는 구성을 제시한다.

🧩 배경과 문제 정의

영상은 고용량 통합 메모리를 갖춘 노트북에서 로컬 AI를 실행하면 유료 AI 구독을 대체할 수 있는지 묻는다. 화자는 Microsoft Surface Ultra with RTX Spark를 소개하며, 일반적인 포트·디스플레이 리뷰보다 AI 모델 실행과 에이전트 활용에 초점을 맞춘다.

문제의 중심은 AI 계산을 어디에서 수행하느냐다. 화자는 클라우드 AI가 인터넷을 통해 데이터센터에서 계산하는 반면, 로컬 AI는 사용자 기기에서 계산한다고 설명한다. 이를 바탕으로 비용, 프라이버시, 오프라인 사용의 장점을 제시하고, 설치와 작업 시연을 거쳐 휴대성에 추가 비용을 지불할 가치가 있는지 평가한다.

🕒 시간순 섹션별 상세정리

1. 구독 대체 가능성을 묻는 노트북 소개

• 화자는 최대 128GB 통합 메모리를 지원한다는 Surface Ultra with RTX Spark로 로컬 모델이 어디까지 가능한지 시험하겠다고 드러낸다 [00:29]
• Microsoft가 기기를 무상 제공했으며 콘텐츠 제작을 요청하지는 않았다고 설명하고, RTX Spark를 DGX Spark와 연결해 보여준다 [01:46]
• 이번 리뷰는 일반 하드웨어 사양보다 AI 활용에 집중하며, 저렴한 컴퓨터에서도 로컬 모델을 시작하는 방법을 다루겠다고 예고한다 [02:59]

2. Superhuman 광고와 클라우드 업무 사례

• 별도 후원사인 Superhuman의 Mail·Docs 커넥터를 Claude에 연결해 이메일을 정리하는 방법을 보여준다 [03:47]
• 미응답 업무 메일 검색, 답장 초안과 발송, 청구서 정보를 문서 표로 정리하는 사례를 보여주고 광고 구간을 마친다 [04:34]

3. 실제 메모리 구성과 Windows 활용성

• 최대 지원 용량과 달리 실제 리뷰 기기는 64GB이며, 화자는 DGX Spark의 Linux 지향 구성과 RTX Spark의 Windows 지향 구성을 대비한다 [05:06]
• 게임 성능을 RTX 5070 수준이라고 표현하고, 로컬 모델 실행과 게임·영상 편집을 한 기기에서 병행할 수 있다고 보여준다 [05:50]
• Apple과의 경쟁 구도로 제품을 해석하고 비교 가격으로 3,600과 4,200을 제시한 뒤, 외장 재질과 완성도를 높게 평가한다 [06:46]

4. 로컬 AI를 쓰는 이유

• 화자는 로컬 AI를 구독료 없이 사용할 수 있다고 설명하면서도 컴퓨터 구입비와 전력 비용은 필요하다고 인정한다 [07:10]
• 프롬프트의 기기 내부 처리, 파인튜닝과 LoRA를 통한 맞춤화, 직접 모델을 다뤄보는 학습 경험을 장점으로 든다 [07:50]
• 비행기처럼 인터넷 연결이 없는 환경에서도 AI와 대화하거나 코딩할 수 있다는 점을 노트북의 이점으로 강조한다 [08:22]

5. 클라우드와 로컬 추론의 차이

• 클라우드 AI는 프롬프트를 데이터센터로 보내 GPU 계산을 거친 답을 돌려받기 때문에 인터넷 연결이 필요하다고 보여준다 [09:10]
• 로컬 AI에서는 해당 계산을 사용자 컴퓨터의 칩에서 수행한다며, 기기 내부 처리와 추가 구독료 없는 사용을 연결한다 [09:46]

6. Hermes Agent로 설치 시작하기

• Hermes Agent를 무료 오픈소스 에이전트로 소개하며, 로컬 모델뿐 아니라 기존 클라우드 서비스에도 연결할 수 있다고 보여준다 [10:26]
• 데스크톱 앱을 설치한 뒤 설정의 Providers에서 Run models locally를 선택하면 컴퓨터에 맞는 모델을 추천받는 과정을 보여준다 [11:21]

7. Qwen 다운로드와 첫 응답 확인

• 시연 기기에서는 자막상 Qwen 38 27B가 추천되며, 모델 크기에 따라 다운로드에 시간이 걸릴 수 있다고 안내한다 [11:55]
• 새 세션에서 다운로드한 모델을 선택하고 첫 메시지를 보내 메모리에 로드한 뒤 대화를 시작한다 [12:17]
• 이름을 묻는 짧은 질문에 약 5초 만에 응답했다고 보고하며, 컴퓨터와 메모리 구성에 따라 속도가 달라질 수 있다고 덧붙인다 [12:39]

8. 로컬 모델의 2D 게임 제작

• 간단한 2D 횡스크롤 액션 게임을 요청하고, 제작 중에는 기기 표면이 뜨겁지 않고 팬 소음도 심하지 않다는 주관적 인상을 전해진다 [13:45]
• 게임 제작에는 약 20분이 걸렸으며, 에이전트가 코드 작성과 테스트를 수행하고 채팅에서 실행할 수 있는 결과를 제공했다고 보여준다 [14:06]
• 이동, 보석 수집, 경험치 요소가 있는 게임을 확인하고 AI 계산은 노트북 내부에서 이루어졌다고 강조한다 [14:34]

9. 컴퓨터 관리와 게임 모드 설치

• 화자는 Halo 3의 다인용 모드를 찾아 설치해 달라고 요청했던 사례를 보여준다 [14:59]
• 로컬 에이전트가 Steam에서 게임을 내려받고 Project Reclaimer 모드를 찾아 설치·설정했다고 설명하며 개인용 컴퓨터 관리자에 비유한다 [15:43]

10. 반복 실행하는 주변형 지능

• 매시간 컴퓨터 보안을 점검하도록 요청하는 예를 통해 일상에서 반복 작업을 수행하는 ambient intelligence를 보여준다 [16:20]
• 보안 패치와 취약점 확인을 예로 들며, 반복 호출이 클라우드 사용량을 소모하는 것과 달리 로컬 모델에는 추가 추론 구독료가 없다고 강조한다 [16:42]
• Hermes의 예약 루틴 기능과 중요한 메일을 주기적으로 확인해 알려주는 활용을 보여준다 [17:08]

11. 추천의 조건과 데스크톱 대안

• AI 활용자의 관점에서 하드웨어 품질을 높게 평가하면서도, 노트북 형태에는 추가 비용이 붙는다고 보여준다 [17:58]
• 비용을 줄이는 대안으로 RTX Spark 또는 DGX Spark 데스크톱에서 모델을 실행하고 다른 노트북이나 기기로 접속하는 구성을 제시한다 [18:22]

12. 이동성에 따른 최종 선택

• 이동하면서 로컬 AI와 게임을 사용하려는 사람에게는 노트북이 좋은 선택이라고 평가한다 [18:37]
• 이동성이 중요하지 않다면 데스크톱을 선택하고 노트북이나 휴대전화에서 접속할 수 있다며, 사용 방식에 따라 구매를 판단하도록 정리한다 [19:01]
• AI 활용 관점의 하드웨어 리뷰에 대한 반응과 추가 리뷰 요청을 받으며 영상을 마친다 [19:15]

🧾 결론

• 영상은 로컬 모델을 설치해 대화하고 작업을 맡기는 전체 흐름을 보여주는 실사용 중심 리뷰다.
• 간단한 응답과 게임 제작 사례는 가능성을 보여주지만, 프런티어 모델과의 동등한 품질이나 모든 구독의 대체를 입증하지는 않는다.
• 노트북의 핵심 가치는 AI를 휴대하고 인터넷 없이 사용하는 데 있다. 이동성이 중요하지 않다면 화자가 제시한 데스크톱 구성도 비교 대상이다.

📈 투자·시사 포인트

• 화자는 Apple의 로컬 AI 지향 개인용 컴퓨터에 대한 Microsoft·Nvidia의 대응으로 이 제품을 해석한다. 영상에서 제시한 경쟁 축은 통합 메모리, 로컬 모델 실행, 게임·창작 작업의 결합이다.
• 비용 비교에서는 월 구독료뿐 아니라 초기 기기 가격과 전력 비용을 함께 봐야 한다. 영상에는 구독을 해지했을 때의 실제 비용 회수 기간 계산이 없다.
• 반복 작업을 자주 실행하는 사용자에게 로컬 추론의 구독료 없는 사용 방식이 매력적일 수 있다. 다만 반복 실행의 유용성은 작업 정확도와 실행 시간에 따라 달라진다.
• 특정 기업의 매출 전망이나 주식 가치에 관한 자료는 제시되지 않는다. 이 영상에서 얻을 수 있는 시사점은 로컬 AI 기기의 사용 가치와 구매 조건에 관한 것이다.

⚠️ 불확실하거나 확인이 필요한 부분

• 제품명, RTX Spark의 구성, 최대 메모리, 최초의 로컬 AI 노트북이라는 표현은 화자의 설명이다. 제공된 대본에는 이를 확인할 공식 사양 자료가 없다.
• 제목의 Qwen 3.8과 자막의 Qwen 38 27B 표기가 다르다. 정확한 모델 이름·버전·양자화 설정·실행 환경은 대본만으로 확정하기 어렵다.
• 약 5초 응답과 약 20분 게임 제작은 개별 사례다. 반복 측정, 처리량, 배터리 사용 시간, 장시간 부하에 따른 성능 변화는 제시되지 않는다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 구매 검토 전 정확한 제품 사양과 가격, 실제 시연 모델의 이름·버전·실행 설정을 확인한다.
• 기존 컴퓨터에서 Hermes Agent의 추천 모델로 짧은 대화와 간단한 작업을 먼저 실행해 본다.
• 실제로 자주 하는 작업을 골라 응답 시간, 결과 품질, 수정 횟수를 현재 사용하는 구독형 AI와 비교한다.
• 모델 다운로드를 마친 뒤 네트워크를 끊고, 오프라인에서 가능한 작업과 외부 연결이 필요한 작업을 구분한다.

❓ 열린 질문

• 동일한 모델과 설정으로 반복 실행했을 때 응답 속도와 게임 제작 성공률은 얼마나 일정한가?
• 64GB 시연 기기와 최대 128GB 구성 사이에서 실행 가능한 모델과 실제 작업 성능은 얼마나 달라지는가?
• 게임 제작을 넘어 사용자의 핵심 업무에서도 구독형 AI를 대체할 만큼 결과 품질이 유지되는가?