It Begins... Local AI and the Cloud Start Sharing

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

It Begins... Local AI and the Cloud Start Sharing를 중심으로, 로컬과 클라우드는 서로 다른 강점이 있다. 영상은 민감한 자료를 Mac에 두면서 클라우드의 추론·검색 능력을 활용하려는 문제에서를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. 로컬과 클라우드는 서로 다른 강점이 있다. 영상은 민감한 자료를 Mac에 두면서 클라우드의 추론·검색 능력을 활용하려는 문제에서 출발한다.
2. Perplexity의 Hybrid Compute는 하나의 요청을 나눠 처리한다. 시연에서는 클라우드가 계획과 웹 검색을 맡고, 로컬 모델이 비공개 파일을 처리하며, Privacy Gate가 개인정보를 감지해 사용자에게 처리 방식을 묻는다.
3. 메모리 용량에 따라 로컬 모델 선택지가 달라진다. 16GB Mac에서는 Gemma 4 E4B만 제공됐고, 32GB와 128GB Mac에서는 더 큰 모델도 선택할 수 있었다. 세 기기의 처리 성능을 정량 비교한 결과는 제시되지 않았다.
4. 가상 금융 자료에서는 최대 88달러의 과다 청구 가능성과 지역 인터넷 대안을 찾아냈다. 진행자는 별도 실행의 처리 기록에서 개인정보가 가려진 내용도 보여줬지만, 이는 독립적인 보안 검증 결과는 아니다.
5. 사진을 대화창에 직접 첨부하면 클라우드로 올라간다는 주의점이 드러났다. Mac의 파일을 로컬로 읽는 경로에서는 개인정보 감지와 로컬 처리가 시연됐으며, 주차 위반 고지서의 온라인 조회는 개인정보 보호 때문에 수동 단계로 남았다.

🧩 배경과 문제 정의

진행자는 코드나 이메일을 클라우드 AI에 보내는 것과 은행 명세서·의료 기록을 보내는 것 사이에 신뢰의 경계가 있다고 설명한다. 민감한 자료에 AI의 도움을 받고 싶지만, 자신이 원하는 일부 작업에는 로컬 모델의 능력이 부족하다는 문제다.

영상은 이 간극을 메우는 방법으로 Perplexity의 Hybrid Compute를 시험한다. 목표는 하나의 요청 안에서 비공개 문서를 Mac에 남기고 클라우드의 계획·검색 능력을 활용하는 것이다. 진행자는 후원 사실을 밝히고, 문제를 심어둔 가상 금융 자료와 실제 개인 문서 사진을 사용해 동작을 살펴본다.

🕒 시간순 섹션별 상세정리

1. 민감한 자료를 위한 로컬·클라우드 역할 분담

• 은행 명세서와 의료 기록에는 AI의 도움이 필요하지만, 자료가 Mac 밖으로 나가는 것은 원치 않는다는 문제를 제시한다. 로컬 모델의 능력 한계도 함께 지적한다. [00:24]
• 두 방식의 강점이 다르므로 함께 사용해야 한다고 주장한다. Hybrid Compute는 작업의 어느 부분을 클라우드와 Mac에 맡길지 나누는 기능으로 묶인다. [00:58]
• 세 대의 Mac으로 시험하겠다고 밝히고, Perplexity가 영상을 후원했다는 사실을 공개한다. [01:09]

2. Privacy Gate 설정과 기기별 모델 조건

• 앱을 설치하고 Privacy Gate를 켠다. 개인정보는 컴퓨터에 두고 나머지를 클라우드로 보내며, 적합한 작업을 Mac의 모델에 위임하는 구조라고 보여준다. [01:32]
• 로컬 모델 목록에는 16GB 메모리를 요구하는 Gemma 4 E4B와 32GB를 요구하는 다른 선택지가 나온다. 시험 기기는 16GB MacBook Air, 128GB MacBook Pro, 32GB Mac mini로 묶인다. [02:07]
• 새 세션의 모델 선택에서 Hybrid를 고르고 로컬 모델을 지정한다. 진행자는 비공개 정보를 걸러낸 뒤 나머지를 클라우드 서비스로 전달한다고 보여준다. [03:01]

3. 가상 금융 자료로 개인정보 감지와 청구 검토 시험

• 인터넷 계약서, 청구서, 6개월치 은행 명세서에 검토할 문제를 넣은 가상 자료를 준비한다. 실제 개인정보가 담긴 종이 문서도 별도 시험 대상으로 가져온다. [04:04]
• 납부액과 청구서, 약정 요금을 대조하도록 요청하자 Privacy Gate가 개인정보를 감지하고 검토를 요구한다. 진행자는 Mac에서 처리하는 옵션을 선택한다. [05:09]
• 클라우드는 계획·웹 검색을, 로컬 모델은 비공개 파일 처리를 맡는다고 보여준다. 이어 개인정보를 검사하는 작은 모델로 PII Tracer를 소개하고, Hugging Face에서 공개돼 있다고 드러낸다. [05:55]

4. 메모리별 선택지와 금융 검토 결과

• 기기 간 대화 자동 동기화를 확인한다. 16GB Mac에는 Gemma 4 E4B만 제공되고, 32GB Mac mini에서는 모든 모델 선택지가 표시된다. [07:22]
• 결과에는 지역 내 더 나은 인터넷 상품과 최대 88달러의 과다 청구 가능성이 나온다. 과다 청구는 가상 자료에 대한 결과이며, 앱은 파일과 세부정보가 Mac에 남았다고 안내한다. [08:06]
• 같은 요청을 이전에 실행한 처리 기록을 보여준다. 진행자는 개인정보가 가려진 내용이 외부 처리로 전달됐다고 보여준다. [08:30]

5. 실제 문서 사진에서 드러난 입력 경로의 차이

• 실제 종이 문서를 촬영한 뒤 차량 대여 관련 거래 사진부터 시험한다. 진행자는 사진을 대화창에 직접 첨부하면 클라우드로 올라간다며 이 경로를 주의하라고 보여준다. [09:22]
• Mac의 데스크톱 파일을 대상으로 작업을 시작한다. 요청에 적힌 CSV는 없었지만 앱이 사진을 발견하고 로컬 문자 인식을 시도했으며, 개인정보 감지 후 Mac에서 처리하도록 선택한다. [09:59]
• 차량 거래 사진은 인터넷에 접근하지 않고 로컬로 분석됐다고 보여준다. 이어 더 민감한 사진도 로컬로 읽고, 후속 질문에서는 개인정보를 가린 정보만 외부로 보낼 수 있다고 드러낸다. [10:30]

6. 의료 기록과 주차 고지서가 보여준 보호와 자동화의 경계

• 의료 기록에 적힌 시술의 웹 검색을 요청하면서 문서 제출도 요구한다. 앱은 시술 정보를 제공하되, 문서 전송은 업로드가 되므로 하지 않았다고 안내한다. [10:56]
• 주차 위반 고지서를 워싱턴 DC의 공개 기록과 대조하려 하지만 이미지 접근과 개인정보 제한에 부딪힌다. 로컬 처리 후에도 고지서를 인터넷으로 보내지 않고, 사용자가 직접 번호를 입력할 조회 경로를 안내한다. [12:06]
• 진행자는 클라우드가 어려운 질문을 맡고 Mac이 은행 명세서를 보관하는 역할 분담으로 시연을 마무리한다. 편의성과 보안 사이의 균형이 영상의 최종 메시지다. [12:19]

🧾 결론

• 영상의 핵심은 로컬과 클라우드를 하나의 작업 흐름으로 연결하는 역할 분담이다.
• Privacy Gate는 시연에서 금융·의료·주차 관련 개인정보에 반응했지만, 모든 입력과 전송 경로를 보호한다고 일반화할 근거는 부족하다.
• 하이브리드 방식의 편의성은 확인할 수 있으나, 민감정보를 보존하려면 첨부 방식과 외부로 전달되는 내용을 사용자가 이해해야 한다.

📈 투자·시사 포인트

• 제품 관점에서는 모델 선택 기능과 함께 개인정보 감지, 로컬 파일 접근, 외부 검색을 연결하는 사용성이 평가 요소가 된다.
• 기기 메모리는 실행 가능한 로컬 모델의 범위를 좌우했다. 하이브리드 제품을 평가할 때는 지원 기기의 범위와 실제 작업 품질을 함께 살펴볼 필요가 있다.
• 진행자는 로컬 파일 처리 부분이 크레딧을 사용하지 않는다고 설명했다. 전체 비용을 판단하려면 클라우드 사용량과 요금 조건을 별도로 확인해야 한다.
• 이 영상은 Perplexity의 후원을 받은 제품 시연이다. 시연 결과만으로 시장 우위, 매출 효과, 투자 수익을 판단할 수는 없다.

⚠️ 불확실하거나 확인이 필요한 부분

• 개인정보 차단의 근거는 화면의 안내, 처리 기록, 진행자의 설명이다. 네트워크 전송을 독립적으로 검사하거나 탐지 누락률을 측정한 결과는 제시되지 않았다.
• 사진의 대화창 직접 첨부는 클라우드 업로드로 이어진다고 설명된다. Privacy Gate의 적용 범위를 모든 입력 경로로 확대해 해석하면 안 된다.
• 대화가 기기 사이에서 자동 동기화되는 모습은 나오지만, 동기화되는 데이터의 범위와 로컬 분석 결과에 민감정보가 포함될 가능성은 설명되지 않는다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 실제 금융·의료 자료를 사용하기 전에 가상 개인정보가 들어간 문서로 감지와 처리 흐름을 시험한다.
• Hybrid 모드, 로컬 모델, Privacy Gate 활성화 여부를 확인하고 개인정보 감지 시 Mac에서 처리하는 옵션을 선택한다.
• 민감한 사진은 대화창에 직접 첨부하기 전에 업로드 동작을 확인하고, 영상에서 사용한 Mac 로컬 파일 접근 경로와 구분한다.
• 확인 가능한 처리 기록에서 외부로 전달된 내용과 가려진 내용을 검토하고, 대화 동기화의 범위도 확인한다.

❓ 열린 질문

• Privacy Gate가 놓치는 개인정보 유형이나 문서 형식은 무엇이며, 탐지 정확도는 어떻게 검증할 수 있을까?
• 로컬 문서에서 생성한 요약과 후속 대화는 어디까지 클라우드 전송·기기 동기화의 대상이 될까?
• 같은 작업에서 16GB·32GB·128GB Mac의 정확도, 지연 시간, 전체 비용은 얼마나 달라질까?