엔비디아, 삼전닉스 이후 돈 벌 곳은 여기" (음재훈 GFT벤처스 대표)

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

엔비디아·삼성전자·SK하이닉스 이후의 투자 기회는 이들이 만든 인프라 위에서 보안·비용·정확도 문제를 해결하는 산업별 AI 애플리케이션에 있다는 것이 음재훈 대표의 관점이다.

📌 핵심 요점

1. 인프라 다음은 실제 매출을 만드는 애플리케이션이다. 인터뷰는 애플리케이션 사업이 상대적으로 적은 자금으로 개발·출시·매출 발생까지 이어질 수 있다는 점에 주목한다. 동시에 광학 인터커넥트, 전력과 변압기 등 인프라 병목을 해결하는 분야에도 기회가 남아 있다고 본다.
2. 온프레미스 AI는 기업 도입을 막는 보안과 비용 문제를 겨냥한다. 금융·의료·공공기관처럼 데이터를 외부로 보내기 어려운 고객은 내부 서버나 어플라이언스를 대안으로 검토할 수 있다. 자체 장비는 용량 안에서 토큰별 과금 없이 사용하므로 예산 예측에 유리하지만, 대규모 자원 운영에서는 클라우드의 효율도 있어 하이브리드 확산을 전망한다.
3. 산업 특화 AI의 경쟁력은 업무에 필요한 정확도를 확보하는 데 있다. 업종·기업별 데이터, 여러 에이전트와 재확인 체계를 결합해 오류를 줄이려는 접근이다. 오픈소스 모델을 교체하고 내부 데이터로 추가 학습하는 역량도 중요하며, 업무상 책임이 큰 고객은 속도보다 정확도를 우선할 수 있다.
4. 산업 경험·고객 신뢰·업무 연결이 진입장벽을 만든다. GFT는 창업자가 고객의 문제와 업계의 병목을 이해하는지 중시한다. 고객 업무에 깊이 연결되고 데이터가 축적된 솔루션은 교체가 어려워질 수 있으며, 기존 SaaS 기업도 브랜드·고객·데이터를 활용해 AI 도입에서 우위를 가질 수 있다.
5. AI의 시장은 소프트웨어 기능을 넘어 사람이 수행하던 서비스로 넓어진다. 병원 공간과 설비의 이용률 개선, 채용 판단 지원, 콜센터와 식당의 서비스 개선이 사례로 제시된다. 비용 절감뿐 아니라 업무 결과와 고객 만족을 높이는지가 사업 가치의 기준이 된다.

🧩 배경과 문제 정의

• AI 투자 관심이 GPU·메모리·데이터센터에 집중된 가운데, 인프라 이후 매출과 기업가치를 만들 애플리케이션 분야가 다음 투자처로 떠오르고 있다.
• 데이터센터 확대에는 전력 확보, 송전망과 변압기 공급, 지역사회 반대와 인허가 문제가 얽혀 있다. 발표된 투자 계획이 모두 실제 가동으로 이어질지는 불확실하다.
• 기업의 AI 도입은 데이터 보안과 규제, 예측하기 어려운 사용 비용, 업무에 필요한 정확도 때문에 제약을 받는다. 온프레미스와 산업별 특화 AI는 이러한 제약을 해결할 대안이다.
• 범용 모델의 성능 향상이 모든 AI 사업 기회를 없애지는 않는다는 관점에서, 산업 전문성·고객 신뢰·기존 업무 체계가 만드는 경쟁력을 살펴본다.

🕒 시간순 섹션별 상세정리

1. 인프라 위에서 가치를 만드는 AI 애플리케이션

• GFT를 포함한 투자자들은 인프라와 함께 애플리케이션 스타트업에 주목한다. 애플리케이션은 상대적으로 필요한 자금이 적고, 개발·출시·매출 발생까지의 주기가 짧다 [03:08]
• 인터넷 인프라 위에서 구글과 아마존이 성장했듯, AI에서도 엔비디아·삼성전자·SK하이닉스의 인프라 위에 큰 가치를 만드는 애플리케이션 기업들이 등장하고 있다 [03:45]

2. GPU 다음 병목인 인터커넥트와 전력

• GPU와 메모리의 활용도를 높이려면 장치 사이의 통신도 빨라져야 한다. 구리선 연결을 광학 연결로 바꾸는 인터커넥트 분야에 투자와 신규 스타트업 진입이 이어지고 있다 [04:40]
• 데이터센터는 전력 조달뿐 아니라 지역사회 반대와 인허가 문제까지 해결해야 한다. 변압기 주문 대기 기간도 4~5년에 달해 실제 가동까지 시간과 비용이 크게 늘어날 수 있다 [05:45]

3. 보안과 규제로 막힌 기업 AI 도입을 푸는 온프레미스

• 클라우드 AI의 데이터 보안 문제가 온프레미스 AI 수요를 키우고 있다. 기업 자체 데이터센터나 서버에 AI 인프라를 설치해 내부에서 사용하는 방식이다 [07:52]
• 금융·헬스케어·안보·정보·공공기관 등에는 규정 준수 때문에 데이터를 클라우드에 올리기 어려운 영역이 많다. 개인적으로 AI를 활용해도 직장에서는 사용할 수 없는 수요가 남아 있다 [08:28]

4. 사용량 과금의 불확실성과 온프레미스의 예산 예측 가능성

• 클라우드 AI는 사용할수록 비용이 늘어나며, 사람을 대체하려고 도입한 AI가 오히려 인건비보다 비싸지는 경우도 있다 [09:13]
• 자체 인프라에서는 토큰별 과금 없이 하드웨어 용량 안에서 AI를 계속 사용할 수 있다. 하드웨어를 자본지출로 처리하고 AI 서비스 운영비를 10~20% 수준으로 잡는 구조는 예산을 예측하기 쉽게 만든다 [09:35]

5. 중견기업용 어플라이언스와 하이브리드 확산

• 대형 AI 기업과 직접 협력하기 어려운 중견기업에는 자체 보안 환경을 갖춘 어플라이언스가 대안이 된다. 기업 규모에 맞춘 장비 하나로 직원 수천 명을 지원하는 구성이 가능하다 [11:46]
• GPU와 메모리 확보 부담은 남지만, GPU 4~8개가 들어가는 어플라이언스는 대규모 데이터센터와 필요한 설비 규모가 다르다. 냉각과 광케이블 전환 같은 문제도 대형 데이터센터와 같은 수준으로 발생하지는 않는다 [12:39]

6. 산업별 데이터와 검증 체계가 만드는 정확도 경쟁력

• 산업별 특화 온프레미스 솔루션은 보안과 비용뿐 아니라 정확도 문제도 겨냥한다. 금융권에서 개인적으로 AI를 쓰면서도 직장에서는 활용하지 못했던 경험이 창업의 출발점이 된 사례가 있다 [13:57]
• 특정 업종과 기업의 데이터로 학습한 모델에 여러 에이전트와 재확인 체계를 결합해 99% 이상의 정확도를 확보하려는 방식이다. 잘못된 답변이 업무상 책임으로 이어지는 고객에게는 처리 속도보다 정확도가 중요하다 [15:05]

7. 오픈소스 모델 교체와 내부 데이터 학습

• 오픈소스 모델은 폐쇄형 모델보다 성능이 약 3~6개월 뒤처진다는 평가지만, 특정 모델에 종속되지 않고 더 적합한 모델로 계속 교체할 수 있다는 장점이 있다 [16:31]
• 고객 데이터는 기업 내부에 유지하면서 학습하고, 모델의 가중치나 파라미터를 공유해 개선하는 방식도 활용된다. 모델 선택과 기업별 추가 학습이 솔루션 업체의 역량이 된다 [17:00]

8. 온프레미스가 넓히는 GPU·메모리 수요

• 온프레미스 확산은 GPU와 메모리 업체에도 시장 확대의 기회다. 공동 클라우드 자원을 사용하는 기업들이 자체 장비를 갖추면 개별 기업에 필요한 하드웨어 수요가 생긴다 [17:34]
• 클라우드 도입 초기에 보안 우려로 확산이 더뎠던 것처럼, AI에서도 보안 문제가 인프라 선택에 영향을 준다. AI 도입이 온프레미스를 다시 검토하게 만드는 계기가 되고 있다 [17:53]

9. 온디바이스 AI의 개인정보 보호와 성능 목표

• 기기 안에서 실행하는 모델과 전용 칩, 개인용 AI 비서도 투자 관심 분야다. 개인용 AI 비서를 온디바이스로 구현하면 개인정보를 기기 안에서 처리할 수 있다 [18:33]
• 작은 모델이 클라우드 AI 솔루션 성능의 80~90% 수준을 내는 방향으로 개발이 진행되고 있다. AI 활용 환경이 다양해지면서 투자 기회도 여러 분야에 남아 있다는 판단이다 [18:50]

10. 대형 모델 기업이 모든 시장을 차지하기 어려운 이유

• 오픈AI와 앤트로픽 같은 기업은 클라우드와 토큰 과금 중심의 사업모델을 갖고 있어 온프레미스로 쉽게 전환하기 어렵다. 온프레미스는 매출에서 하드웨어 비중이 크다는 점에서도 기존 사업과 차이가 있다 [19:35]
• 산업별 특화 AI는 전문성뿐 아니라 브랜드와 신뢰로 고객을 확보할 수 있다. 기술과 품질이 비슷해져도 고객은 자신의 업종에서 믿을 수 있는 업체를 선택할 수 있다 [20:07]

11. 인프라 투자 회수에 필요한 수요와 완공 가능성

• 인터뷰에서 인용한 월스트리트저널 기사 추산에 따르면, 인프라 투자금을 만회하려면 애플리케이션 소비가 미국 전체 GDP의 8% 이상이어야 한다. 통신비와 오락비 등을 합친 것보다 큰 지출이 필요하다는 점이 투자 회수의 의문으로 연결된다 [21:54]
• 애플리케이션 시장의 기회와 발표된 인프라 투자 전체의 회수 가능성은 구분해야 한다. 발표된 프로젝트가 모두 구축·가동될 것이라는 전제 자체가 성립하기 어렵다는 판단이다 [22:42]

12. 투자 판단의 핵심인 창업자의 산업 경험

• GFT는 산업별 특화 AI 솔루션을 찾으며, 창업자가 해당 업종의 경험·노하우·네트워크를 갖췄는지 중시한다. 고객의 문제가 무엇인지 정확히 알아야 사업을 시작할 수 있기 때문이다 [23:14]
• AI 기술이 점차 보편화되는 환경에서는 업계의 병목과 고객의 우려를 이해하는 창업자가 중요하다. 이런 창업자가 기술 역량을 갖춘 공동창업자나 CTO와 결합하면 문제 이해와 해결책 개발을 함께 갖출 수 있다 [23:54]

13. 버티컬 AI의 신뢰와 업무 체계가 만드는 진입장벽

• 금융·공공기관·방산 기술·제조·서비스업 등에서 산업별 AI 기회가 있다. 법률과 의료에는 이미 기업가치와 자금 조달 규모가 큰 전문 AI 업체들이 자리 잡고 있다 [24:42]
• 범용 AI 기업이 의료 솔루션을 출시하더라도, 고객은 해당 분야에 오랫동안 집중해 온 전문 업체를 더 신뢰할 수 있다 [24:58]

14. 미국 의료 AI의 기회는 병원 운영 효율에도 있다

• 미국은 보험 처리 여부에 따라 처방이 달라지고, 의료비가 전체 GDP의 거의 20%를 차지할 만큼 비효율이 크다는 문제의식이 있다. 투자 기회도 진단·치료 AI에 앞서 병원 운영을 개선하는 영역에서 찾는다 [25:57]
• 한국에서는 반나절에 여러 검사를 받을 수 있지만, 미국에서는 수주를 기다리거나 검사 항목과 보험 적용에 제약을 받는 경험이 의료 운영의 비효율을 보여준다 [26:19]

15. 기존 SaaS 기업이 AI 도입에서 가진 우위

• 기존 SaaS 기업은 브랜드·고객·데이터를 이미 확보하고 있어 AI를 결합하기 유리하다. AI 스타트업이 이 자산을 새로 만드는 것보다 기존 기업이 AI 기능을 도입하는 일이 더 쉽다는 판단이다 [28:06]
• AI를 기회로 활용해 성장하는 SaaS 기업이 있는 반면, 도입이 늦어진 업체는 어려움을 겪는다. 기존 지위를 지키는 데에도 경영진의 대응과 도입 속도가 중요하다 [28:16]

16. AI 서비스의 SaaS 과금과 스타트업의 진입 과제

• SaaS는 소프트웨어의 제공 방식이자 사업모델이다. 패키지를 구매하고 연간 약 20%의 유지·운영비를 내는 방식과 달리, 클라우드로 접속해 월정액을 내는 구조다 [28:56]
• 온프레미스를 제외한 AI 솔루션 대부분도 클라우드 제공과 월정액 과금을 지향한다. 온프레미스의 확산은 이 제공·과금 구조를 흔드는 변화가 될 수 있다 [29:15]

17. SaaS 도입이 늦은 시장과 AI 채용 솔루션의 기회

• 기존 사업자가 강한 대규모 시장에서는 스타트업이 경쟁하기 어렵다. 작은 분야나 SaaS가 아직 도입되지 않은 시장에서 새로운 기회를 찾을 수 있다. [30:04]
• AI 기반 HR 소프트웨어는 채용부터 평가·성과 보수·인력 생애주기 관리까지 제공할 수 있다. 채용에서는 학벌뿐 아니라 이력서의 공백, 직무 적합성, 지원자의 성향과 장기 근속 가능성을 분석해 조기 퇴사에 따른 낭비를 줄이는 데 활용할 수 있다. [30:31]

18. 소프트웨어를 넘어 인건비가 투입되는 서비스로 확장되는 AI

• 비용 효율화보다 더 큰 가치를 만드는 AI는 소프트웨어 시장 대체를 넘어서는 변화로 평가된다. 소프트웨어 시장은 전 세계 GDP의 5%에도 못 미치며, AI가 대체하는 대상은 인건비가 들어가는 서비스 시장이라는 점에서 영향이 더 크다는 주장이다. [31:50]
• 콜센터는 AI 도입으로 필요한 인력을 줄이고 직원 한 명이 담당할 수 있는 고객을 늘려 서비스 효율과 품질을 높일 수 있다. 다만 고객이 사람과 AI의 대화 차이를 느낄 수 있어, 일본에서는 사람과 AI를 함께 활용하는 방식도 사용된다. [32:39]

🧾 결론

• 다음 투자처를 찾는 기준은 AI 기술의 보유 여부보다 고객이 도입을 망설이는 이유를 해결하고 매출로 연결하는 능력이다.
• 범용 모델의 성능 향상 속에서도 산업 전문성, 고객 신뢰, 축적된 데이터와 업무 체계에 기반한 사업 기회가 남을 수 있다.
• 애플리케이션 시장의 성장 가능성과 발표된 데이터센터 투자 전체의 회수 가능성은 별도로 판단해야 한다.
• 온프레미스 확산은 애플리케이션 사업자의 기회인 동시에 기업별 GPU·메모리 수요를 추가로 만드는 계기가 될 수 있다.

📈 투자·시사 포인트

• 산업 특화 AI: 창업자의 업종 경험과 네트워크, 고객 문제의 구체성, 실제 업무에서의 정확도와 도입 성과를 함께 살펴볼 필요가 있다.
• 기존 SaaS와 신규 기업: 기존 고객·데이터를 가진 사업자의 AI 도입 속도를 확인하고, 스타트업은 그 우위를 넘어설 차별점이나 SaaS 도입이 늦은 시장을 확보했는지 검토할 수 있다.
• 인프라 병목: 광학 인터커넥트와 전력 관련 장비는 기회가 될 수 있지만, 발표된 투자액보다 전력 확보·인허가·장비 공급을 거친 실제 가동 가능성이 중요하다. 한국 제조기업의 공급 기회도 이 맥락에서 제시된다.
• 새로운 활용처: 병원 운영과 채용처럼 서비스 성과를 개선하는 분야, 개인정보를 기기 내부에서 처리하는 온디바이스 AI도 관심 대상으로 언급된다. 개별 기업의 투자 수익이 보장된다는 의미는 아니다.

⚠️ 불확실하거나 확인이 필요한 부분

• 인터뷰에서 인용한 ‘인프라 투자 회수에 미국 GDP의 8% 이상에 해당하는 애플리케이션 소비가 필요하다’는 추산은 원문 기사와 계산 전제 확인이 필요하다. 제공된 내용만으로 투자 범위와 회수 기간을 알 수 없다.
• ‘99% 이상 정확도’는 확보하려는 목표로 제시된다. 평가 업무, 데이터셋, 오류의 정의와 실제 고객 환경의 검증 결과가 없어 달성된 성능으로 단정할 수 없다.
• 온프레미스 운영비 ‘10~20%’는 산정 기준과 포함 항목이 명확하지 않다. 하드웨어 구매·교체, 전력, 유지보수와 운영 인력을 포함해도 클라우드보다 유리한지는 별도 비교가 필요하다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 관심 기업별로 고객 업종, 해결하는 업무 문제, 보안·규제 요건, 실제 도입 사례와 매출 발생 여부를 정리한다.
• 동일한 업무와 사용량을 기준으로 클라우드·온프레미스의 총비용을 비교하고, 장비 투자와 운영·교체 비용의 포함 범위를 확인한다.
• 정확도 주장의 평가 기준과 검증 결과를 확인하고, 오류가 발생했을 때 재확인 절차와 고객의 책임 부담을 살핀다.
• 창업자의 산업 경험과 고객 네트워크, 기존 시스템 연결 수준, 데이터 축적 효과를 확인해 경쟁력의 근거를 점검한다.

❓ 열린 질문

• 산업별 AI에서 고객 신뢰와 업무 연결이 범용 모델 기업 및 기존 SaaS 기업의 진입을 얼마나 오래 방어할 수 있을까?
• 어떤 사용량과 보안 조건에서 온프레미스의 비용 예측 가능성이 클라우드의 자원 운영 효율보다 중요해질까?
• AI 애플리케이션의 실제 매출과 고객 지출은 인프라 투자 회수에 필요한 수요를 얼마나 뒷받침할 수 있을까?