After a deepfake voice fooled her grandfather, this founder sprang into action

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

DetectifAI는 창업자 가족의 딥페이크 음성 사기 피해를 계기로, 스마트폰 안에서 음성을 판별하는 소형 AI 모델을 개발하고 휴대전화 제조사 대상 라이선스 사업을 추진하고 있다.

📌 핵심 요약

• Tarini Padmanabhuni는 약 2년 전 할아버지가 형제를 사칭한 딥페이크 음성에 속아 몸값을 지급한 사건을 계기로 샌프란시스코에 DetectifAI를 설립했다.
• 기사에 인용된 FBI 집계에 따르면 미국인의 지난해 AI 기반 사기 피해액은 약 9억 달러로 2024년보다 24% 증가했으며, 60세 이상 피해액은 50~59세의 두 배였다.
• DetectifAI는 처음부터 스마트폰 운영체제에서 실행할 수 있는 소형 AI 모델을 설계한다고 밝혔다. 통화·음성 메시지 등의 오디오를 기기 밖으로 보내지 않고 AI 생성 음성인지 즉시 판별하는 것이 목표다.
• DetectifAI는 SDK를 휴대전화 제조사에 라이선스해 운영체제의 기본 기능으로 탑재하는 것을 우선 추진하며, 기업과 사기 방지 업체에 대한 기술 라이선스도 추가 수익원으로 계획하고 있다.
• Padmanabhuni에 따르면 DetectifAI는 초기 매출을 내고 있으며 인도 금융기관의 월 10만 건 이상 통화에서 딥페이크 탐지와 화자 검증을 수행한다. 고객명은 비밀유지계약 때문에 공개하지 않았고, 회사는 소규모 시드 투자를 유치했다.

🧩 주요 포인트

1. 가족 사칭 피해와 고령층의 큰 피해 규모 → DetectifAI는 통화 당사자가 현장에서 음성의 진위를 판단할 수 있도록 돕는 데 초점을 맞춘다.
2. 기기 내 소형 AI 모델과 운영체제 기본 탑재 → 오디오를 외부로 보내지 않는 탐지 방식이 차별화의 핵심이며, 휴대전화 제조사의 채택이 보급을 좌우한다.
3. 인도 금융기관의 월 10만 건 이상 통화 처리와 초기 매출 → 사업 활용 사례는 있지만, 공개되지 않은 고객 정보와 스마트폰 탑재 목표는 구분해 평가할 필요가 있다.

🧠 상세 정리

1. 가족 사칭 사기에서 출발한 창업

Tarini Padmanabhuni의 할아버지는 전화를 받고 상대가 자신의 형제라고 믿었다. 전화 속 목소리는 납치당했다며 풀려나려면 몸값을 지급해야 한다고 요구했고, 할아버지는 돈을 보냈다. 그러나 실제 형제는 전혀 다른 곳에 있었으며 이 사건이 벌어진 사실조차 모르고 있었다. 상대의 목소리는 AI로 만들어진 딥페이크였고, Padmanabhuni는 돈보다 할아버지에게 진위를 구별할 방법이 없었다는 점이 오래 남았다고 말했다. 약 2년 전의 이 경험을 계기로 설립한 샌프란시스코의 DetectifAI는 다른 사람들이 같은 방식으로 속지 않도록 돕는 것을 목표로 한다.

2. 커지는 피해와 기존 탐지 방식에 대한 문제 제기

기사에 인용된 FBI 집계에 따르면 미국인의 지난해 AI 기반 사기 피해액은 약 9억 달러로, 2024년보다 24% 증가했다. 60세 이상이 잃은 금액은 50~59세 피해액의 두 배로 나타났다. 딥페이크 음성 탐지 시장에는 이미 Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety, Microsoft 소유의 Nuance 등이 경쟁하고 있다. 다만 Padmanabhuni는 현재 탐지 제품들이 원격 서버의 클라우드에서 실행되기 때문에 휴대전화 제조사가 기기에 직접 내장하기 어렵다고 주장한다. 그는 이런 구조가 사기 표적이 된 개인에게 충분한 방어 수단을 제공하지 못한다는 문제를 제기한다.

3. 처음부터 기기 실행을 염두에 둔 소형 모델

DetectifAI는 일부 기업처럼 대형 클라우드 모델을 축소해 휴대전화에 넣는 대신, 처음부터 작은 AI 모델을 설계한다고 설명한다. 회사가 제시한 기준은 스마트폰 운영체제 안에서 실행할 수 있을 만큼 모델을 작게 만드는 것이다. 이를 통해 통화 중 들리는 목소리뿐 아니라 음성 메시지와 다른 오디오에서도 AI 생성 여부를 즉시 판별하는 것을 목표로 한다. 이 구상에서는 오디오가 기기 밖으로 나가지 않으며, 음성을 듣는 사용자의 기기에서 판별이 이뤄진다. 기사는 이러한 설계 방향과 목표를 소개하지만, 실제 스마트폰에서의 탐지 정확도나 처리 속도 수치는 제시하지 않는다.

4. 휴대전화 제조사 중심의 라이선스 전략

DetectifAI의 우선 판매 대상은 휴대전화 제조사이며, 탐지 기능이 운영체제에 기본 탑재되도록 소프트웨어 도구를 라이선스하는 방식이다. 제품의 핵심인 SDK는 다른 회사가 자사 제품에 통합할 수 있는 코드 묶음으로, 기존 유통 경로를 통해 라이선스할 수 있다고 설명한다. Padmanabhuni는 초기 iPhone 출시 당시 AT&T의 독점 계약을 비유로 들며, DetectifAI를 먼저 탑재하는 제조사가 경쟁사보다 유리해질 수 있다고 주장한다. 이는 먼저 도입하는 업체의 경쟁 우위에 대한 창업자의 전망이며, 기사에서 제조사 계약 체결을 발표한 것은 아니다. 기업과 사기 방지 업체에 기술을 라이선스하는 사업은 추가 수익원으로 계획하고 있다.

5. 인도 금융기관 통화에서의 초기 사업

Padmanabhuni에 따르면 DetectifAI는 이미 초기 매출을 내고 있으며, 인도 금융기관을 위해 매달 10만 건 이상의 통화를 처리한다. 이 통화는 채권 추심과 대출 서류 후속 확인을 담당하는 AI 음성 에이전트가 거는 전화다. 회사는 모든 통화에 딥페이크 탐지와 함께 상대가 주장하는 인물이 맞는지 확인하는 화자 검증을 적용한다고 설명한다. Padmanabhuni는 비밀유지계약을 이유로 고객 이름을 밝히지 않았고, 기사에는 구체적인 매출 규모도 나오지 않는다. 이 사례는 금융 업무에서의 초기 활용을 보여주지만, 휴대전화 운영체제에 기본 탑재하려는 사업 목표와는 구분해서 읽어야 한다.

6. 창업자 이력과 초기 투자

Padmanabhuni는 12세에 머신러닝을 시작했으며, 이후 인도의 Manipal Institute of Technology에서 소프트웨어와 물리적 기계를 연결하는 사이버 물리 시스템을 공부했다고 밝혔다. 그는 국제 학생 공학 대회인 Formula Student에서 자신이 인도 최초라고 설명하는 무인 경주차 부문의 최연소 팀장을 맡았다고 말한다. DetectifAI는 전 TechCrunch 편집자 Josh Constine과 컨설팅 서비스 회사 KM Growth의 프린시펄 Manohar Kamath로부터 소규모 시드 투자를 받았다. 회사는 TechCrunch 편집팀의 심사를 거쳐 Startup Battlefield 경쟁에 참가할 스타트업 중 하나로 선정됐다. 대회는 10월 13~15일 샌프란시스코 도심에서 열리는 TechCrunch Disrupt에서 진행될 예정이다.

🧾 핵심 주장 / 시사점

• DetectifAI가 내세우는 차별점은 딥페이크 탐지 자체뿐 아니라, 사기 전화를 받는 개인의 기기에서 즉시 판단을 제공하려는 배치 방식에 있다.
• 휴대전화 제조사에 SDK를 제공하는 전략은 운영체제 기본 탑재를 통한 보급을 지향하므로, 제조사의 채택 여부가 중요한 사업 변수다.
• 인도 금융기관의 통화 처리 실적은 초기 수요를 보여주지만, 스마트폰에서의 탐지 성능이나 제조사 도입 성과까지 입증하는 정보는 아니다.

✅ 액션 아이템

• DetectifAI의 소형 AI 모델이 통화·음성 메시지를 기기 안에서 즉시 판별한다는 목표의 실현 여부 확인.
• 휴대전화 제조사의 SDK 채택과 운영체제 기본 탑재 진행 여부 검토.
• 인도 금융기관의 월 10만 건 이상 통화 처리와 초기 매출을 고객 정보 비공개 제약을 고려해 평가.

❓ 열린 질문

• DetectifAI의 소형 AI 모델은 스마트폰에서 AI 생성 음성을 얼마나 정확하고 빠르게 판별할 수 있는가?
• DetectifAI의 SDK를 운영체제 기본 기능으로 탑재할 휴대전화 제조사는 확보됐는가?
• 인도 금융기관의 월 10만 건 이상 통화 처리는 어느 정도의 초기 매출로 이어지고 있는가?