내 졸업사진이 ''딥페이크 범죄''에?…"어림없지" 만들기 전에 막는 기술이 있다! [넥스트AI, 미래를 만드는 스타트업]

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

졸업사진의 딥페이크 악용을 줄이기 위해 스틸컷은 사진에 미세 노이즈를 넣는 사전 보호 기술을 개발하고, 이미 생성된 콘텐츠를 판별하는 탐지 기술도 제공한다.

📌 핵심 요점

1. 사전 보호와 사후 탐지를 함께 제공한다. 프로텍트는 인물 사진이 딥페이크 재료로 쓰이는 것을 방해하고, 디텍트는 영상·사진·오디오의 AI 생성·편집 여부를 판별하는 솔루션이다.
2. 보호 기술의 핵심은 AI의 인물 인식을 방해하는 미세 노이즈다. 사람에게는 원본처럼 보이지만 딥페이크 모델이 사진을 활용할 때 실패하도록 유도한다는 설명이다.
3. 성능 수치는 검증 범위를 함께 봐야 한다. 방송에서는 실제 딥페이크 서비스에 대한 방어율 60%, 자체 벤치마크 기준 탐지 정확도 약 95% 이상을 제시했다. 두 수치는 서로 다른 기능의 지표다.
4. 고객 적용과 업데이트 속도를 경쟁력으로 내세운다. SBS 보도국 파일럿 이후 정식 계약을 체결했다고 밝혔으며, 새로운 생성 AI 모델에 대한 탐지 대응은 하루 이틀 안에 가능하다고 설명했다.
5. 장기 목표는 촬영 단계의 보호다. 서울대학교 졸업사진 보호 추진과 AWS 공동 영업을 소개했고, 궁극적으로 삼성·애플 같은 기기에 기술을 내장해 사진을 찍자마자 보호하는 것을 목표로 제시했다.

🧩 배경과 문제 정의

이 영상은 한국투자액셀러레이터와 SBS 문화재단이 함께 진행한 AI 스타트업 발굴 대회의 대상 기업을 소개하는 인터뷰다. 초반에는 초기 투자 위축과 액셀러레이터의 역할을 설명하고, 이후 AI 보안 스타트업 스틸컷의 기술과 사업 적용 사례를 다룬다.

핵심 문제는 인터넷에 공개한 인물 사진이 본인의 의사와 무관하게 딥페이크 범죄의 재료가 될 수 있다는 점이다. 스틸컷은 원본 사진에 미세 노이즈를 넣어 악용을 방해하는 사전 보호와, 이미 만들어진 콘텐츠의 AI 생성·편집 여부를 판별하는 사후 탐지를 함께 제시한다. 방송에 나온 성능과 경쟁 우위는 출연자 측 설명이며, 실제 고객 적용과 장기 목표를 구분해 읽어야 한다.

🕒 시간순 섹션별 상세정리

1. 스타트업 성장 지원과 액셀러레이터의 역할

• 한국투자액셀러레이터와 SBS 문화재단의 AI 스타트업 발굴 대회에서 여섯 기업을 선정했으며, 대상 기업과 투자 지원 기관의 대표를 초대했다고 보여준다. [00:37]
• 출연자는 벤처캐피털의 성장 단계 투자와 대비해, 액셀러레이터가 예비 창업자와 설립 3년 이내 초기 창업자의 사업모델과 투자 유치를 돕는다고 보여준다. [02:08]
• 경험에 기반한 조언과 사업 파트너·투자자 연결을 제공하며, 창업자의 등반을 돕는 셰르파에 역할을 비유한다. [02:40]

2. 초기 투자 위축에 대응한 지원 프로그램 조정

• 2022년부터 초기 창업자를 위한 투자금이 줄어드는 시장을 경험했다고 보여준다. [03:19]
• 자체 공모 프로그램인 바른동행은 지원 기회를 늘리기 위해 연 4회로 확대했다고 드러낸다. [03:55]
• SBS 문화재단과 함께하는 대회는 연 1회로 집중하면서 미래 미디어테크 기업을 선발하고, 상금과 네이버클라우드 크레딧 등의 혜택을 늘렸다고 보여준다. [04:25]

3. 지원 기업의 변화와 대상 기업 소개

• 매회 약 500개 기업이 지원하며, 최근에는 빅테크·글로벌 연구소 출신 인재와 원천 기술의 사업화 실행력을 갖춘 팀이 늘었다고 평가한다. [05:28]
• 여섯 선정 기업 중 대상 기업으로 스틸컷을 소개하고, 대표는 딥페이크로부터 사람과 콘텐츠의 신뢰를 지키는 AI 보안 스타트업이라고 보여준다. [05:58]

4. 두 가지 솔루션과 초기 팀의 실행력

• 서울대학교 출신 창업팀으로, 인물 사진의 딥페이크 악용을 막는 프로텍트와 AI 생성물을 사후에 판별하는 디텍트라는 두 솔루션을 보여준다. [06:24]
• 법인 설립은 방송에서 말하는 올해 초이며, 연구는 2024년 8월 무렵 시작했다고 보여준다. [06:43]
• 생성 AI의 발전 흐름과 사업 방향이 맞아떨어졌고, 인력이 부족한 초기 팀이지만 빠른 의사결정과 실행이 강점이라고 드러낸다. [07:31]

5. 창업 계기와 인물 인식을 방해하는 노이즈

• 진행자는 딥페이크를 AI로 가짜 영상·이미지·소리를 만드는 기술로 설명하며, 실제처럼 보이는 콘텐츠의 문제를 제기한다. [07:49]
• 대표는 반도체 공정 데이터를 AI로 분석했던 경험과 사진 촬영 취미를 소개하고, 직접 찍어준 인물 사진이 범죄 재료가 될 수 있다는 점에서 문제의식을 얻었다고 드러낸다. [08:32]
• 사진에 AI의 인물 인식을 방해하는 노이즈를 넣어 사람에게는 원본처럼 보이지만 딥페이크 모델에는 방해가 되도록 만드는 방식이라고 보여준다. [09:01]

6. 사전 보호 방식과 선정 과정에서 제시된 경쟁력

• 인터넷의 인물 사진은 누구나 가져갈 수 있지만, 공개 전에 미세 노이즈를 삽입하면 딥페이크 소스로 활용할 때 실패하도록 유도할 수 있다고 보여준다. [09:56]
• 투자자 측은 자체 벤치마크의 탐지 성능과 실제 딥페이크 서비스에서의 방어율 60%를 경쟁력으로 제시하고, 한국·미국·유럽의 특허 출원도 언급한다. [10:56]
• SBS 고객 확보와 셀렉트 USA 피칭 대회 종합 1위 실적을 소개하며 기술력, 사업성, 해외 진출 가능성을 선정 배경으로 보여준다. [11:31]

7. 사후 탐지 성능과 새로운 생성 모델 대응

• 디텍트는 영상·사진·오디오가 실제 콘텐츠인지 AI로 생성·편집됐는지 판별하며, 자체 벤치마크 기준 탐지 정확도 약 95% 이상이라고 드러낸다. [12:07]
• 대표는 새로운 생성 AI 모델이 등장해도 정확도를 유지하는 것이 중요하다며, 하루 이틀 안에 대응하고 고객에게 업데이트를 제공할 수 있다고 보여준다. [12:49]
• 이러한 대응의 기반으로 자체 AI 모델과 학습 데이터의 별도 확보·구매 및 활용 기술을 보여준다. [13:10]

8. 뉴스룸 도입과 졸업사진 보호 및 해외 영업

• 방송에서 말하는 올해 6월 무렵부터 SBS 보도국과 제보 영상 판별을 돕는 파일럿을 진행한 뒤 정식 계약을 체결했으며, 최종 판단은 기자와 데스크가 한다고 보여준다. [14:02]
• 서울대학교와 협약을 맺어 졸업사진을 더 안전하게 활용할 수 있도록 프로텍트 적용을 추진한다고 보여준다. [14:14]
• 미국·유럽 시장 진출을 시도하고 있으며, AWS와 파트너 계약을 맺고 공동 영업을 진행한다고 드러낸다. [14:38]

9. 초기 기업을 위한 투자 규모와 지속성

• 한국투자액셀러레이터는 매년 150억 원 규모의 펀드를 조성하고 120억 원을 투자하는 것을 목표로 하며, 기업당 평균 투자금은 약 4억 원이라고 보여준다. [15:23]
• 전체 벤처 투자 규모와 별개로 설립 3년 이내 기업에 대한 초기 투자금은 줄었다며, 매년 꾸준한 투자가 시장에서 의미를 갖는다고 강조한다. [15:46]
• 초기 시장이 얼어붙어도 창업 생태계를 유지하려면 계속 씨앗을 뿌려야 한다는 취지로 투자 지속의 필요성을 드러낸다. [16:10]

10. 촬영 즉시 보호하는 기기 내장 목표와 마무리

• 대표는 보호 기술을 더 많은 사람에게 제공하기 위해 삼성·애플 같은 기기에 기술을 내장하고, 사진을 찍자마자 보호하는 것을 중장기 목표로 제시한다. [16:55]
• 진행자는 대회 대상 기업에 관한 인터뷰를 마무리하고 두 출연자와 인사를 나눈다. [17:14]

🧾 결론

• 영상의 중심 주장은 딥페이크 대응을 생성 이후의 판별뿐 아니라 원본 사진을 공개하기 전의 보호까지 확장할 수 있다는 것이다.
• SBS 뉴스룸의 탐지 도입과 졸업사진 보호 추진은 서로 다른 활용 사례다. 뉴스룸에서는 기자와 데스크가 최종 판단하고 기술은 이를 보조한다.
• 수상, 고객 계약, 특허 출원은 사업 진행 상황을 보여주지만, 모든 딥페이크를 차단하거나 모든 환경에서 같은 정확도를 보장한다는 근거는 아니다.

📈 투자·시사 포인트

• 기술 평가는 지표를 나눠서 해야 한다. 사전 방어율, 사후 탐지 정확도, 새로운 모델 대응 시간을 각각 확인해야 경쟁력을 판단할 수 있다.
• 고객 계약 이후의 확장이 관찰 지점이다. SBS 정식 계약과 AWS 공동 영업이 소개됐지만 매출 규모, 계약 조건, 고객 확대 실적은 제시되지 않았다.
• 기기 내장은 중장기 사업 기회다. 촬영 즉시 보호한다는 목표는 적용 범위를 넓힐 수 있으나, 삼성·애플과의 실제 제휴나 탑재가 성사됐다는 발표는 아니다.
• 초기 투자 위축 속 지원의 지속성도 주요 맥락이다. 한국투자액셀러레이터는 연 150억 원 펀드 조성과 연 120억 원 투자 목표를 설명하며 초기 기업에 대한 꾸준한 투자의 필요성을 강조했다.

⚠️ 불확실하거나 확인이 필요한 부분

• 탐지 정확도 약 95% 이상은 자체 벤치마크 기준이다. 평가 데이터, 표본 수, 오탐·미탐 비율, 외부 검증 결과가 공개되지 않아 실제 운영 성능을 단정하기 어렵다.
• 방어율 60%의 대상 서비스, 성공·실패 판정 기준, 평가 조건은 구체적으로 설명되지 않았다. 이를 모든 사진과 딥페이크 서비스에 적용되는 차단율로 해석해서는 안 된다.
• 새로운 생성 AI 모델에 하루 이틀 안에 대응한다는 설명과 경쟁사는 수주가 걸린다는 비교는 출연자 측 주장이다. 대응 완료의 기준과 독립적인 비교 결과는 제시되지 않았다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 보호 솔루션을 검토한다면 적용 대상 사진과 이용할 딥페이크 서비스에 대해 방어율을 확인하고, 이미지 품질 변화도 함께 비교한다.
• 탐지 도입 전 사진·영상·오디오별 평가 결과와 오탐·미탐 비율, 새로운 생성 모델에 대한 대응 기준을 요청한다.
• 뉴스룸 활용에서는 탐지 결과를 판단 보조 자료로 사용하고, 기자·데스크의 최종 확인 절차를 함께 설계한다.
• 사업성을 평가할 때 SBS 계약 범위, 졸업사진 보호 적용 현황, AWS 공동 영업 성과를 구분해 확인한다.

❓ 열린 질문

• 사진에 넣은 보호 노이즈는 캡처나 이미지 변형을 거친 뒤에도 어느 정도 효과를 유지할까?
• 자체 벤치마크에서 제시한 탐지 정확도는 새로운 모델과 실제 제보 콘텐츠에서도 유지될까?
• 기기 내장을 실현하려면 어떤 기술 검증과 제조사 협의가 필요하며, 실제 협력은 어느 단계일까?