🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

AI 생성 콘텐츠 판별 수요가 커지는 가운데, 팽그램은 900만 달러를 유치하고 인간·AI 혼합 글과 여러 모델의 생성 이미지를 탐지하는 차세대 제품을 공개했습니다.

📌 핵심 요약

• 뉴욕 기반 AI 탐지 스타트업 팽그램은 멘로벤처스가 주도하고 헤이스택, 스콥, 스크립트캐피털, 카덴자가 참여한 투자 라운드에서 900만 달러를 유치했습니다.
• 팽그램은 AI 보조 글과 인간·AI 혼합 콘텐츠를 99% 이상의 정확도로 찾는다고 주장하는 텍스트 모델 ‘팽그램 4’와 연구용 미리보기 단계의 이미지 탐지 모델을 함께 공개했습니다.
• 텍스트 탐지기는 수천만 건의 인간 작성 문서와 주제·길이·문체를 맞춰 대형언어모델로 만든 합성 문서를 비교 학습하며, 메타데이터나 숨겨진 워터마크에 의존하지 않습니다.
• 팽그램은 월 20달러 웹 구독, 소셜미디어 게시물을 실시간 표시하는 크롬 확장 프로그램, API를 제공하며 서브스택·쿼라·교육기관·출판사·채용업체 등을 고객으로 확보했습니다.
• 테크크런치의 제한적 시험에서는 순수 AI 글과 생성 이미지를 대체로 잘 찾아냈지만, 일부 인간 작성 문장과 실제 사진 속 AI 이미지 사례를 잘못 분류하는 등 완벽하지는 않았습니다.

🧩 주요 포인트

1. 대조 학습 설계 → 인간 문서와 동일 조건의 AI 합성 문서를 짝지어 일관된 문체·어휘 선택 차이를 판별 근거로 삼습니다.
2. 다층적 판별과 제품화 → 전면 생성 여부뿐 아니라 편집·윤문 같은 부분적 AI 개입도 점수화하고 웹, 확장 프로그램, API로 제공합니다.
3. 강한 탐지 성능과 오분류의 공존 → 우회 지시와 가벼운 수정에도 대체로 견고했지만, 판정 결과를 절대적 증거로 취급하기 어려운 사례도 확인됐습니다.

🧠 상세 정리

1. 900만 달러 투자와 팽그램의 문제의식

뉴욕 기반 스타트업 팽그램은 인터넷에 범람하는 AI 생성 글과 이미지를 인간이 만든 콘텐츠와 구분하려는 사업을 추진하며 900만 달러를 유치했습니다. 이번 투자는 멘로벤처스가 주도했고 헤이스택, 스콥, 스크립트캐피털, 카덴자가 참여했으며, 회사는 같은 시점에 차세대 텍스트 탐지 모델인 팽그램 4와 이미지 탐지 모델 팽그램 이미지를 공개했습니다. 스탠퍼드에서 AI와 머신러닝을 공부한 맥스 스페로와 브래들리 에미는 챗GPT 출시 뒤 봇, 검색 최적화용 저품질 AI 글, 대형언어모델을 활용한 영향력 공작이 늘어나는 상황을 보고 약 2년 전 회사를 설립했습니다. 스페로는 글의 생성 주체를 알면 독자가 환각 가능성을 경계해야 하는지, 실제 기자가 충분히 조사한 글로 받아들일지 등 정보를 평가하는 방식 자체가 달라진다고 설명했습니다.

2. 인간 문서와 합성 거울을 이용한 텍스트 탐지

팽그램의 텍스트 탐지기는 수천만 건의 출처가 확인된 인간 작성 문서를 학습한 대규모 머신러닝 모델입니다. 회사는 각 인간 문서마다 주제, 길이, 말투를 동일하게 유지하되 최첨단 대형언어모델이 작성하도록 한 대응 문서인 ‘합성 거울’을 만들었습니다. 모델은 이 두 부류를 비교하면서 AI가 반복적으로 보이는 문체적 차이와 단어·표현 선택의 경향을 학습하고, 이를 토대로 생성 여부를 높은 확신도로 판별합니다. 이 방식은 복사·붙여넣기 과정에 남는 메타데이터나 보이지 않는 워터마크를 찾는 접근이 아닙니다. 팽그램은 새 모델이 전적으로 AI가 쓴 글뿐 아니라 AI 보조 글, 인간과 AI가 섞인 글, 탐지를 회피하도록 문장을 바꾸는 이른바 휴머나이저 프로그램의 결과도 더 잘 찾아내며 정확도가 99%를 넘는다고 주장했습니다.

3. AI 활용 단계의 구분과 제도권의 대응

팽그램이 다루는 문제는 문서 전체가 AI로 작성됐는지를 이분법적으로 가리는 데 그치지 않습니다. 사람이 초안을 직접 쓴 뒤 AI에 편집이나 문장 정리를 맡긴 경우처럼 개입 수준이 다른 콘텐츠도 구별하려 하며, 스페로는 이러한 보조 활용 자체는 작성자가 사용 사실을 공개한다면 받아들일 수 있다고 봤습니다. 기사에서는 캐나다 정치인이 의원 대상 연설 중 AI 지시문을 그대로 읽어 조롱을 받은 사례와, 변호사들이 챗GPT가 만든 허위 판례 인용을 사용해 제재나 벌금 위험에 처한 사례를 소개했습니다. 학술계에서도 오픈 액세스 저장소 아카이브는 저자가 대형언어모델 출력을 검토하지 않았다는 증거가 발견되면 1년간 투고를 금지할 수 있다는 정책을 도입했습니다. 환각된 참고문헌이나 ‘변경해 드릴까요?’와 같은 메타 문구가 그 증거에 포함되며, AI 출력 검토와 사용 공개가 기관 차원의 책임 문제로 이어지고 있음을 보여줍니다.

4. 구독·확장 프로그램·API로 이어지는 사업화

일반 사용자는 월 20달러의 웹 구독으로 팽그램을 이용하거나 크롬 확장 프로그램을 설치할 수 있습니다. 확장 프로그램은 엑스, 링크드인, 서브스택, 레딧, 미디엄에 표시되는 게시물을 실시간으로 분류하고, 현재 화면에서 인간 콘텐츠와 AI 콘텐츠가 차지하는 비율을 피드 상태 점수로 보여줍니다. 팽그램은 같은 기술을 API로도 제공하며, 서브스택은 독자들이 선호하는 작가의 뉴스레터에 AI가 사용됐는지 확인할 수 있도록 이를 플랫폼에 통합했습니다. 스페로에 따르면 쿼라, 학교와 대학, 출판사와 에이전트, 채용업체 등도 API 고객에 포함됩니다. 한편 윈스턴 AI, 오리지널리티닷에이아이, 카피릭스, GPT제로도 자체 탐지기를 개발하고 있어, 생성 콘텐츠 판별 수요를 둘러싼 경쟁이 이미 형성돼 있습니다.

5. 텍스트 모델의 실제 시험과 오분류 사례

테크크런치 기자의 제한적 시험에서 팽그램은 챗GPT와 클로드가 전적으로 작성한 뉴스 기사를 쉽게 찾아냈고, 기자가 AI 문장을 사람처럼 보이도록 가볍게 수정해도 좀처럼 속지 않았습니다. 두 모델에 탐지 회피를 지시한 뒤 콘텐츠를 생성하게 한 경우에도 판별을 피하지 못했지만, 기자가 완전히 다시 쓴 일부 문장을 AI 작성으로 표시하는 오류가 있었습니다. 기자의 기존 기사를 챗GPT와 클로드로 다듬은 결과에는 13%의 AI 보조 점수를 부여했으며, 실제 변경된 단어를 찾아낸 문장도 있었지만 변경을 놓치거나 인간 작성 문장을 AI 보조로 잘못 표시한 경우도 있었습니다. 같은 기사의 원문 전체에는 100% 인간 점수를 부여했습니다. 개인적 문체가 강한 뉴스레터의 앞부분을 AI에 제공하고 같은 스타일로 뒷부분을 쓰게 한 시험에서는 대체로 인간 작성 구간과 AI 작성 구간을 쉽게 구별했습니다. 이 결과는 강한 탐지 능력과 함께 문장 단위 판정에는 거짓 양성이 존재한다는 점도 드러냈습니다.

6. 여러 생성 모델을 겨냥한 이미지 탐지와 한계

팽그램 이미지 탐지기는 현재 연구용 미리보기로 제공되며, 회사는 수주 안에 이용 범위를 확대할 계획입니다. 특정 회사의 워터마크를 확인해 주로 그 회사가 만든 결과물을 찾는 방식과 달리, 팽그램은 실제 사진과 AI 이미지 사이의 미세한 픽셀 수준 통계 분포 차이를 학습해 여러 생성 모델의 이미지를 판별한다고 설명했습니다. 스페로는 현실 세계를 촬영한 사진 안에 AI 생성 이미지가 포함된 경우에도 이를 찾을 수 있다고 주장했습니다. 기자의 시험에서는 사실적인 이미지와 만화풍 이미지가 모두 쉽게 탐지됐고, 실제 사진 속 AI 이미지 영역도 열 지도에서 뚜렷하게 표시됐습니다. 다만 한 사례에서는 AI 생성 이미지를 촬영한 사진을 인간 콘텐츠로 잘못 판단했습니다. 스페로는 이 기술이 AI 사용자를 향한 마녀사냥에 쓰이기를 원하지 않는다면서도, AI 콘텐츠가 인간의 신호를 압도하지 않도록 인간 콘텐츠를 우선해서 식별할 장치가 필요하다고 강조했습니다.

🧾 핵심 주장 / 시사점

• 팽그램은 생성 여부를 단순한 예·아니요로만 다루지 않고 AI 보조 비율과 문장별 흔적까지 제시하므로, 핵심 쟁점을 AI 사용 금지보다 개입 수준의 확인과 공개로 확장합니다.
• 텍스트의 문체적 선택과 이미지의 픽셀 분포를 분석하는 방식은 특정 서비스의 메타데이터나 워터마크가 없어도 판별하려는 접근이지만, 기사에 나온 오분류 사례는 기술이 완전하지 않음을 보여줍니다.
• 언론·학술·법률 영역에서 검토되지 않은 AI 출력의 실제 문제가 나타나고 플랫폼과 기관이 대응 규칙을 마련하면서, 탐지 도구는 개인용 확인 수단뿐 아니라 플랫폼 운영과 책임 관리 수단으로도 사용되고 있습니다.

✅ 액션 아이템

• 팽그램 4가 주장하는 99% 이상 정확도를 인간·AI 혼합 콘텐츠 기준으로 재검증할 범위를 정의한다.
• 메타데이터나 워터마크에 의존하지 않는 대조 학습이 편집·윤문 점수화에서 드러내는 한계를 점검한다.
• 테크크런치 시험에서 나타난 인간 작성 문장과 실제 사진 속 AI 이미지 오분류 사례를 비교한다.

❓ 열린 질문

• 팽그램 4의 99% 이상 정확도 주장은 어떤 인간·AI 혼합 콘텐츠 조건에서 유지되는가?
• 연구용 미리보기 단계의 이미지 탐지 모델은 여러 모델의 생성 이미지를 어느 수준까지 구분 가능한가?
• 월 20달러 웹 구독·크롬 확장 프로그램·API 판정을 교육기관·출판사·채용업체가 절대적 증거로 쓰기 어려운 기준은 무엇인가?