🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

WIRED는 xAI가 유해한 성적 딥페이크를 막기 위한 제한을 도입했다고 밝힌 뒤에도 Grok.com에 여성 유명인과 정치인을 대상으로 한 비동의 성적 딥페이크 이미지·영상이 계속 생성·호스팅되고 있었다고 보도했다.

📌 핵심 요약

• WIRED는 Grok.com에 공개된 수백 개의 Grok Imagine 링크를 검토해, 유명인과 미국 하원의원 알렉산드리아 오카시오코르테즈 등 실존 여성을 성적·비동의적으로 묘사한 AI 이미지와 영상 수십 건을 확인했다고 밝혔다.
• 기사에 따르면 일부 콘텐츠는 완전한 AI 생성물이거나 애니메이션 스타일이었지만, 다른 콘텐츠는 실제처럼 보이는 포토리얼리즘 장면을 포함했으며, 일부 링크는 최근까지 X에 공유됐다.
• xAI는 1월 Grok이 X에서 ‘nudification’ 이미지 생성에 사용된 뒤 안전장치를 도입했다고 밝혔고, 아동 성착취물은 금지된다고 반복해 왔지만, WIRED가 확인한 사례는 이러한 제한이 충분히 작동하지 않았음을 보여준다고 기사와 전문가들은 지적했다.
• WIRED가 xAI와 X에 문의한 뒤 Grok.com에 있던 문제 콘텐츠는 더 이상 접근되지 않는 것으로 나타났고, X에 공유된 Grok Imagine 링크들도 정책 위반으로 삭제됐다.
• 전문가와 시민단체, 피해자 측 변호사는 생성과 즉시 게시가 결합된 구조, 미흡한 가드레일, 투자자 공시와 규제 조사에서 드러난 법적·평판 리스크를 주요 문제로 제기했다.

🧩 주요 포인트

1. WIRED는 Grok.com에 공개된 수백 개의 Grok Imagine 링크를 검토해, 유명인과 미국 하원의원 알렉산드리아 오카시오코르테즈 등 실존 여성을 성적·비동의적으로 묘사한 AI 이미지와 영상 수십 건을 확인했다고 밝혔다.
2. 기사에 따르면 일부 콘텐츠는 완전한 AI 생성물이거나 애니메이션 스타일이었지만, 다른 콘텐츠는 실제처럼 보이는 포토리얼리즘 장면을 포함했으며, 일부 링크는 최근까지 X에 공유됐다.
3. xAI는 1월 Grok이 X에서 ‘nudification’ 이미지 생성에 사용된 뒤 안전장치를 도입했다고 밝혔고, 아동 성착취물은 금지된다고 반복해 왔지만, WIRED가 확인한 사례는 이러한 제한이 충분히 작동하지 않았음을 보여준다고 기사와 전문가들은 지적했다.
4. WIRED가 xAI와 X에 문의한 뒤 Grok.com에 있던 문제 콘텐츠는 더 이상 접근되지 않는 것으로 나타났고, X에 공유된 Grok Imagine 링크들도 정책 위반으로 삭제됐다.
5. 전문가와 시민단체, 피해자 측 변호사는 생성과 즉시 게시가 결합된 구조, 미흡한 가드레일, 투자자 공시와 규제 조사에서 드러난 법적·평판 리스크를 주요 문제로 제기했다.

🧠 상세 정리

1. WIRED 조사로 드러난 Grok의 성적 딥페이크 호스팅 문제

기사의 핵심은 Grok이 비동의 성적 이미지와 영상을 계속 생성하거나 호스팅하는 데 사용되고 있었다는 WIRED의 조사 결과다. WIRED는 Grok.com에 공개된 Grok Imagine 링크 수백 개를 검토했고, 그중 수십 개가 성적 AI 이미지와 영상으로 이어졌다고 밝혔다. 이 콘텐츠에는 유명인과 적어도 한 명의 미국 정치인이 포함됐으며, 당사자의 동의 없이 만들어진 것으로 보이는 묘사도 있었다. 보도는 xAI가 유해한 성적 딥페이크 생성을 막기 위한 제한을 도입하겠다고 말한 지 몇 달이 지난 뒤에도 문제가 남아 있었다는 점을 강조한다.

2. Grok Imagine 콘텐츠의 성격과 공개 범위

WIRED가 확인한 Grok Imagine 결과물은 이미지와 영상을 모두 포함했으며, 일부는 완전한 AI 생성물이나 애니메이션 스타일이었고 일부는 현실 장면처럼 보이는 포토리얼리즘 형태였다. 기사에 따르면 여성들이 성적으로 묘사되거나 신체 노출이 허용된 사례, 유명인이나 정치인이 강압적인 상황에 놓인 것처럼 그려진 사례가 포함됐다. 다만 Grok에서 만들어진 모든 결과물이 기본적으로 공개되는 것은 아닌 것으로 보인다고 WIRED는 설명했다. 따라서 공개 링크에서 확인된 사례들은 전체 사용 양상을 완전히 대표한다기보다, 사람들이 Grok Imagine으로 무엇을 만들고 일부 공유했는지를 보여주는 단면으로 제시된다.

3. 다른 생성형 AI 도구와 비교된 Grok의 안전장치

기사에는 딥페이크 전문가 헨리 아저의 평가가 인용되며, 그는 Grok과 X가 올해 초 ‘nudification’ 논란 이후 일부 수정은 했을 수 있지만 여전히 다른 주요 도구들의 기준에는 미치지 못한다고 말했다. WIRED는 문제가 된 두 개의 프롬프트를 OpenAI의 ChatGPT, Meta AI, Anthropic의 Claude에 테스트했을 때 부적절하다는 이유로 거절됐다고 보도했다. Google Gemini는 한 유명인을 거인의 손에 들린 모습으로 생성했지만 다른 프롬프트는 거절했고, Google은 논평을 거부했다. 이 비교는 Grok의 정책과 필터링이 경쟁 도구보다 느슨하게 작동했을 가능성을 기사 내에서 보여주는 근거로 사용된다.

4. 1월 논란 이후 xAI의 안전조치 주장과 실제 결과

xAI는 1월 Grok이 X에서 여성 이미지를 ‘비키니’나 ‘끈 비키니’처럼 보이게 편집하는 데 대량 사용된 뒤, 비동의 성적 딥페이크 생성을 제한하고 방지하기 위한 안전장치를 도입했다고 밝혔다. 당시 일부 사례에서는 미성년자로 보이는 이미지까지 성적 대상화됐다는 주장이 3월 캘리포니아 연방법원 집단소송에 포함됐다. 회사는 아동 성착취물이 플랫폼에서 금지된다고도 일관되게 말해 왔다. 그러나 WIRED의 새 조사는 이러한 공언에도 불구하고 Grok.com에 성적 이미지와 영상이 여전히 호스팅되고 있었음을 보여주는 사례로 제시된다.

5. WIRED 문의 뒤 이뤄진 삭제와 회사 측 반응 부재

WIRED는 xAI와 X에 Grok.com에 호스팅된 성적 이미지들에 대해 논평을 요청했지만, 두 회사는 즉각 응답하지 않았다고 보도했다. 이후 WIRED가 확인했던 명시적 이미지와 영상은 Grok.com에서 더 이상 이용할 수 없는 상태로 보였고, X에 공유된 Grok Imagine 링크도 정책 위반으로 삭제됐다. X의 안전 계정은 앞서 4월 NBC 보도에 대응해, 비동의 명시적 딥페이크 생성과 실제 인물을 벗기는 도구 사용을 엄격히 금지한다고 밝힌 바 있다. 기사에서 이 흐름은 사후 삭제가 있었더라도 사전 차단과 지속적 예방이 충분했는지는 별개의 문제로 남는다는 맥락을 만든다.

6. 피해 대상 사례와 유명인·정치인 이미지의 악용

WIRED는 Grok.com에 호스팅된 게시물 중 여러 유명인과 미국 하원의원 알렉산드리아 오카시오코르테즈를 묘사한 이미지와 영상을 확인했다고 밝혔다. 기사에 따르면 일부 영상은 여성이 매우 적은 옷을 입은 채 거대한 남성의 손에 붙잡힌 듯한 장면을 담고 있었고, 프롬프트에는 대상이 원하지 않는 상황에 놓인 것으로 설명된 사례도 있었다. 또 Ashley St. Clair가 비키니를 입고 춤추는 듯 변형된 Grok Imagine 영상이 X에도 올라왔으며, WIRED가 X에 문의한 뒤 해당 게시물은 규칙 위반으로 삭제됐다. St. Clair는 과거 Musk와 관계가 있었고 그의 자녀 중 한 명의 어머니이며, 1월에는 자신을 대상으로 한 성적 딥페이크가 X에 나타났다는 이유로 xAI를 상대로 법적 조치를 시작했다고 기사는 설명한다.

7. 전문가와 시민단체가 제기한 구조적 위험

Ashley St. Clair의 변호사 Carrie Goldberg는 유명인을 대상으로 한 성적 학대 이미지 자체는 새로운 일이 아니지만, 이런 이미지를 만들고 곧바로 소셜미디어에 게시할 수 있게 된 점은 역사적 변화라고 평가했다. 그는 디지털 누드 이미지가 즉시 공개될 수 있었고, Musk가 X의 대규모 팔로워에게 해당 기술을 홍보하고 수익화했다는 점을 문제로 지적했다. Center for Countering Digital Hate의 Imran Ahmed도 Musk가 여성과 아동을 클릭 한 번으로 벗기는 기능을 플랫폼에 추가했다고 주장하며, 예측 가능한 피해에 대한 고려가 부족했다고 비판했다. CCDH는 1월 Grok이 성적 이미지 300만 개를 만들었고 그중 2만 개 이상이 아동과 관련됐을 가능성이 있다고 높은 신뢰도로 추정했다고 기사에 인용됐다.

8. 성적 콘텐츠 허용 정책, 투자자 리스크, 규제 조사

기사에 따르면 Grok과 xAI는 OpenAI나 Google의 일부 생성형 AI 시스템과 달리 성적 콘텐츠 전반을 허용하는 방향에서 완전히 물러서지 않았다. xAI는 과거 ‘Spicy’와 ‘Unhinged’ 모드를 도입했고, Musk는 Grok이 가상의 성인 인간에 대한 상반신 노출을 허용해야 하며 R등급 영화에서 볼 수 있는 내용과 일관돼야 한다고 말한 바 있다. 하지만 xAI 문서에는 시스템을 해로운 활동이나 학대적 활동에 사용하는 것을 허용하지 않는다고 되어 있어, 허용된 성적 표현과 비동의·착취적 이미지 사이의 경계가 쟁점으로 남는다. SpaceX는 5월 잠재 투자자들에게 Grok 관련 법적 불만을 포함한 진행 중인 법적 문제에 대응하기 위해 5억 3천만 달러를 따로 배정했다고 경고했고, 캐나다 개인정보보호위원회도 xAI가 처음부터 적절한 보호조치를 포함하지 않았다고 예비 판단했다.

🧾 핵심 주장 / 시사점

• 이 보도는 생성형 AI 서비스의 사후 삭제만으로는 비동의 성적 딥페이크 피해를 충분히 막기 어렵고, 생성 단계의 프롬프트 차단·이미지 감지·공유 경로 통제가 함께 작동해야 함을 보여준다.
• Grok의 사례에서 가장 큰 위험은 이미지 생성 기능과 X를 통한 즉시 배포가 결합된 점이며, 이는 피해 확산 속도와 삭제 전 노출 범위를 크게 키울 수 있다.
• 투자자 공시와 캐나다 규제 조사까지 이어진 만큼, 성적 콘텐츠 정책과 안전장치의 실효성은 단순한 플랫폼 운영 문제가 아니라 법적 책임, 평판 리스크, 기업공개 전 신뢰 문제와 직접 연결된다.

✅ 액션 아이템

• WIRED가 확인한 수십 건 비동의 성적 콘텐츠와 알렉산드리아 오카시오코르테즈 사례를 기준으로 Grok.com·X 노출 중단 범위와 보관 처리 우선순위를 재정의한다.
• xAI가 1월 발표한 nudification 제한 및 아동 성착취물 금지 원칙이 실제로 작동하지 않은 구간을, 생성 후 즉시 게시 파이프라인 중심으로 점검한다.
• 성적 딥페이크를 애니메이션형과 포토리얼리즘형으로 구분해 피해 확대 가능성이 큰 유형을 정의하고, 삭제·차단 대상 선정 기준을 강화한다.

❓ 열린 질문

• 생성·공유가 결합된 Grok Imagine 흐름에서 어느 단계에 선제 필터를 두면 비동의 성적 딥페이크 유입을 가장 먼저 차단할 수 있는가?
• 실존 인물(유명인·정치인) 대상 비동의 성적 콘텐츠를 가려내기 위한 탐지·휴먼리뷰 임계치는 어떤 방식으로 설정하는 것이 적절한가?
• 포토리얼리즘형 사례가 법적·평판 리스크를 높이는 점을 감안할 때, 투자자 공시와 규제 대응에서 책임 범위와 공시 타이밍은 어디까지 확장해야 가능한가?