🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 Sora의 영상 생성 전 과정에 출처 표시, 실존 인물 동의, 청소년 보호, 유해 콘텐츠·오디오 차단, 신고·삭제 수단을 결합했으며, 해당 제품은 2026년 4월 26일부로 제공이 종료됐다.

📌 핵심 요약

• Sora가 생성한 모든 영상에는 가시적·비가시적 출처 신호와 C2PA 메타데이터가 포함되며, 일부 결과물에는 제작자 이름이 표시되는 동적 워터마크도 적용된다.
• 실존 인물이 포함된 사진을 영상으로 만들려면 해당 인물의 동의와 미디어 업로드 권리를 확인해야 하며, 어린이나 어려 보이는 인물이 포함된 경우에는 더욱 엄격한 생성 제한과 검토가 적용된다.
• 캐릭터 기능은 이용자가 자신의 외모와 음성 사용 권한을 직접 관리하고 언제든 철회할 수 있게 하며, 자신의 캐릭터가 포함된 다른 이용자의 초안까지 확인·삭제·신고할 수 있도록 한다.
• 청소년 계정에는 성인용 결과물 제한, 유해하거나 연령에 맞지 않는 피드 콘텐츠 차단, 성인과의 메시지 제한, 보호자 제어, 연속 스크롤 기본 제한이 적용된다.
• Sora는 생성 전후에 프롬프트·영상 프레임·음성 기록·피드 콘텐츠를 다층적으로 검사하며, 이용자는 공개 여부를 직접 결정하고 콘텐츠 삭제, 신고, 계정 차단 등의 구제 수단을 사용할 수 있다.

🧩 주요 포인트

1. Sora가 생성한 모든 영상에는 가시적·비가시적 출처 신호와 C2PA 메타데이터가 포함되며, 일부 결과물에는 제작자 이름이 표시되는 동적 워터마크도 적용된다.
2. 실존 인물이 포함된 사진을 영상으로 만들려면 해당 인물의 동의와 미디어 업로드 권리를 확인해야 하며, 어린이나 어려 보이는 인물이 포함된 경우에는 더욱 엄격한 생성 제한과 검토가 적용된다.
3. 캐릭터 기능은 이용자가 자신의 외모와 음성 사용 권한을 직접 관리하고 언제든 철회할 수 있게 하며, 자신의 캐릭터가 포함된 다른 이용자의 초안까지 확인·삭제·신고할 수 있도록 한다.
4. 청소년 계정에는 성인용 결과물 제한, 유해하거나 연령에 맞지 않는 피드 콘텐츠 차단, 성인과의 메시지 제한, 보호자 제어, 연속 스크롤 기본 제한이 적용된다.
5. Sora는 생성 전후에 프롬프트·영상 프레임·음성 기록·피드 콘텐츠를 다층적으로 검사하며, 이용자는 공개 여부를 직접 결정하고 콘텐츠 삭제, 신고, 계정 차단 등의 구제 수단을 사용할 수 있다.

🧠 상세 정리

1. Sora의 안전 설계와 제품 제공 종료

OpenAI는 Sora 2 모델과 Sora 앱을 새로운 협업형 영상 생성 수단으로 소개하면서, 안전 장치를 제품 설계 초기부터 포함했다고 설명한다. 구체적인 보호 범위에는 생성 영상의 출처 식별, 실존 인물의 초상과 음성에 대한 동의 관리, 청소년 보호, 유해 콘텐츠 필터링, 오디오 안전, 이용자 통제와 신고 절차가 포함된다. 이 보호 체계는 특정 기능 하나에 의존하기보다 생성 단계와 공유 이후 단계에 서로 다른 장치를 배치하는 방식으로 구성됐다. 한편 이 문서는 2026년 3월 23일 게시됐으며, 본문 상단에는 2026년 4월 26일부로 Sora 제품이 더 이상 제공되지 않는다는 상태 변경도 명시돼 있다.

2. 생성 영상의 출처와 추적 가능성

Sora로 생성된 모든 영상에는 AI 생성물임을 구분하기 위한 가시적 신호와 비가시적 신호가 함께 포함된다. 모든 영상에는 업계 표준 서명 방식인 C2PA 메타데이터가 삽입되며, OpenAI는 영상을 Sora 생성물로 추적하기 위한 내부 역이미지 검색 및 오디오 검색 도구도 운용한다고 설명한다. 이 추적 체계는 ChatGPT 이미지 생성과 Sora 1에서 사용했던 시스템을 바탕으로 하며, 높은 정확도로 영상의 출처를 확인하는 것을 목표로 한다. 또한 많은 결과물에는 제작자의 이름이 포함된 동적 이동형 워터마크가 표시돼, 메타데이터를 직접 검사하지 않는 상황에서도 생성 출처와 제작자 정보를 눈에 띄게 전달한다.

3. 사진 기반 실존 인물 영상의 동의와 제한

Sora는 가족이나 친구의 사진처럼 사람이 포함된 이미지를 업로드해 영상으로 만드는 기능을 제공했으며, 이용자는 사진 속 인물의 동의를 받았고 해당 미디어를 업로드할 권리가 있다고 확인해야 한다. 사람이 등장하는 이미지 기반 영상 생성에는 캐릭터 기능을 이용한 생성보다도 더 엄격한 안전 가드레일이 적용된다. 특히 어린이나 어려 보이는 사람이 포함된 이미지는 생성 가능한 내용에 대해 한층 더 강한 검토와 제한을 받는다. 이러한 실존 인물 기반 영상은 공유할 때 항상 워터마크가 포함되므로, 동의 확인과 생성 단계의 제한뿐 아니라 외부로 공개되는 결과물의 식별 가능성도 유지된다.

4. 캐릭터를 통한 외모·음성 사용 통제

캐릭터 기능은 이용자가 자신의 외모와 음성을 Sora에서 어떻게 사용할지 직접 통제하도록 설계됐다. 캐릭터 소유자만 사용 가능 대상을 결정할 수 있고, 이미 부여한 접근 권한도 언제든 철회할 수 있으며, 공인은 캐릭터 기능을 이용하는 경우를 제외하면 묘사가 차단된다. 다른 이용자가 만든 초안을 포함해 자신의 캐릭터가 들어간 모든 영상은 소유자에게 항상 표시되므로, 해당 영상을 직접 검토하고 삭제하거나 필요하면 신고할 수 있다. 캐릭터 영상에는 추가 안전 가드레일이 적용되며, 이용자는 외모의 중대한 변경, 당황스러운 상황에 배치되는 표현, 정체성의 일관성을 훼손하는 사용 등을 제한하는 더 엄격한 설정도 활성화할 수 있다.

5. 청소년 계정과 피드·메시지 보호

Sora는 청소년 이용자에게 성숙한 내용의 결과물을 제한하는 등 더 강한 보호 장치를 적용한다. 전체 피드는 모든 Sora 이용자에게 적절하도록 설계되며, 청소년 계정에는 유해하거나 안전하지 않거나 연령에 맞지 않는 콘텐츠가 걸러진다. 청소년 프로필은 성인에게 추천되지 않고 성인은 청소년에게 먼저 메시지를 보낼 수 없으며, ChatGPT의 보호자 제어 기능을 통해 부모가 청소년의 다이렉트 메시지 송수신 가능 여부를 관리할 수 있다. 보호자는 Sora 앱에서 개인화되지 않은 피드를 선택할 수도 있고, 청소년에게는 Sora 피드를 연속해서 스크롤할 수 있는 양이 기본적으로 제한된다.

6. 생성 전후의 유해 콘텐츠 다층 필터링

Sora는 창작의 여지를 남기면서 피드를 안전하게 유지하기 위해 여러 단계의 방어 체계를 사용한다. 생성 단계에서는 프롬프트뿐 아니라 결과 영상의 여러 프레임과 오디오 기록까지 검사해 성적 자료, 테러 선전, 자해 조장 등 안전하지 않은 콘텐츠가 만들어지기 전에 차단하려 한다. OpenAI는 새로운 위험을 찾기 위한 레드팀 평가를 수행했으며, 영상이 이미지보다 사실적이고 움직임과 음성을 포함한다는 점을 고려해 이미지 생성보다 정책을 강화했다고 설명한다. 생성 이후에도 자동화 시스템이 모든 피드 콘텐츠를 글로벌 사용 정책에 따라 검사하고 유해하거나 연령에 맞지 않는 자료를 걸러내며, 영향이 큰 위해 영역에는 사람의 검토를 추가하고 새 위험이 파악될 때마다 시스템을 지속적으로 갱신한다.

7. 오디오 보호와 이용자의 구제 수단

오디오가 추가된 Sora에서는 생성된 음성의 기록을 자동으로 검사해 잠재적인 정책 위반을 탐지하며, OpenAI는 완벽한 보호가 어렵다는 점을 인정하면서도 이 영역에 계속 투자한다고 밝힌다. 시스템은 생존 음악가의 스타일이나 기존 작품을 모방한 음악을 생성하려는 요청을 감지하고 차단하도록 설계됐으며, 창작자가 자신의 저작물을 침해했다고 판단한 Sora 결과물에 대해 삭제를 요청하면 이를 처리한다. 영상은 이용자가 직접 선택해야만 피드에 공유되고, 공개한 콘텐츠도 언제든 제거할 수 있다. 영상, 프로필, 다이렉트 메시지, 댓글, 캐릭터는 모두 악용 사례로 신고할 수 있으며, 계정을 차단하면 상대방이 자신의 프로필과 게시물을 보거나 캐릭터를 사용하거나 다이렉트 메시지로 연락하는 것을 막을 수 있다.

🧾 핵심 주장 / 시사점

• Sora의 출처 확인 체계는 C2PA 메타데이터, 비가시적 신호, 동적 워터마크, 내부 역이미지·오디오 검색을 함께 사용해 표시와 사후 추적을 동시에 지원한다.
• 실존 인물 보호는 최초 동의 확인에 그치지 않고 사용 권한 철회, 관련 초안 열람, 삭제·신고, 외모 변경 제한 등 생성 이후의 지속적인 통제까지 포함한다.
• 유해 콘텐츠 대응은 프롬프트 입력, 영상·음성 결과 검사, 피드 자동 필터링, 고위험 영역의 사람 검토, 이용자 신고와 차단을 연결한 다층 구조로 설명된다.

✅ 액션 아이템

• Sora 종료 전후를 구분해 모든 영상의 출처 신호·C2PA·동적 워터마크 적용 범위를 실제 노출 경로로 점검한다.
• 실존 인물의 동의 및 미디어 업로드 권한 검증 절차를 강화하고, 아동/어린이로 보이는 인물은 생성 제한 강도를 더 높여 정리한다.
• 캐릭터 권한 회수·공개 여부 결정·타인 초안 삭제·신고·계정 차단 기능의 연계 동선을 하나의 운영 기준으로 통합 정비한다.

❓ 열린 질문

• 가시적 출처 신호와 비가시적 C2PA 메타데이터를 병행할 때, 공개 환경에서 신뢰도와 운영 비용을 어떻게 균형 있게 맞출 것인가?
• 실존 인물 동의가 불명확한 경우, 어린이/어려 보이는 인물 포함 요청은 어느 범위에서 자동으로 거부할 것인가?
• 청소년 계정의 성인 메시지 제한·부모 제어·연령 부적합 콘텐츠 차단이 삭제·신고·차단 조치와 충돌할 때 어떤 우선 기준이 필요한가?