🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 청소년 이용자를 위해 Model Spec에 U18 원칙을 추가하고, ChatGPT가 13~17세에게 더 안전하고 연령에 맞는 방식으로 응답하도록 보호 장치와 전문가 기반 개선 계획을 강화한다고 밝혔다.

📌 핵심 요약

• OpenAI는 고위험 상황에서 AI 모델이 어떻게 행동해야 하는지 안내하는 Model Spec에 Under-18, 즉 U18 원칙을 추가했다고 설명했다.
• U18 원칙은 13~17세 청소년에게 안전하고 연령에 맞는 경험을 제공하기 위한 것으로, 발달과학에 기반해 예방, 투명성, 조기 개입을 우선한다.
• 청소년 안전 맥락에서는 자해와 자살, 성적 역할극, 노골적 콘텐츠, 위험한 활동과 물질, 신체 이미지와 섭식 문제, unsafe behavior를 비밀로 해 달라는 요청 등에 더 신중한 보호 장치가 적용된다.
• OpenAI는 미국심리학회를 포함한 외부 전문가의 검토와 조언을 반영했으며, 청소년이 AI를 사용할 때 신뢰할 수 있는 어른의 감독과 대화가 중요하다는 관점을 소개했다.
• 향후에는 연령 예측 모델을 소비자용 ChatGPT 플랜에 도입해 미성년자로 판단되는 계정에 청소년 보호 장치를 자동 적용하고, 부모 지원과 전문가 협력을 계속 확대할 계획이다.

🧩 주요 포인트

1. OpenAI는 고위험 상황에서 AI 모델이 어떻게 행동해야 하는지 안내하는 Model Spec에 Under-18, 즉 U18 원칙을 추가했다고 설명했다.
2. U18 원칙은 13~17세 청소년에게 안전하고 연령에 맞는 경험을 제공하기 위한 것으로, 발달과학에 기반해 예방, 투명성, 조기 개입을 우선한다.
3. 청소년 안전 맥락에서는 자해와 자살, 성적 역할극, 노골적 콘텐츠, 위험한 활동과 물질, 신체 이미지와 섭식 문제, unsafe behavior를 비밀로 해 달라는 요청 등에 더 신중한 보호 장치가 적용된다.
4. OpenAI는 미국심리학회를 포함한 외부 전문가의 검토와 조언을 반영했으며, 청소년이 AI를 사용할 때 신뢰할 수 있는 어른의 감독과 대화가 중요하다는 관점을 소개했다.
5. 향후에는 연령 예측 모델을 소비자용 ChatGPT 플랜에 도입해 미성년자로 판단되는 계정에 청소년 보호 장치를 자동 적용하고, 부모 지원과 전문가 협력을 계속 확대할 계획이다.

🧠 상세 정리

1. Model Spec 업데이트의 목적

본문은 OpenAI가 Model Spec에 청소년 보호를 위한 U18 원칙을 추가했다는 발표로 시작한다. Model Spec은 AI 모델이 어려운 상황이나 고위험 상황에서 어떤 규칙, 가치, 행동 기대에 따라 응답해야 하는지를 정리한 문서로 설명된다. OpenAI는 사람들이 AI와 상호작용하는 방식에서 모델의 행동이 중요하며, 청소년은 성인과 다른 발달적 필요를 갖고 있다고 강조한다. 따라서 이번 업데이트는 기존 원칙을 대체하기보다, 13~17세 이용자에게 적용될 때 어떤 점을 더 명확히 고려해야 하는지를 보완하는 성격이다.

2. U18 원칙의 핵심 방향

U18 원칙은 13~17세 청소년이 ChatGPT를 사용할 때 안전하고 연령에 맞는 경험을 제공하도록 안내한다. 본문은 이 접근이 발달과학에 기반하며, 예방, 투명성, 조기 개입을 우선한다고 설명한다. OpenAI는 이 원칙을 만들면서 미국심리학회를 포함한 외부 전문가에게 사전 검토를 받았다고 밝혔다. 또한 Model Spec의 기존 원칙은 성인과 청소년 모두에게 계속 적용되지만, 미성년자 안전 우려가 더 크게 드러나는 상황에서는 청소년 맥락에 맞춘 해석이 필요하다고 말한다.

3. 고위험 주제에 대한 강화된 보호

OpenAI는 U18 원칙이 Teen Safety Blueprint와 일관되며, 이미 청소년 안전 작업에 활용되어 왔다고 설명한다. 특히 가입 시 18세 미만이라고 밝힌 이용자와 parental controls가 적용되는 맥락에서 콘텐츠 보호 장치가 적용된다고 한다. 보호가 강화되는 영역으로는 자해와 자살, 로맨틱하거나 성적 대상화된 역할극, 그래픽하거나 명시적인 콘텐츠, 위험한 활동과 물질, 신체 이미지와 섭식장애 관련 주제가 제시된다. 또한 안전하지 않은 행동을 비밀로 해 달라는 요청도 모델이 더 주의해야 하는 영역으로 포함된다.

4. 전문가 의견과 청소년 발달 관점

본문은 미국심리학회가 U18 Model Spec의 초기 초안을 검토하고 장기적으로 중요한 통찰을 제공했다고 소개한다. 인용문에서 미국심리학회는 AI 개발자가 청소년 이용자에게 발달적으로 적절한 예방 조치를 제공하고, 더 어린 이용자에게는 더 보호적인 접근을 취해야 한다고 말한다. 또한 AI 도구가 도움이 될 수는 있지만, 사회적·심리적·행동적·생물학적 발달에 중요한 인간 상호작용과 균형을 이뤄야 한다고 강조한다. 청소년의 AI 경험은 신뢰할 수 있는 어른의 감독과 대화를 통해 비판적으로 검토되어야 하며, 독립적 사고와 기술 발달을 돕는 방향이어야 한다고 설명된다.

5. 안전 우려 발생 시의 응답 방식

이번 업데이트는 청소년에게 안전 우려가 생기는 대화에서 assistant가 어떻게 응답해야 하는지도 명확히 한다. 본문에 따르면 대화가 고위험 영역으로 들어갈 경우 청소년은 더 강한 guardrails, 더 안전한 대안, 그리고 신뢰할 수 있는 오프라인 지원을 찾으라는 권유를 접해야 한다. 위험이 임박한 경우에는 응급 서비스나 crisis resources에 연락하도록 안내되어야 한다. OpenAI는 이러한 내용이 Model Spec의 다른 부분과 마찬가지로 의도된 모델 행동을 반영하며, 앞으로 연구, 전문가 의견, 실제 사용 경험을 반영해 계속 다듬겠다고 밝혔다.

6. 제품 보호, 전문가 협력, 향후 계획

OpenAI는 Model Spec 업데이트와 함께 ChatGPT 전반에서 청소년 안전을 강화하기 위한 다층적 접근을 취해 왔다고 설명한다. parental controls 출시 이후 group chats, ChatGPT Atlas browser, Sora app 같은 새 제품에도 보호 장치를 확장해 부모가 청소년의 경험을 조정할 수 있도록 했다고 한다. 또한 Expert Council on Well-Being and AI와 Global Physician Network를 통해 부모 알림, 부모 통제, 민감한 대화에서의 모델 행동 평가, distress 인식과 전문적 돌봄 연결 방식을 개선하고 있다고 설명한다. 앞으로는 ChatGPT 소비자 플랜에 연령 예측 모델을 도입해 미성년자로 판단되는 계정에 U18 경험을 기본 적용하고, 확신이 없거나 정보가 불완전하면 청소년 보호 경험을 기본값으로 삼되 성인에게는 연령 확인 방법을 제공할 계획이다.

🧾 핵심 주장 / 시사점

• 이번 업데이트의 초점은 단순한 콘텐츠 차단이 아니라, 청소년의 발달 단계에 맞춰 모델 행동 기준을 별도로 명확히 하는 데 있다.
• OpenAI는 청소년 안전을 모델 규칙, 제품 보호 장치, 부모 지원, 전문가 자문, 실제 지원 자원 연결을 결합한 다층 구조로 다루고 있다.
• 연령이 불확실할 때 U18 경험을 기본값으로 적용하겠다는 계획은 청소년 보호를 예외적 조치가 아니라 기본 안전 설계에 가깝게 두려는 방향을 보여준다.

✅ 액션 아이템

• U18 원칙을 Model Spec 본문에 반영해 13~17세 대상 보호 기준을 예방·투명성·조기개입의 세 축으로 분해해 기능별 적용 범위를 정한다.
• 자해·자살, 성적 역할극, 노골적 콘텐츠, 위험한 활동·물질, 신체 이미지·섭식 문제, unsafe behavior 비밀요청 등 고위험 맥락에서 보호 장치의 발동 임계점과 조기 개입 절차를 명확히 정비한다.
• 향후 소비자용 ChatGPT 플랜의 연령 예측 모델 도입 시 미성년 판단 계정에 부모 지원·외부 전문가 협력 연계를 포함한 자동 보호 조치를 즉시 적용한다.

❓ 열린 질문

• 연령 예측 모델은 어떤 신뢰수준 기준에서 미성년 계정으로 판단할 때 사용자 접근 제한의 강도와 범위를 조정해야 하는가?
• 고위험 주제별 보호 장치가 적용되는 임계점은 예방·투명성·조기개입 원칙을 충족하면서도 과도한 차단을 피하는 어떤 방식으로 설정되어야 하는가?
• 신뢰할 수 있는 성인 감독과의 대화가 청소년 사용성에 미치는 영향은 어떤 지표로 판단해 모델 응답 정책에 반영할 수 있는가?