OpenAI supports California’s bill to advance youth AI safety

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

OpenAI는 청소년의 AI 학습 기회를 유지하면서 연령에 맞는 자동 보호와 기업의 책임을 강화하는 캘리포니아 법안 SB 1119를 지지한다.

📌 핵심 요약

• OpenAI는 연방 차원의 조치가 없는 상황에서 캘리포니아 법안 SB 1119가 청소년 AI 안전의 기준을 세울 수 있다며 뉴섬 주지사에게 서명을 촉구했다.
• OpenAI에 따르면 ChatGPT를 사용하는 청소년의 거의 90%가 한 주 동안 학습·정보 탐색·역량 개발·생산성 목적으로 이를 사용한다.
• ChatGPT for Teens는 시스템이 18세 미만으로 추정하거나 본인이 13~17세라고 밝힌 이용자에게 자동 적용되며, 기본 보호 조치는 이용자가 끌 수 없다.
• SB 1119의 주요 요구사항은 연령 확인, 청소년 제공 전 안전 위험 평가·대응, 독립 감사, 유해 콘텐츠 차단, 부모용 관리 도구, 위기 지원 자원 연결, 표적 광고 제한과 개인정보 보호다.
• OpenAI는 학습 기능과 메모리의 책임 있는 활용을 보존하는 법안 방향을 지지하며, 부모 통제와 미성년자 행동 원칙을 도입해 왔고 시행 과정의 연구·협력에도 참여하겠다고 밝혔다.

🧩 주요 포인트

1. 연령 확인과 해제 불가능한 기본 보호 → 청소년 안전을 이용자의 선택 설정이 아닌 서비스의 기본 조건으로 구성한다.
2. 출시 전 위험 대응과 독립 감사 → 청소년 보호 조치와 기업의 책임성을 함께 요구하는 규제 틀을 제시한다.
3. 학습 기능과 메모리의 책임 있는 활용 보존 → 안전 확보와 지속적인 학습 지원을 함께 추구하며 AI의 특성을 반영한다.

🧠 상세 정리

1. 법안 지지의 배경과 정책적 목표

OpenAI는 2026년 8월 31일 글로벌 정책 부문 부사장 앤 올리어리 명의의 글에서 캘리포니아 상원 법안 SB 1119에 대한 지지를 밝혔다. 청소년이 배우고 창작하며 미래를 준비할 AI 도구에 계속 접근하면서도 실질적인 보호를 받도록 하는 것이 지지의 핵심 이유다. 회사는 연방 차원의 조치가 없는 상황에서 캘리포니아가 청소년 AI 안전의 강한 기준을 세울 기회가 있다고 설명했다. 뉴섬 주지사에게 보낸 서한에서는 관련 입법 주체들의 역할을 평가하고 법안 서명을 촉구했다. 이러한 입장은 샘 올트먼이 전년에 제시한 청소년 관련 원칙과 기존 제품·정책·입법 지원 활동의 연장선으로 제시됐다.

2. 청소년의 이용 현실과 자동 보호

OpenAI는 청소년을 AI와 함께 성장하는 첫 세대로 설명하며, 활용 기회에 상응하는 보호 책임을 강조했다. 회사에 따르면 ChatGPT를 사용하는 청소년의 거의 열 명 중 아홉 명이 한 주 동안 학습, 정보 탐색, 역량 개발 또는 생산성을 위해 서비스를 이용한다. 새로 출시한 ChatGPT for Teens는 18세 미만 이용자의 학습과 비판적 사고를 지원하면서 건강한 이용, 내장된 안전장치, 추가적인 부모 통제를 제공하도록 설계됐다. 시스템이 이용자를 18세 미만으로 추정하거나 이용자가 자신의 나이를 13~17세로 밝히면 해당 경험이 자동 적용된다. 이 보호는 이용자가 해제할 수 있는 선택 설정이 아니라 기본 이용 경험의 일부다.

3. SB 1119가 요구하는 보호와 책임

SB 1119는 유용한 AI 도구에 대한 접근을 유지하면서 연령 확인과 안전 의무를 결합하는 법안으로 소개된다. 주요 요구사항에는 이용자 연령 확인, 청소년에게 제품을 제공하기 전 안전 위험의 식별과 대응, 독립 감사가 포함된다. 자해와 성적 착취 콘텐츠를 비롯한 유해 콘텐츠 및 고위험 상호작용으로부터 청소년을 보호하고, 부모에게 자녀의 이용을 지도하고 제한할 도구를 제공하는 내용도 담겼다. 심각한 안전 위험이 발생하면 위기 지원 자원으로 연결하고, 표적 광고를 제한하며 청소년의 개인정보를 보호하도록 요구한다. OpenAI는 13~17세로 확인된 이용자에게 이러한 보호가 자동 적용돼야 한다고 강조하며, 법안이 실질적인 책임성과 안전장치를 결합한다고 평가했다.

4. AI 특성을 반영한 학습 기능의 보존

OpenAI는 SB 1119가 AI와 소셜미디어의 차이를 인정하고, 청소년의 학습·창작·탐색에 맞춘 보호를 마련한다는 점을 긍정적으로 평가했다. 글에 따르면 정책 입안자들은 연령에 적합한 안전한 경험을 추진하면서도 교육 및 안전에 중요한 기능에 대한 접근을 보존하고자 했다. 여기에는 ChatGPT 메모리 기능의 책임 있는 활용도 포함된다. ChatGPT for Teens는 퀴즈, 학습 시각화, 학습 모드 등 청소년의 학습을 돕는 기능을 제공한다. 이 기능들은 교육자 및 학습 전문가와 함께 개발됐으며, 문제를 단계적으로 풀도록 안내해 이해를 깊게 하고 더 나은 학습 습관을 지원하는 것을 목표로 한다.

5. 메모리와 대화 맥락의 학습·안전 역할

원문은 이전 대화의 맥락을 활용하는 기능이 학습 지원과 안전장치의 지속적인 작동에 모두 기여할 수 있다고 설명한다. 메모리는 과거 대화에서 관련 정보와 선호를 이어받아 청소년이 장기 학습 프로젝트를 매번 처음부터 다시 시작하지 않도록 돕는다. 이러한 연속성은 시간이 지나도 더 유용한 학습 지원을 제공하고 보호 조치를 일관되게 적용하는 데 활용된다. 또한 우려되는 패턴을 인식하고 유해한 패턴을 강화하지 않도록 하며, 추가적인 도움이나 자원이 필요한 청소년에게 더 효과적으로 대응하는 데 도움이 될 수 있다고 제시된다. OpenAI는 이런 역할을 근거로 메모리의 책임 있는 활용을 교육 및 안전에 중요한 기능의 일부로 다룬다.

6. 기존 보호 조치와 시행 과정의 보완

OpenAI는 지난 1년 동안 부모 통제, 연령 예측, 청소년 안전 청사진을 추가하고 모델의 의도된 행동을 규정하는 모델 명세에 18세 미만 이용자 원칙을 반영했다고 밝혔다. 관련 원칙은 청소년과의 낭만적 관계 형성, 정서적 의존을 부추기는 행동, ChatGPT가 인간이거나 의식이 있다고 주장하는 행동을 금지한다. 부모 통제 기능은 가족이 청소년의 주요 설정을 관리하고 고위험 상황에서 알림을 받을 수 있도록 한다. 회사는 SB 1119를 강력한 안전 체계로 평가하면서도, 기술 변화에 맞춰 효과를 유지하려면 시행 과정에서 지속적인 연구와 협력으로 주요 조항을 개선할 수 있다고 설명했다. 앞으로도 해당 작업을 지원하고 자동 보호와 학습·성장 기회를 함께 제공하겠다는 입장을 밝혔다.

🧾 핵심 주장 / 시사점

• 자동 적용되고 해제할 수 없는 보호 조치는 청소년의 발달상 필요를 서비스의 기본 설계에 반영한다는 방향을 보여준다.
• 독립 감사와 제품 제공 전 위험 대응을 함께 요구하는 방식은 청소년 보호를 콘텐츠 제한을 넘어 기업의 검증 책임으로 확장한다.
• 메모리는 학습의 연속성과 안전 대응을 지원하는 기능으로 설명되며, 법안은 이러한 활용 가능성을 보존하는 방향을 취한다.

✅ 액션 아이템

• SB 1119의 연령 확인, 독립 감사, 개인정보 보호 요구사항 검토.
• ChatGPT for Teens의 자동 적용 대상과 해제 불가능한 기본 보호 범위 확인.
• 학습 기능과 메모리의 책임 있는 활용을 중심으로 시행 과정의 연구·협력 내용 검토.

❓ 열린 질문

• SB 1119의 연령 확인과 독립 감사는 시행 과정에서 어떤 기준으로 구체화될 것인가?
• ChatGPT for Teens의 자동 적용과 해제 불가능한 기본 보호는 청소년의 학습 기회와 안전을 어떻게 함께 지원하는가?
• 학습 기능과 메모리의 책임 있는 활용을 보존하면서 개인정보 보호를 어떻게 충족할 것인가?