OpenAI, Anthropic face new oversight as New York’s AI safety law takes effect

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

뉴욕주가 2027년 1월 1일 RAISE Act 시행을 앞두고 OpenAI·Anthropic 같은 대형 프런티어 AI 개발사의 등록과 안전·투명성 의무를 감독할 체계를 가동한다.

📌 핵심 요약

• 뉴욕주는 2026년 11월 10일 등록 포털을 열었으며, OpenAI·Anthropic 같은 대형 프런티어 AI 개발사는 2027년 1월 1일까지 등록해야 한다.
• RAISE Act는 연 매출 5억 달러 초과인 대형 프런티어 AI 개발사에 웹사이트상 안전 프레임워크 공개, 중대한 안전 사고의 72시간 이내 보고, 공개 모델 투명성 보고서 발행을 요구한다.
• 신설 기관 DIGIT가 법 집행과 감독을 담당하며, 위반 시 최대 100만 달러, 후속 위반 시 최대 300만 달러의 제재금이 부과될 수 있다. 미등록 기업도 집행 대상이지만 구체적인 조치는 공개되지 않았다.
• Kathy Hochul 주지사는 뉴욕주립대 Binghamton University에 New York Center for AI Responsibility and Research를 출범시켰다. 이 센터는 첨단 AI 시스템을 독립적으로 평가하고 DIGIT와 기업의 안전 프레임워크를 검토하며, 지난 1월 발표 당시 기부금과 자본금 규모는 5,500만 달러였다.
• 뉴욕주는 AI 동반자 서비스 규제도 시행 중이며, 별도의 미성년자 챗봇 안전법은 2027년 6월 1일 발효된다. 캘리포니아 SB 53은 안전 프레임워크 공개·내부고발자 보호·15일 이내 사고 보고를 요구하고, 2027년 초 시행되는 일리노이 SB 315는 유사한 의무에 독립적인 안전 준수 감사를 추가한다.

🧩 주요 포인트

1. 연 매출 5억 달러 초과 기준과 2027년 1월 1일 등록 기한 → 대형 프런티어 AI 개발사에 구체적인 규제 대상과 이행 시점을 제시한다.
2. DIGIT의 집행과 연구센터의 독립 평가 → 기업의 안전 정보 공개를 행정 감독 및 외부 검토와 연결한다.
3. 뉴욕의 72시간과 캘리포니아의 15일 사고 보고 기한, 일리노이의 독립 감사 → 주별 AI 안전 규제가 유사한 방향으로 확대되면서도 세부 의무에는 차이가 있다.

🧠 상세 정리

1. 2027년 시행을 앞둔 등록과 공개 의무

뉴욕주는 미국에서 가장 중요한 AI 안전법 중 하나로 소개된 RAISE Act의 집행을 준비하며, 2026년 11월 10일 대형 프런티어 AI 개발사를 위한 등록 포털을 열었다. 기사에서 대표 사례로 언급한 OpenAI와 Anthropic 같은 개발사는 2027년 1월 1일까지 등록해야 하며, 법도 새해 시작과 함께 시행된다. 적용 대상은 연 매출이 5억 달러를 초과하는 대형 프런티어 AI 개발사다. 이들 기업은 자사 웹사이트에 안전 프레임워크를 공개하고, 중대한 안전 사고를 72시간 이내에 보고하며, 모델 투명성 보고서를 공개적으로 발행해야 한다. 등록 절차뿐 아니라 안전 관리 방식과 사고 정보를 외부에 알리는 의무가 함께 도입되는 것이다.

2. DIGIT의 감독 권한과 주지사의 규제 논리

새로 설립된 Office of Digital Innovation, Governance, Integrity, and Trust, 즉 DIGIT는 RAISE Act를 집행하고 대형 프런티어 AI 연구기관을 감독한다. 위반에 대한 제재금은 한 차례 위반 시 최대 100만 달러, 후속 위반 시 최대 300만 달러에 이를 수 있다. 뉴욕주는 새 포털에 등록하지 않은 기업에도 집행 조치를 취할 수 있지만, 대변인은 구체적인 내용을 밝히지 않았다. Kathy Hochul 주지사는 기술 거물들이 자신들의 AI 비전을 불가피한 것으로 제시하고, 경쟁에서 이기기 위해 부수적인 피해를 감수해야 한다고 말한다며 비판했다. 그는 기업보다 공동체를, 강력한 기술보다 사람을 우선하는 합리적인 AI 규제의 전국적 모델을 만들겠다는 방향을 제시했다.

3. 독립적인 AI 평가를 담당할 연구센터

Hochul 주지사는 등록 포털 개설과 같은 날 뉴욕주립대 Binghamton University에 기반을 둔 New York Center for AI Responsibility and Research도 출범시켰다. 이 센터는 첨단 AI 시스템의 안전성과 보안, 작동을 독립적으로 평가하는 역할을 맡는다. 또한 DIGIT와 협력해 기업들이 제시하는 안전 프레임워크를 검토할 예정이어서, 기업의 공개 자료를 살피는 연구 기능이 법 집행 기관의 감독과 연결된다. 주지사는 앞서 지난 1월 기부금과 자본금 5,500만 달러와 함께 센터 설립 계획을 처음 발표했다. 기사에 제시된 센터의 역할은 독립 평가와 안전 프레임워크 검토이며, 제재를 포함한 법 집행은 DIGIT의 역할로 설명된다.

4. AI 동반자와 미성년자 챗봇으로 이어지는 보호 장치

RAISE Act는 뉴욕주가 통과시킨 유일한 AI 안전법이 아니다. 뉴욕주는 지난해부터 AI 동반자 서비스 운영자가 이용자에게 대화 상대가 봇이라는 사실을 정기적으로 알리고, 자살 생각과 자해를 감지하기 위해 합리적인 노력을 기울이도록 하는 법을 집행하기 시작했다. 이어 Hochul 주지사는 지난 10월 미성년자를 위한 별도의 챗봇 안전법에 서명했다. 이 법은 사람처럼 보이게 하는 기만적 상호작용, 감정을 조종하거나 이용자에게 과도하게 동조하는 응답, 자살이나 섭식 이상 행동을 부추기는 행위 등을 제한한다. 미성년자 대상 법의 시행일은 2027년 6월 1일로, 기사에서는 이미 집행 중인 AI 동반자 규제와 향후 시행될 챗봇 보호 조치를 구분해 설명한다.

5. 캘리포니아·일리노이와의 공통점과 차이

다른 주들도 뉴욕의 RAISE Act와 유사한 AI 안전·투명성 법안을 통과시켰다. 지난 1월 시행된 캘리포니아 SB 53은 프런티어 AI 연구기관에 안전 프레임워크 마련과 공개, 내부고발자 보호, 중대한 안전 사고의 15일 이내 보고를 요구한다. 사고 보고 기한은 뉴욕의 72시간과 차이가 있어, 비슷한 규제 목적 아래에서도 구체적인 의무는 동일하지 않다. 2027년 초 시행될 일리노이 SB 315도 유사한 요구사항을 두면서 독립적인 안전 준수 감사를 추가한다. 기사는 이들 사례를 통해 AI 안전과 투명성을 요구하는 주 차원의 입법이 뉴욕에만 한정되지 않으며, 각 주가 보고 기한이나 독립 감사 등에서 서로 다른 요건을 채택하고 있음을 보여준다.

🧾 핵심 주장 / 시사점

• 뉴욕주의 규제는 등록, 안전 프레임워크 공개, 사고 보고, 모델 투명성 보고를 결합해 대형 프런티어 AI 개발사의 책임을 구체화한다.
• DIGIT와 연구센터의 협력은 기업이 공개하는 안전 프레임워크를 독립적인 평가와 감독의 대상으로 연결하는 구조다.
• 주별 법률은 안전·투명성 강화라는 방향을 공유하지만, 사고 보고 기한과 독립 감사 여부가 달라 각 법의 세부 요건을 구분할 필요가 있다.

✅ 액션 아이템

• OpenAI·Anthropic의 2027년 1월 1일 등록 의무와 연 매출 5억 달러 초과 기준에 따른 적용 범위 확인.
• RAISE Act의 안전 프레임워크 공개, 72시간 이내 사고 보고, 공개 모델 투명성 보고서 발행 의무에 대한 이행 준비 검토.
• 뉴욕의 72시간과 캘리포니아 SB 53의 15일 사고 보고 기한, 일리노이 SB 315의 독립적인 안전 준수 감사 요건 비교.

❓ 열린 질문

• 뉴욕주는 등록 포털에 등록하지 않은 기업에 어떤 구체적인 집행 조치를 적용할 것인가?
• DIGIT와 New York Center for AI Responsibility and Research는 기업의 안전 프레임워크 검토를 어떻게 분담할 것인가?
• OpenAI·Anthropic 같은 대형 프런티어 AI 개발사는 뉴욕의 72시간과 캘리포니아의 15일 사고 보고 기한 차이에 어떻게 대응할 것인가?