Nancy Pelosi’s replacement is ready to regulate AI

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

낸시 펠로시의 지역구에서 연방 하원의원으로 당선된 스콧 위너는 캘리포니아의 AI 규제 입법 경험을 바탕으로 연방 규제를 추진하려 하지만, 의회의 소극성과 도널드 트럼프의 입장이 걸림돌이다.

📌 핵심 요약

• 스콧 위너는 낸시 펠로시가 떠나는 샌프란시스코 지역구의 치열한 연방 하원의원 선거에서 승리했다. 그는 METR 보고서가 Anthropic의 재귀적 자기개선 달성 증거로 널리 해석된 상황을 우려하며 AI 규제의 시급성을 강조했다. 기사에서 해당 달성을 확정된 사실로 검증하지는 않는다.
• 위너가 2024년 발의한 첨단 AI 규제 법안 SB 1047은 캘리포니아 주지사 개빈 뉴섬의 거부권 행사로 무산됐지만, 이후 규제 강도를 낮춘 SB 53은 서명을 받았다. 두 법안은 연방 차원의 입법 제안에도 영향을 미쳤다.
• 위너의 선거운동은 Anthropic으로부터 상당한 자금을 받는 AI 규제 지지 비영리단체 Public First Action의 지원을 300만 달러 넘게 받았다. 반대자들은 산업계와의 밀착을 비판했으나, 위너는 대형 기술기업의 반대에도 AI 규제를 도입한 실적 때문에 지원받았다고 반박했다.
• 위너는 AI 특별위원회가 구성되면 참여하기를 원하며, 로 칸나가 제안한 강력하고 권한을 갖춘 기민한 연방 규제기관을 지지한다. 내부고발자 보호, 시험 및 감사 의무, 킬 스위치 의무화와 의회의 감독권 행사도 강조했다.
• 위너는 기술산업 규제에 소극적이었던 의회에 대해 신중한 낙관론을 보였다. 도널드 트럼프가 지난 9월 AI 재앙 위험 우려를 ‘사기’라고 부른 점과 중국 협력에 비협조적인 태도를 장애물로 보면서도, 그의 예측 불가능성에 일부 기대를 걸었다.

🧩 주요 포인트

1. SB 1047의 거부권 행사와 SB 53의 성립 → 위너는 주 차원에서 규제 강도를 조정해 입법을 성사시킨 경험을 갖췄지만, 연방 규제의 실현 가능성은 별도로 남아 있다.
2. Public First Action의 지원과 산업계 밀착 비판 → AI 규제 실적과 Anthropic 관련 자금 지원이 함께 존재하면서, 위너의 규제 독립성이 정치적 쟁점이 됐다.
3. AI 재앙 위험과 데이터센터 반대의 서로 다른 동기 → 위너는 최악의 AI 결과를 막기 위한 중국 협력을 중시하는 한편, 주민들의 데이터센터 반대는 주거지 영향·전기요금·물 사용에 대한 우려가 더 큰 동기라고 판단했다.

🧠 상세 정리

1. 연방 의회로 향하는 AI 규제 입법자

캘리포니아 주 상원의원으로 첨단 AI의 위험을 줄이는 법안을 추진해 온 스콧 위너는 낸시 펠로시가 떠나는 샌프란시스코 지역구의 치열한 선거에서 승리해 연방 하원으로 향하게 됐다. 기자는 당선이 확정된 지 불과 몇 시간 뒤인 금요일 그와 인터뷰했으며, 위너는 이미 AI 위험을 중요한 의제로 이야기하고 있었다. 전날 비영리단체 METR이 발표한 보고서는 Anthropic이 재귀적 자기개선을 달성했다는 증거로 널리 해석되고 있었다. 기사에서 설명하는 재귀적 자기개선은 AI가 자신의 발전에 의미 있게 기여해 발전 과정이 통제를 벗어날 가능성이 생기는 현상이다. 다만 기사는 이러한 해석이 확산됐다고 전하며, 실제 달성 여부를 독립적으로 확정하지는 않는다.

2. 규제의 시급성과 캘리포니아 입법 경험

위너는 METR 보고서를 매우 우려스럽게 받아들이며 AI를 규제할 시간이 빠르게 줄어들고 있다고 주장했다. 그는 올해 말까지 의회가 단호하게 행동하기를 바랐지만 그렇게 되지 않는 것 같다고 말했고, 20분 인터뷰에서 재귀적 자기개선이라는 표현을 여섯 차례가량 사용했다. 발전 속도를 늦춰야 한다는 그의 주장은 빠르게 움직이는 기술을 방치하면 재난으로 걸어 들어갈 수 있다는 우려에 근거한다. 그가 2024년 발의한 SB 1047은 미국 최초의 본격적인 첨단 AI 규제 법안이 될 예정이었으나 개빈 뉴섬 주지사의 거부권 행사로 무산됐다. 이후 위너가 추진한 더 완화된 SB 53은 뉴섬의 서명을 받았으며, 두 법안 모두 연방 차원의 입법 제안에 영향을 미쳤다.

3. 선거 지원금과 산업계 밀착 논란

위너의 선거운동은 AI 규제를 지지하는 비영리단체 Public First Action으로부터 300만 달러가 넘는 지원을 받았다. 이 단체가 Anthropic에서 상당한 자금을 받는다는 점 때문에 반대자들은 위너가 AI 산업계와 지나치게 가깝다고 비판했다. 위너는 인터뷰 후 보낸 메시지에서 자신이 미국에서 처음으로 AI 규제를 발의하고, 통과시키고, 시행되도록 한 입법자였기 때문에 지원받았다고 주장했다. 그는 대형 기술기업의 반대에도 실제 규제를 추진한 후보를 기술기업과 가깝다고 공격하는 것은 냉소적이고 잘못된 주장이라고 반박했다. 기사는 지원금의 출처를 둘러싼 비판과 위너의 해명을 함께 제시하며, 자금 지원이 그의 정책에 어떤 영향을 미쳤는지를 확정하지는 않는다.

4. 연방 규제기관과 의회의 감독 구상

위너는 민주당이 9월부터 논의해 온 AI 특별위원회가 의회에 설치된다면 적극적으로 참여하고 싶다고 밝혔다. 그는 의회에서 제기되는 여러 정책 구상에 호의적이며, 특히 강력한 권한을 갖추고 기민하게 움직이는 연방 규제기관이 중요하다고 말했다. 같은 캘리포니아 출신 민주당 하원의원 로 칸나가 이러한 기관을 설립하는 법안을 제안했다는 점도 언급했다. 위너는 내부고발자 보호, 시험 및 감사 의무, 킬 스위치 의무화를 강조하고, 의회가 감독권을 활용해 AI 연구소에 책임을 물어야 한다고 주장했다. 그는 이 문제가 인류의 미래에 관한 사안인 만큼 대중이 발언권을 갖고 무엇이 진행되는지 알아야 한다는 논리를 제시했다.

5. 데이터센터 반대와 주민들의 생활 문제

위너는 AI가 나아가는 방향에 강하게 반대하는 사람들에게 데이터센터 반대가 실제로 행동할 수 있는 영역이라고 설명했다. 그러나 그가 보기에 데이터센터 반대 움직임의 더 큰 동력은 AI의 장기적 위험 자체보다 지역사회와 주거지 가까이에 시설이 들어서는 데 대한 불만이었다. 그는 주민들이 집 주변에 미칠 영향과 전기요금 상승, 물 사용을 걱정한다고 언급했다. 이는 주민 다수의 동기에 대한 위너의 판단으로 제시되며, 기사에 이를 입증하는 별도의 조사 결과가 나오지는 않는다. 이 대목에서 논의는 첨단 AI의 통제 문제에서 지역 주민이 체감하는 생활상의 영향으로 이동하며, AI에 대한 반대에도 서로 다른 관심사가 존재함을 보여준다.

6. 의회의 한계와 트럼프를 둘러싼 불확실성

위너는 기술산업 규제에 관한 의회의 부진한 전력을 고려하면 AI를 통제할 가능성에 대해서도 신중하게 낙관할 뿐이라고 말했다. 그는 지난 9월 재앙적 AI 위험에 대한 우려를 ‘사기’라고 부른 도널드 트럼프 대통령을 상대로 법안을 성사시킬 수 있을지도 걱정했다. 특히 위너는 최악의 AI 결과를 막으려면 중국과의 협력이 필수적이라고 보지만, 트럼프는 그러한 협력에 뚜렷하게 소극적인 태도를 보여 왔다고 기사는 전한다. 그럼에도 위너는 트럼프의 예측 불가능성에서 제한적인 희망을 찾으며, 지금까지 문제가 되는 일들은 있었지만 완전한 재난은 아니었다고 평가했다. 그는 대통령의 행동을 촉발하기 위해 재난이 필요하지 않기를 바라며, 만약 그런 일이 필요하다면 피해가 가능한 한 작기를 바란다고 말했다.

🧾 핵심 주장 / 시사점

• 위너의 입법 경험은 규제의 필요성을 주장하는 것과 실제 통과 가능한 규제 강도를 정하는 일이 별개의 과제임을 보여준다. SB 1047과 SB 53의 서로 다른 결과가 그 차이를 드러낸다.
• AI 규제를 지지하는 자금도 산업계와 연결돼 있으면 독립성 논란을 일으킬 수 있다. 기사에서 위너는 자금 지원 자체보다 대형 기술기업의 반대를 무릅쓴 규제 실적으로 자신의 입장을 설명한다.
• 위너가 강조하는 재앙적 AI 위험과 주민들이 우려하는 데이터센터의 생활 영향은 같은 동기라고 단정하기 어렵다. 그의 설명은 AI 규제에 대한 정치적 관심이 서로 다른 문제의식에서 형성될 수 있음을 시사한다.

✅ 액션 아이템

• METR 보고서에 대한 해석과 Anthropic의 재귀적 자기개선 달성 여부를 구분해 규제 시급성 주장의 근거 검토.
• SB 1047과 SB 53의 입법 결과를 바탕으로 연방 규제기관, 내부고발자 보호, 시험 및 감사, 킬 스위치 제안의 추진 가능성 검토.
• 도널드 트럼프의 AI 재앙 위험 인식과 중국 협력에 대한 태도가 연방 AI 규제에 미치는 영향 확인.

❓ 열린 질문

• METR 보고서는 Anthropic의 재귀적 자기개선 달성을 어느 정도까지 뒷받침하는가?
• Public First Action의 지원을 둘러싼 논란 속에서 위너는 AI 규제의 독립성을 어떻게 입증할 수 있을까?
• 도널드 트럼프의 AI 재앙 위험 인식과 중국 협력에 대한 태도 아래에서 위너가 원하는 연방 AI 규제는 얼마나 실현될 수 있을까?