Don’t be fooled by this summer of AI hype

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

필자들은 Anthropic과 OpenAI의 AI 돌파구·초지능 홍보가 기업의 책임과 데이터센터의 현실적 피해를 가린다고 비판하며, 독립 전문가의 검증에 기반한 판단을 촉구한다.

📌 핵심 요약

• Anthropic은 4월 말 Claude Mythos가 대부분의 보안 전문가보다 소프트웨어 취약점을 잘 찾는다고 주장했으며, 이후 OpenAI–Hugging Face 해킹 사건과 Anthropic·Meta의 유사 사건 공개, 수학적 돌파구 주장이 이어졌다.
• 사이버보안 전문가들은 해킹 사건의 핵심을 모델의 자율적 일탈보다 OpenAI의 기본 보안 관행 미준수에서 찾았고, 수학자들은 OpenAI의 Astra 성과가 처음 알려진 만큼 새롭지 않다며 연구 부정행위와 표절 의혹을 제기했다.
• 필자들은 수학과 코딩이 인간 지성의 정점으로 여겨지는 동시에 답을 검증하기 쉬워 AI 홍보와 시스템 조정에 유리하다고 설명하며, 수백 명의 수학자가 기업의 역량 과장 유인과 전문가 자문의 필요성을 지적했다고 전한다.
• 필자들은 ‘초지능’과 ‘일탈 모델’이라는 표현이 제품에 행위 주체성을 부여해 기업의 책임을 흐린다고 주장하고, Bernie Sanders의 ‘인공 초지능’ 개발 방지 입법 제안도 이러한 홍보에 영향을 받은 잘못된 대응으로 평가한다.
• 필자들은 미래 초지능에 대한 공포가 데이터센터의 기후 영향, 인근 주민의 천식, 전기요금 상승, 냉각용 물 전용이라는 현실적 문제를 가린다고 비판하며, 정책결정자와 시민이 시간을 들여 독립 전문가의 설명을 듣고 기업 주장을 검토해야 한다고 강조한다.

🧩 주요 포인트

1. 대대적인 성과 발표 뒤에 전문가의 반론이 등장하지만 주목도는 낮음 → 최초 홍보가 기술 역량에 대한 인식을 지배할 수 있음.
2. 수학과 코딩은 상징적 위상이 높고 답의 검증이 쉬움 → 해당 분야의 성과가 범용적 능력의 증거처럼 홍보되는 논리를 따져볼 필요가 있음.
3. ‘초지능’과 ‘일탈 모델’에 관심이 집중됨 → 기업의 보안 책임과 데이터센터의 현실적 피해가 정책 논의에서 밀려날 수 있음.

🧠 상세 정리

1. 연이은 돌파구 발표와 초지능 서사

글은 몇 달 동안 이어진 AI 관련 홍보를 나열하며, 이것이 문명을 바꿀 기술적 돌파구인지 마케팅인지 묻는다. 4월 말 Anthropic은 Claude Mythos가 대부분의 보안 전문가보다 소프트웨어 취약점을 잘 찾는다고 주장했고, 이후 OpenAI–Hugging Face 해킹 사건과 Anthropic·Meta의 유사 사건 공개가 이어졌다. Anthropic과 OpenAI의 수학적 돌파구 주장에 이어, Anthropic 엔지니어 Jacob Coxon은 퇴사를 알리며 두 회사가 자기 개선 초지능을 향해 질주하면서 사람들의 생명을 걸고 도박한다고 주장했다. 필자들은 언론이 이런 사건을 흥분된 어조로 다루면서, 소프트웨어를 강력한 도구이자 초기 인공 일반 지능으로 묘사하는 기업의 의인화 표현을 반복했다고 비판한다.

2. 전문가 검토가 드러낸 보안 문제와 수학 성과의 한계

필자들이 제시하는 공통 패턴은 기업의 대대적인 발표가 집중 보도를 유발하지만, 이후 전문가의 검토에서 나온 다른 설명은 상대적으로 주목받지 못한다는 것이다. 사이버보안 전문가들은 해킹 사건을 모델이 제멋대로 행동한 증거보다 OpenAI의 부주의와 기본적이고 확립된 보안 관행의 미준수 문제로 본다. 수학자들은 Astra가 최소 10년 동안 핵심 결과에 진전이 없던 문제들을 풀었다는 OpenAI의 발표에 처음에는 놀랐지만, 뒤에는 성과가 처음 보인 만큼 새롭지 않다고 판단했다. 이후 연구 부정행위와 표절 의혹이 제기됐고, Astra가 심오한 지적 도약을 이루지 않았다는 반론도 나왔다. 글은 또 다른 OpenAI의 수학적 돌파구 주장 이틀 전, 뉴욕대학교 Courant Institute의 수학 교수 Tristan Buckmaster가 타인의 연구 도용과 부적절한 공로 귀속을 시사하는 성명을 냈다고 전한다.

3. 수학과 코딩이 AI 홍보의 중심이 되는 이유

필자들은 위험한 초지능이 출현하고 있다는 주장이 건전한 과학·공학적 실천에 근거하기보다 트랜스휴머니즘, 우생학, 미래의 디지털 인간에 대한 희망적 사고에 기대고 있다고 주장한다. 이어 수학과 프로그래밍에 관심이 집중되는 이유를 두 가지로 설명한다. 두 분야는 인간 지적 성취의 정점으로 여겨져, 기업이 무엇이든 할 수 있는 기계를 만든다는 인상을 판매하기에 유리하다. 동시에 제안된 답을 검증할 수 있어, 데이터 작업자가 출력 하나하나를 보고 주석을 달도록 비용을 지불하지 않고도 시스템 출력을 평가하고 조정하기 쉽다. 이 설명은 해당 분야에서의 성과가 어떻게 광범위한 지능에 대한 홍보와 연결되는지를 보여준다.

4. 수학자들의 경고와 성급한 정책 대응

글은 수백 명의 수학자가 서명한 성명을 통해, 기술 업계에 제품의 능력을 과장할 강한 상업적 유인이 있다는 경고를 소개한다. 이들은 정책결정자가 보도자료나 수학적 결과에 관한 대중 보도에 의존하기보다 수학자를 포함한 전문가와 상의해야 한다고 요청했다. 필자들은 이 요구에 동의하며, 기업이 만들어내는 속도감과 긴급성이 정책결정자와 대중의 관심을 잘못된 방향으로 돌리는 수단이라고 주장한다. 사례로는 Bernie Sanders 상원의원의 ‘인공 초지능’ 개발 방지 입법 제안을 들며, 의도는 선하지만 결과적으로 방향을 잘못 잡았다고 평가한다. 여기서 비판의 초점은 기업이 제시한 위협의 틀과 시간 압박이 정책 의제 자체를 좌우할 수 있다는 데 있다.

5. 제품의 의인화가 기업 책임을 흐리는 방식

필자들은 ‘초지능’이나 ‘일탈 모델’이라는 표현이 제품을 만든 기업 대신 제품 자체에 행위 주체성을 부여한다고 지적한다. 이런 표현은 제품을 초인적인 존재로 홍보하는 동시에 기업이 자신의 행동에 대한 책임을 피하도록 돕는다는 주장이다. 글은 다른 회사를 해킹한 악성 소프트웨어를 만든 OpenAI의 책임을 묻는 대신, 보도자료와 언론, 미디어 인물, 입법자들이 모델이 독자적으로 행동한 듯 말한다고 비판한다. 학계 연구의 표절이나 동의 없는 고객 데이터 학습에 관한 질문 역시 미래 초지능의 도래에 대한 공포로 대체된다고 서술한다. 필자들이 요구하는 관점의 전환은 모델에 대한 의인화된 이야기에서 기업과 연구자의 실제 선택 및 책임으로 관심을 돌리는 것이다.

6. 데이터센터의 현실적 피해와 신중한 판단

글은 AI 업계가 대중적이고 초당적인 데이터센터 반대 운동을, 곧 등장할 무서운 초인적 기계의 규제를 방해하는 ‘주의 분산’으로 묘사했다고 전한다. 필자들은 이러한 주장이 가상의 기계 신에 대한 걱정을 앞세워 데이터센터가 악화시키는 기후 문제와 인근 주민의 천식을 가린다고 비판한다. 대중이 부담하는 전기요금 상승과 냉각을 위해 다른 용도에서 돌려 쓰는 물도 현재의 쟁점으로 제시한다. 정책결정자와 지역사회가 현명하게 판단하려면 독립 전문가의 설명을 듣고 기업의 주장을 맥락 속에서 검토할 시간이 필요하다는 것이 글의 결론이다. 필자들은 마케팅이나 기업의 시간 압박에 따라 결정하지 말고, 회의적 태도를 유지해 다음번에도 같은 유형의 과장 홍보를 알아볼 것을 촉구한다.

🧾 핵심 주장 / 시사점

• 성과 발표와 후속 전문가 검토의 주목도 차이는, 반론이 나와도 최초의 과장된 인상이 오래 유지될 수 있음을 시사한다.
• 수학과 코딩에서 답을 검증하기 쉽다는 특성은 시스템 조정상의 이점을 설명하지만, 그 성과만으로 모든 분야의 능력을 판단할 근거가 되지는 않는다.
• AI를 묘사하는 언어는 책임의 귀속과 정책의 우선순위에 영향을 줄 수 있으므로, ‘초지능’ 서사와 기업의 실제 행위를 구분해 살필 필요가 있다.

✅ 액션 아이템

• Anthropic과 OpenAI의 성과 주장에 대한 판단에 독립 전문가의 검증과 반론을 반영.
• 수학과 코딩의 답 검증 용이성이 범용적 능력에 대한 홍보를 얼마나 뒷받침하는지 검토.
• 정책 논의에서 기업의 보안 책임과 데이터센터의 기후 영향, 천식, 전기요금 상승, 냉각용 물 전용을 함께 고려.

❓ 열린 질문

• Anthropic과 OpenAI의 성과 주장 중 독립 전문가의 검증을 거쳐 유지되는 내용은 무엇인가?
• 수학과 코딩의 성과는 범용적 능력에 대한 주장을 어느 범위까지 뒷받침하는가?
• ‘초지능’과 ‘일탈 모델’이라는 표현은 기업의 보안 책임과 데이터센터의 현실적 피해에 대한 정책 논의를 어떻게 바꾸는가?