As AI safety concerns mount, three pioneers make the case for staying open
🖼️ 인포그래픽
🖼️ 4컷 인포그래픽
💡 한 줄 요약
제프리 힌턴, 페이페이 리, 앤드루 응은 AI 개방성의 필요성에 공감하면서도 공개 가중치의 악용 위험, 시장 경쟁, 계층별 개방 방식에서는 서로 다른 관점을 제시했다.
📌 핵심 요약
- 라스베이거스 Ai4 콘퍼런스에서 세 연구자는 소수 대형 AI 기업이 기술 접근과 발전 속도를 통제하는 상황을 공통으로 우려했다.
- 앤드루 응은 접근을 제한하는 문지기 역할을 막기 위해 여러 모델과 공급자가 경쟁하는 개방적 생태계를 지지했다.
- 제프리 힌턴은 오픈소스 코드와 공개 가중치를 구분하고, 공개 가중치가 사이버 공격 등 악용에 필요한 비용을 낮춘다고 경고하면서도 이미 확산된 현실은 되돌리기 어렵다고 인정했다.
- 앤드루 응은 중국의 공개 가중치 모델이 비용 우위를 확보하면 광범위한 채택과 소프트파워 확대에 유리해질 수 있다며 미국의 오픈소스 AI 경쟁력을 강조했다.
- 페이페이 리는 생태계 계층에 따라 개방 수준을 달리하고 폐쇄형 시스템도 수용해야 한다고 주장했으며, 세 연구자는 사람에게 도움이 되는 AI 발전을 위해 일정 수준의 규제가 필요하다는 데 동의했다.
🧩 주요 포인트
- 소수 기업의 접근 통제와 규칙에 대한 영향력 → 개방성과 복수 공급자 경쟁은 AI 발전의 주도권 집중을 견제하는 쟁점이다.
- 공개 가중치의 악용 비용 감소와 모델의 비용 우위 → 개방 논쟁에는 안전뿐 아니라 시장 채택과 소프트파워도 얽혀 있다.
- 계층별 개방과 폐쇄형 시스템의 공존 → 개방 여부의 이분법을 넘어 규제와 개방 수준을 함께 논의할 필요가 있다.
🧠 상세 정리
1. 안전 우려 속에서 제기된 개방성 논쟁
기사는 대형 연구소를 중심으로 AI 연구의 안전을 확보하려는 움직임 속에서 공개 모델이 논쟁의 대상이 된 상황을 소개한다. 공개 가중치 모델은 자유롭게 배포되고 사용 방식을 통제하기 어려워 일부 연구소가 위험하게 바라본다는 설명이다. 이런 배경에서 라스베이거스 Ai4 콘퍼런스에 참석한 제프리 힌턴, 페이페이 리, 앤드루 응은 AI 개방성을 유지해야 한다는 주장을 펼쳤다. 세 사람은 구체적인 방법에서는 의견이 달랐지만, 소수 대형 기업이 AI 발전 속도를 좌우하는 상황을 공통으로 우려했다. 따라서 논의는 모델의 위험성에 더해 기술 접근권과 발전 방향을 누가 결정하는지까지 다뤘다.
2. 접근 통제와 기업 집중을 우려한 앤드루 응
기사는 애플과 구글의 모바일 운영체제를 예로 들어, 소수 기업이 기술 접근을 통제하면 혁신이 느려지고 플랫폼 위에서 무엇이 만들어지는지에도 영향을 줄 수 있다고 설명한다. 앤드루 응은 AI에서도 이런 문지기 역할이 생겨 사람들의 접근을 제한할 가능성을 우려했다. 기업에는 경쟁 우위를 지키려는 유인이 있으며, 산업 규칙에 영향을 미치는 행위도 그 수단이 될 수 있다. 그 결과 자금력이 가장 큰 기업들만 최첨단 AI를 만들 수 있는 구조가 형성될 수 있다는 것이다. 응은 여러 공급자와 모델이 경쟁하는 상태를 유지하고, AI가 모두의 손에 들어갈 수 있도록 개방성을 촉진해야 한다고 주장했다.
3. 힌턴이 구분한 오픈소스와 공개 가중치의 위험
제프리 힌턴은 코드를 공개하는 오픈소스 소프트웨어와 학습된 모델의 매개변수를 배포하는 공개 가중치를 분명히 구분했다. 공개 코드는 여러 사람이 내용을 살펴보고 오류를 찾을 수 있지만, 공개 가중치는 비용이 많이 든 기반 모델을 받아 훨씬 적은 비용으로 사이버 공격 같은 악의적 용도에 맞게 학습할 수 있다는 것이다. 그는 이런 이유로 공개 가중치에 반대했지만, 모델이 이미 배포된 이상 기반 모델 학습 비용이라는 접근 장벽은 사라졌으며 되돌리기에는 늦었다고 인정했다. 동시에 AI 발전이 생산성을 높이고 교육과 의료를 개선할 것이라는 긍정적 전망도 밝혔다. 다만 인간보다 더 지능적인 존재의 행동이나 AI의 부작용을 걱정하는 사람을 공포 조장자로 규정하는 것은 부당하다고 주장했다.
4. 비용 경쟁과 소프트파워를 강조한 앤드루 응
앤드루 응은 공개 모델의 위험성뿐 아니라 누가 접근을 통제하고 시장 경쟁에서 이기는지가 핵심이라고 보았다. 더 저렴한 모델을 만드는 쪽이 사업적 채택에서 유리하며, 중국의 공개 가중치 모델이 아시아와 아프리카 등에서 널리 사용될 가능성을 언급했다. 그는 이런 확산이 수십억 명이 민주주의, 자유, 인권에 관한 생각을 접하는 방식에도 영향을 줄 수 있다고 경고했다. 이 때문에 AI를 소프트파워의 중요한 원천으로 보고 미국의 경쟁력과 오픈소스 AI를 장려해야 한다고 주장했다. 미국 내 로비와 공포 조장이 경쟁을 어렵게 한다는 것이 그의 진단이며, 중국이 근본적으로 더 비용 효율적인 개발 방식을 확보할 경우의 채택 우위는 그가 제기한 우려다.
5. 페이페이 리의 계층별 개방과 공공 기반 구상
페이페이 리는 완전한 개방과 완전한 폐쇄 중 하나를 골라야 한다는 구도가 위험하며, 복잡한 소프트웨어와 과학 체계에는 더 세밀한 구분이 필요하다고 반박했다. 그는 핵물리학에서 논문은 공개되지만 우라늄은 규제되고 실험실 작업은 그 사이에 놓인다는 예를 들었다. 이는 생태계의 서로 다른 계층에 서로 다른 개방 수준을 적용할 수 있다는 설명이다. 또한 인간 게놈 프로젝트의 공공·민간 협력을 통해 형성된 지식이 제약회사의 수익, 과학자의 연구, 사회적 편익을 함께 뒷받침했다고 강조했다. 리는 AI도 이런 기반시설로 다루면서 과학적 발견, 교육, 국제 협력의 개방성과 기업가의 수익 모델을 함께 인정하고 폐쇄형 시스템도 수용해야 한다고 주장했다.
6. 공통분모로 남은 규제의 필요성
세 연구자는 공개 가중치의 위험과 개방 방식에 대한 차이에도 불구하고 AI를 올바른 방향으로 이끌기 위한 일정 수준의 규제가 필요하다는 데 동의했다. 힌턴은 사람에게 도움이 되는 방향으로 AI를 발전시키는 것이 목표이며 규제가 그 과정에 기여할 수 있다고 말했다. 그는 AI를 어떻게 발전시킬지 결정하는 일을 일론 머스크나 마크 저커버그 같은 인물에게 맡겨둘 수 없다고 강조했다. 이는 소수 기업이 기술 접근과 발전 방향을 통제하는 데 대한 세 사람의 공통된 우려와 연결된다. 기사에 제시된 합의는 규제의 필요성에 관한 것이며, 세 사람이 함께 지지하는 구체적인 규제 수단이나 공개 범위의 기준까지 제시되지는 않았다.
🧾 핵심 주장 / 시사점
- 세 연구자의 개방성 지지는 공개 가중치의 무조건적인 배포에 대한 합의로 해석할 수 없다. 힌턴은 악용 위험을 강조했고, 리는 계층별 개방과 폐쇄형 시스템의 공존을 제안했다.
- 응의 주장은 AI 모델의 비용 경쟁력이 시장 점유뿐 아니라 사람들이 접하는 관념과 가치에도 영향을 줄 수 있다는 소프트파워 관점을 담고 있다.
- 개방성과 규제는 세 연구자의 논의에서 함께 필요한 요소로 등장하며, 소수 기업에 AI의 발전 방향을 맡겨서는 안 된다는 문제의식을 공유한다.
✅ 액션 아이템
- 공개 가중치 논의에서 오픈소스 코드와의 차이 및 악용 비용 감소를 구분해 검토.
- 앤드루 응의 경쟁력 주장을 모델의 비용 우위, 시장 채택, 소프트파워의 관계를 중심으로 검토.
- 페이페이 리의 계층별 개방을 바탕으로 폐쇄형 시스템의 공존과 규제의 역할을 함께 검토.
❓ 열린 질문
- 공개 가중치의 악용 비용 감소를 고려하면서 복수 공급자 경쟁을 유지하려면 규제는 어떤 역할을 해야 할까?
- 중국의 공개 가중치 모델이 비용 우위를 확보할 경우 미국의 오픈소스 AI 경쟁력과 소프트파워에는 어떤 영향이 있을까?
- 페이페이 리가 제안한 계층별 개방에서 개방 수준과 폐쇄형 시스템의 범위는 어떤 기준으로 정해야 할까?
