The path to artificial superintelligence

🖼️ 인포그래픽

The path to artificial superintelligence 내용을 설명하는 본문 이미지

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Outshift는 분산형 인공 초지능으로 가는 핵심을 더 큰 단일 모델이 아니라, 서로 다른 AI 에이전트가 의도·맥락·추론을 공유하도록 하는 개방형 연결·의미 계층에서 찾는다.

📌 핵심 요약

의료 분야의 전문 에이전트들은 데이터를 교환할 수 있지만 지식과 목표가 달라, 사람의 결정 없이 환자 진료 전반을 공동으로 조율하지는 못한다.
더 큰 모델을 만드는 수직 확장은 개별 에이전트의 추론 능력을 높였지만, 여러 시스템과 조직에 걸친 문제 해결에는 에이전트를 연결하는 수평 확장이 추가로 필요하다는 주장이다.
AGNTCY는 서로 다른 에이전트가 발견·신원 증명·메시지 교환을 할 수 있게 하고, 그 위의 ‘인터넷 오브 코그니션’은 공동 의도·맥락·추론을 형성하는 의미 계층으로 제시된다.
공유 인지는 목표 합의, 누적되는 조직 기억, 집단 추론이라는 세 축에 기반하며, 동시에 잘못된 위임·프롬프트 주입·메모리 오염·과도한 권한과 같은 위험을 통제해야 한다.
기업에는 세네 개 팀을 잇는 단일 업무 흐름부터 개방형 인프라에서 시험하고, 한 에이전트의 통찰이 다른 에이전트를 실제로 개선했는지를 측정하라는 접근이 권고된다.

🧩 주요 포인트

개별 모델의 추론 능력은 향상됐지만 다중 에이전트의 높은 실패율은 공동 목표와 충돌 해결을 담당할 별도 조정 구조의 필요성을 보여준다.
연결 표준과 의미 계층을 결합하면 에이전트 간 통신을 넘어 조직 지식의 누적과 새로운 문제에 대한 집단 판단을 지향할 수 있다.
인지와 권한을 공유할수록 피해 범위도 확대될 수 있으므로, 원래 과업을 기준으로 모든 도구 요청을 지속적으로 확인하고 필요한 판단을 사람에게 연결해야 한다.

🧠 상세 정리

1. 전문 에이전트 사이의 조정 공백

글은 증상 평가, 진료 일정, 보험, 약국 업무를 각각 맡는 여러 AI 에이전트로 구성된 의료 시스템을 사례로 든다. 각 에이전트는 자기 영역에서는 전문가이지만 보유 지식과 목표가 서로 달라, 현재는 데이터를 주고받더라도 환자 진료 전체를 스스로 조율하지 못하고 사람이 인계와 결정을 이어 줘야 한다. 비조이 판데이는 이를 지능 자체가 부족한 문제가 아니라 네 개의 낯선 주체를 하나의 팀으로 바꾸는 ‘결합 조직’이 빠진 문제로 설명한다. 따라서 필요한 것은 단순한 메시지 교환을 넘어 공동의 의도와 상황을 이해하고, 충돌을 드러내며, 같은 목표를 향해 판단하게 만드는 의미 계층이라는 것이 글의 출발점이다.

2. 수직 확장에서 수평 확장으로

AI 산업은 더 많은 데이터와 연산 자원으로 더 큰 모델을 훈련하는 수직 확장에 집중해 왔고, 그 결과 에이전트가 디지털 환경을 인식하고 추론하며 행동하는 데 필요한 두뇌 역할의 능력이 발전했다. 그러나 판데이는 서로 다른 시스템·기업·플랫폼에 걸친 에이전트형 문제 해결을 위해서는 개별 모델을 키우는 것과 별개로 수평 확장이 필요하다고 주장한다. 다중 에이전트 시스템은 소프트웨어 공학, 신약 발견, 과학 시뮬레이션 등에서 연구되고 있지만, 글이 인용한 한 연구에서는 일곱 개 오픈소스 시스템의 실패율이 41%에서 약 87%에 이르렀다. 익숙한 형태의 작업을 나누어 전달하는 데는 강해도, 처음 접하는 문제를 두고 공동 목표를 유지하며 함께 추론하는 능력은 부족하다는 설명이다. 판데이는 이를 프롬프트 조정이 아니라 아키텍처의 문제로 규정하며, 순진하게 구성한 다중 에이전트 체계는 단일 에이전트보다도 성능이 낮을 수 있다고 말한다.

3. 에이전트 연결망과 인지 의미 계층

Outshift가 구축한 AGNTCY는 서로 다른 시스템과 조직의 에이전트가 상대를 찾고, 신원을 증명하며, 개방형 표준 프로토콜로 메시지를 교환하도록 하는 연결 계층이다. 이 프로젝트는 오픈소스로 공개됐으며 현재 리눅스 재단 산하에 있다고 글은 설명한다. 그 위에 놓이는 ‘인터넷 오브 코그니션’은 단순 연결을 공동 사고로 확장하는 의미 계층으로, 에이전트가 의도를 맞추고 조직의 지식과 기억을 모으며 집단적인 절충 판단을 내리게 하는 것을 목표로 한다. 판데이는 인간이 공동 의도와 누적 지식, 집단 추론을 통해 흩어진 개인에서 문명으로 전환한 과정에 이를 비유한다. 다만 글이 말하는 분산형 인공 초지능은 이미 완성된 결과가 아니라, 연결 계층과 의미 계층을 결합해 나아가려는 다음 단계로 제시된다.

4. 공유 인지를 구성하는 세 가지 축

첫 번째 축인 공유 의도는 인지 상태 프로토콜을 통해 에이전트들이 행동 전에 목표를 합의하고, 필요한 정보를 확인하며, 충돌을 협상하게 하는 방식이다. Outshift는 이를 위한 오픈소스 조정 계층 Mycelium을 만들었으며, 판데이는 14개 시나리오의 내부 시험에서 비구조화된 집단의 의사결정 성공률이 약 3분의 1이었지만 목표 선언·누락 정보 확인·충돌 해결 절차를 적용한 뒤 93%로 높아졌다고 밝혔다. 두 번째 축인 공유 맥락은 정책에 따라 관리되는 조직 기억과 통신망을 제공해, 매 세션마다 지식이 초기화되는 ‘조직적 기억상실’을 줄이고 에이전트의 통찰이 누적되도록 한다. 세 번째 축인 공유 추론에서는 인지 증폭기가 공동 추론과 모델링을 가속하고, 가드레일 기술이 보안·비용·규정 준수의 경계를 설정한다. 사람은 결과를 사후 검토하는 데 그치지 않고, 시스템이 판단이 필요한 사안을 전달하면 직접 결정하는 능동적 참여자로 포함된다.

5. 공유 인지의 위험과 지속적 권한 확인

에이전트가 인지와 맥락을 공유하면 의도하지 않은 위임, 악성 프롬프트 주입, 메모리 오염, 과업 범위를 넘어선 데이터와 권한 접근 같은 새로운 위험도 발생할 수 있다. 판데이는 기존의 접근 제어·신원·규정 준수 체계가 사람 또는 기계를 전제로 설계됐기 때문에, 사람과 유사한 특성을 지니면서 기계의 속도와 규모로 움직이는 에이전트에는 환경별 통제가 필요하다고 설명한다. Outshift의 오픈소스 참조 구현인 CASA는 사용자의 원래 목표를 읽고 각 도구 요청이 해당 과업과 일치하는지를 계속 검사하는 지속적 에이전트 의미 권한 부여 기술이다. 예를 들어 환자 기록 요약만 지시받은 에이전트가 전체 데이터베이스를 조회하려 하면, 승인된 과업 범위를 벗어났다는 이유로 호출을 거부할 수 있다. 판데이에 따르면 현재 권한은 대체로 과업이 아니라 역할이나 세션에 묶여 있으며, 약 90%의 경우 에이전트가 자신이 맡은 작업을 실제로 수행해도 되는지 확인할 방법이 없다.

6. 기업의 실험 경로와 성과 측정

판데이는 기업이 수평 확장을 시작할 때 세네 개 팀에 걸쳐 있고 현재 사람이 인계 단계마다 승인하는 하나의 교차 기능 업무 흐름을 먼저 선택하라고 조언한다. 이를 개방형·상호운용형 인프라 위의 작은 다중 에이전트 시스템으로 구현하고, 변화 전후를 비교할 수 있는 측정 기준을 마련해야 한다는 접근이다. 더 큰 모델을 계속 개발하되 그 위에 수평 축을 더하고, 개별 에이전트의 성능만이 아니라 한 에이전트의 통찰이 다른 에이전트를 실제로 향상시킨 지점을 추적하라고 제안한다. 의도·맥락·추론 계층과 관련한 문제와 인프라가 아직 정립되는 단계이므로 지금이 실험과 구축을 시작할 시점이라는 것이 글의 결론이다. 이 콘텐츠는 Outshift by Cisco와의 협력으로 제작된 후원 콘텐츠이며, MIT 테크놀로지 리뷰 편집진이 작성한 기사가 아니라 맞춤 콘텐츠 조직인 Insights가 제작했다고 명시돼 있다.

🧾 핵심 주장 / 시사점

개별 에이전트의 능력 향상만으로 협업 성능이 보장되지 않으며, 공동 목표의 명시와 정보 누락·충돌 해결 절차가 독립적인 성능 요소로 제시된다.
수평 확장의 성과는 모델 크기나 단일 작업 점수뿐 아니라 에이전트 사이에서 통찰과 기억이 전달돼 전체 시스템의 기준 지능을 높였는지로 평가해야 한다는 주장이다.
에이전트가 더 많은 맥락과 도구를 공유할수록 오작동의 범위도 커질 수 있어, 역할·세션 중심 권한보다 원래 과업에 맞춘 지속적 도구 호출 검사가 핵심 안전장치로 제안된다.