Laplace Intelligence red-teams robots and self-driving cars before they hit the real world

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Laplace Intelligence는 AI가 설계한 실패 시나리오와 상호작용형 시뮬레이션으로 로봇·자율주행차의 배포 전 취약점을 찾는 자동 레드팀 기술을 개발하고 있다.

📌 핵심 요약

• Laplace Intelligence는 물리적 AI를 의도적으로 실패 상황에 노출하는 자동 레드팀 기술을 개발한다. 공동창업자 Howie Sun과 Henry Liu의 미시간대학교 연구를 바탕으로 설립됐으며, 두 사람은 2023년 관련 논문을 Nature에 발표했다.
• 현실에 맞게 후속 학습한 Nvidia Cosmos 기반 시뮬레이션에 지도, Google Street View 이미지, TomTom 같은 내비게이션 업체의 실시간 교통 정보를 결합한다. 개발자는 언어 프롬프트로 환경을 바꿀 수 있고, 시뮬레이션 속 참여자들은 서로의 행동에 반응한다.
• 핵심 차별화 요소는 뉴스와 충돌 사고 경찰 보고서 등을 활용해 드물고 까다로운 실패 시나리오를 자동 설계하는 AI 에이전트다. Sun은 범용 로봇에는 데이터가 적고 현실의 예외 상황도 알려지지 않아 이런 기술의 필요성이 커질 것으로 본다.
• Laplace는 자율주행 분야를 중심으로 매출과 소폭의 이익을 내고 있으며, 고객으로 Isuzu와 Bot Auto를 확보했다. Sun에 따르면 Nvidia도 고객이고, Nvidia·T-Mobile과 함께 산호세시를 위한 무료 스마트시티 시범사업을 진행하며 창고용 휴머노이드 로봇 업체들과도 초기 협력을 추진하고 있다.
• 현재 고객 계약은 대부분 프로젝트 단위이며, Laplace는 반복 매출 전환과 자금 조달, 사업 확대를 추진한다. 주요 경쟁사 Applied Intuition은 누적 12억 달러를 조달했고 투자 후 기업가치는 150억 달러이며, Sun은 AI로 AI를 시험하는 동적·상호작용형 검증 방식이 경쟁 우위가 될 것이라고 주장한다.

🧩 주요 포인트

1. 현실 재현과 참여자 간 상호작용 → 배경의 시각적 재현을 넘어 물리적 AI가 주변 행동 변화에 어떻게 대응하는지 시험하는 환경을 지향한다.
2. AI 에이전트의 실패 시나리오 자동 설계 → 사람의 아이디어와 기존 기록에 의존하는 시험을 확장하고, 데이터가 부족한 범용 로봇의 예외 상황을 탐색하려는 접근이다.
3. 자율주행 고객과 소폭의 이익 확보 → 초기 사업 수요는 확인됐지만, 반복 매출 전환과 자금 조달, Applied Intuition에 맞설 규모 확대가 과제로 남아 있다.

🧠 상세 정리

1. 물리적 AI의 실패를 배포 전에 찾으려는 연구의 사업화

기사는 OpenAI-Hugging Face 사건을 AI 에이전트의 예측 불가능성을 보여주는 사례로 제시하고, 이런 실패가 물리적 세계에서 발생하면 어떨지라는 Howie Sun의 문제의식으로 출발한다. 앤아버에 기반을 둔 Laplace Intelligence는 시스템을 의도적으로 실패하게 만들어 취약점을 찾는 자동 레드팀 기술을 로봇과 물리적 AI에 적용하고 있다. Sun은 배포 전에 문제를 발견하고 수정하도록 돕고, 장기적으로 고객·보험사·규제기관이 신뢰할 수 있는 공동의 증거 기반을 구축하는 것이 목표라고 설명한다. Sun과 당시 박사과정 지도교수였던 Henry Liu는 2023년 관련 연구를 Nature에 발표했으며, 논문이 표지에 소개된 뒤 자율주행 기업들의 문의를 받았다. 자율주행 AI를 시뮬레이션에서 시험하는 연구를 8년간 수행한 Sun은 이를 실제 제품으로 발전시키고자 Liu와 함께 기사 시점으로 약 1년 전에 회사를 설립했다.

2. 현실 자료와 언어 입력으로 구성하는 시뮬레이션

Laplace라는 이름은 우주의 모든 상태를 정확히 알면 미래를 완벽하게 예측할 수 있다고 상정한 1814년의 사고실험인 ‘라플라스의 악마’에서 따왔다. 회사는 현실을 재구성한 고충실도 시뮬레이션과 취약점을 계속 탐색하는 AI 에이전트를 결합해, 실제 배포 전에 물리적 AI를 시험하려 한다. 시뮬레이션 환경은 Nvidia의 AI 세계 시뮬레이션 플랫폼 Cosmos를 현실에 맞게 후속 학습한 버전으로, 애리조나 고속도로부터 파리의 횡단보도까지 재구성할 수 있다는 설명이다. Google Street View 이미지를 거리 생성의 참고자료로 활용하면서 실제 지도 데이터를 결합해 공간의 축척을 맞춘다. 개발자는 언어 프롬프트로 오후 교통량 같은 조건을 실시간으로 추가할 수 있으며, Sun에 따르면 TomTom 같은 내비게이션 업체의 실시간 교통량과 혼잡 정보도 활용한다.

3. 상호작용하는 참여자와 실패 시나리오를 만드는 AI

Laplace의 시뮬레이션은 주변 환경뿐 아니라 다른 참여자의 행동도 모사한다. 시연에서 Sun이 시험 차량을 반대 차선으로 돌진시키자, 충돌 대상이 될 차량은 이를 피하려고 움직였으며 일부 생성형 세계 모델에서처럼 차량이 서로 통과하는 모습과는 차이를 보였다. Sun은 이를 모든 참여자가 서로에게 반응하는 상호작용형 환경이라고 설명했다. 다만 기사는 시뮬레이션 자체보다 드물고 까다로운 실패 시나리오를 자동 설계하는 AI 에이전트를 회사의 핵심 차별화 요소로 짚는다. 이 에이전트는 뉴스와 충돌 사고에 관한 경찰 보고서 등 다양한 정보를 바탕으로 자율주행차와 다른 물리적 AI를 적극적으로 시험할 상황을 설계하며, 시나리오 작성 과정에서 사람의 개입을 줄이는 것을 지향한다.

4. 기존 자율주행 시험 방식과 범용 로봇의 데이터 부족

현재 자율주행 개발사들은 대체로 기록된 영상을 시뮬레이션으로 바꾸거나 사람이 새로운 상황을 구상하는 방식으로 AI가 예외 상황에 대응하도록 훈련한다. 기사에서는 자율주행 트럭 기업 Waabi를 예로 들며, 여러 자율주행 기업이 이미 AI를 활용한 예외 상황 생성에 나서고 있다고 설명한다. 따라서 AI로 시험 상황을 만든다는 방향 자체가 Laplace만의 시도인 것은 아니다. 기사는 범용 로봇이 현실에 배치되기 시작할 때 이런 기술의 필요성이 더욱 뚜렷해질 것으로 본다. Sun은 범용 로봇 분야에는 데이터가 더 적고 현실에서 어떤 예외 상황이 발생할지도 아무도 모른다고 말하며, 알려진 사례를 재현하는 것에 더해 아직 드러나지 않은 실패 조건을 탐색할 필요성을 강조한다.

5. 자율주행 매출에서 스마트시티와 휴머노이드 협력으로

학계 출신인 Sun과 Liu는 회사를 설립한 뒤 매출을 만들었으며 소폭의 이익도 내고 있다. 현재 수입의 대부분은 자율주행 관련 용도에서 나오고, 고객으로 일본 트럭 제조사 Isuzu와 텍사스에 기반을 둔 자율주행 트럭 기업 Bot Auto가 포함된다. Sun에 따르면 Nvidia 역시 고객이며, Laplace는 Nvidia 및 T-Mobile과 함께 산호세시의 전반적인 교통 운영을 지원하는 무료 스마트시티 시범사업을 진행하고 있다. 또한 창고용 휴머노이드 로봇을 만드는 협력사들과도 초기 단계의 작업을 진행 중이다. 이 사례들은 적용 범위가 자율주행 밖으로 넓어지고 있음을 보여주지만, 무료 시범사업이나 초기 협력이 반복 매출로 이어졌다는 설명은 기사에 제시되지 않는다.

6. 반복 매출 전환과 대형 경쟁사에 맞설 차별화

Laplace의 고객 계약은 현재 대부분 프로젝트 단위이며, 회사는 이를 반복 매출로 전환하려 하고 있다. 단기 목표는 자금을 조달하고 사업 규모를 키워 경쟁사에 대응하는 것으로, TechCrunch Disrupt의 Startup Battlefield에 참가한 20개 스타트업 중 하나로서 대회가 이 목표에 도움이 되기를 기대한다. 주요 경쟁사인 Applied Intuition은 누적 12억 달러를 조달했고 투자 후 기업가치는 150억 달러에 이르며, Isuzu는 이 회사의 고객이기도 하다. Sun은 이런 경쟁 구도에도 AI로 AI를 시험하는 핵심 방법론이 물리적 AI 검증을 완전히 바꾸는 새로운 패러다임이라고 주장한다. 그는 시험을 동적이고 상호작용하는 과정으로 만드는 방식이 가장 큰 경쟁 방어력이 될 것으로 보지만, 기사는 이 우위가 경쟁사 대비 입증됐다는 결과까지 제시하지는 않는다.

🧾 핵심 주장 / 시사점

• Laplace가 강조하는 가치는 현실적인 장면 생성과 실패 조건의 능동적 탐색을 결합하는 데 있다. 시뮬레이션의 상호작용성과 시험 AI의 시나리오 설계 능력이 함께 중요해지는 구조다.
• 범용 로봇의 데이터 부족은 자동 시나리오 생성 기술에 대한 수요 근거인 동시에, 생성한 시험이 실제 예외 상황을 얼마나 포괄하는지 확인해야 하는 과제이기도 하다.
• 자율주행 분야의 매출과 소폭의 이익은 초기 수요를 보여주지만, 프로젝트 계약을 반복 매출로 바꾸는 성과와 시험 방식의 차별성이 장기 경쟁력을 판단할 핵심 요소다.

✅ 액션 아이템

• Laplace Intelligence의 상호작용형 시뮬레이션과 AI 에이전트가 물리적 AI의 배포 전 취약점 탐색에 제공하는 효용 검토.
• 데이터가 부족한 범용 로봇에서 실패 시나리오 자동 설계의 적용 가능성과 검증 제약 평가.
• Laplace의 반복 매출 전환과 자금 조달 진전, Applied Intuition 대비 검증 방식의 차별성 확인.

❓ 열린 질문

• Laplace Intelligence의 상호작용형 시뮬레이션에서 발견한 취약점은 실제 물리적 AI의 실패 위험을 얼마나 잘 설명하는가?
• 데이터가 부족한 범용 로봇에서 AI 에이전트가 설계한 실패 시나리오의 포괄성을 어떻게 판단할 수 있는가?
• Laplace는 프로젝트 단위 계약을 반복 매출로 전환하면서 Applied Intuition에 맞설 경쟁 우위를 확보할 수 있는가?