Everything Goldman Sachs Taught Me About AI (In 10 minutes)

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

Everything Goldman Sachs Taught Me About AI (In 10 minutes)를 중심으로, Verify: AI의 완성도 높은 표현을 정확성으로 착각하지 말고, 입력 데이터와 의사결정에 중요한 수치·주장을 원본 출처, 결정를 핵심 판단 포인트로 압축 정리한다.

📌 핵심 요점

1. Verify: AI의 완성도 높은 표현을 정확성으로 착각하지 말고, 입력 데이터와 의사결정에 중요한 수치·주장을 원본 출처, 결정론적 테스트 또는 사람의 검토로 확인해야 한다.
2. Augment: 규칙과 정답이 명확한 작업은 일반 자동화로 처리하고, 판단·해석·유연성이 필요한 단계에서만 AI를 사용해 기존 프로세스를 보강해야 한다.
3. Understand: 도구나 에이전트부터 고르지 말고 해결할 문제와 성공 기준을 한 문장으로 정의한 뒤, 시간 절약·수익·오류 감소·성과 개선에 기여하는 가장 단순한 수단을 선택해야 한다.
4. Loop humans in: AI가 돈을 쓰거나 중요 데이터를 변경하거나 대규모로 소통하는 등 되돌리기 어려운 행동을 수행할 때는 영향도에 비례하는 승인 절차를 둬야 한다.
5. Transparency: 데이터 출처, 입력, 가정, 사용 도구, 검증 결과, 실행 행동과 승인 지점을 기록해 결과를 설명·감사·재현·인계할 수 있어야 한다.

🧩 배경과 문제 정의

발표자는 골드만삭스의 비즈니스 인텔리전스 업무에서 배운 원칙을 토대로 VAULT 프레임워크를 구성한다. 금융회사에서는 하나의 잘못된 데이터 입력이나 환각도 큰 재무 손실과 평판 훼손으로 이어질 수 있기 때문에, 빠른 생성보다 검증과 통제가 중요하다는 문제의식에서 출발한다.

영상이 다루는 핵심 문제는 AI가 완성된 것처럼 보이는 답을 자신 있게 제시하더라도 실제로 정확하거나 안전하다는 보장은 없다는 점이다. 특히 AI가 자율적으로 외부 발송, 데이터 변경, 배포 같은 행동까지 수행하면 작은 지시 오류가 전체 워크플로로 증폭될 수 있다.

🕒 시간순 섹션별 상세정리

1. 출력과 입력 데이터 검증

• 발표자는 골드만삭스에서 배운 다섯 가지 AI 원칙을 VAULT라고 명명하고, 첫 원칙으로 AI의 최종 출력을 검증해야 한다고 보여준다. [00:35]
• 모델의 문제 분석 과정은 유용할 수 있어도 최종 답은 틀릴 수 있으며, 오래되거나 중복되거나 잘못된 데이터에 AI를 연결하면 잘못된 답을 더 빠르게 얻게 된다고 경고한다. [01:59]
• 중요한 수치와 사실에는 출처를 요구하고, 고위험 업무에는 별도 검토 에이전트를 둘 수 있지만 최종적으로 원본 출처, 결정론적 테스트 또는 사람의 검토가 필요하다고 정리한다. [02:48]

2. 기존 시스템 보강과 자동화의 역할

• 두 번째 원칙은 사람이나 기존 시스템을 대체하기보다 보강하는 것으로, 골드만삭스에는 현재의 AI 열풍 이전부터 자동화된 데이터·위험 시스템과 해결할 운영 문제가 존재했다고 보여준다. [03:20]
• 정해진 규칙을 반복하는 작업은 테스트와 감사가 쉬운 결정론적 자동화를 사용하고, 판단·해석·유연성 또는 복잡한 정보 처리가 필요할 때 AI를 사용해야 한다고 구분한다. [04:16]
• 주간 보고서에서는 일반 자동화가 수치 수집·정제·계산·검증을 맡고, AI가 검증된 수치의 변화를 자연어로 설명하는 혼합 구조를 예로 든다. [04:59]

3. 목적에서 출발하는 AI 설계

• 세 번째 원칙은 방법보다 이유를 우선하는 것으로, 에이전트나 최신 도구부터 선택하면 아무도 필요로 하지 않는 정교한 워크플로를 만들 수 있다고 지적한다. [05:35]
• 시작 전에 해결할 문제와 좋은 결과의 모습을 한 문장으로 정의하고, 아직 불명확하다면 AI를 브레인스토밍 파트너로 활용해 가장 단순한 해결책을 찾으라고 제안한다. [06:00]
• 발표자는 기술보다 고통이 큰 문제 하나에 집중한 사람들이 더 나은 사업 성과를 얻었다고 주장한 뒤, 관련 커뮤니티와 자료를 보여준다. [06:40]

4. 영향도에 비례한 인간의 개입

• 네 번째 원칙은 사람을 의사결정 고리에 남기는 것으로, 불명확한 지시가 자율형 에이전트에 연결되면 잘못된 이메일 발송, 기록 변경이나 공개 게시로 확대될 수 있다고 보여준다. [07:11]
• 도구가 안정적으로 신뢰할 수 있을 때까지 인간이 개입해야 하며, 개인 노트 정리처럼 영향이 작은 작업은 자동화하되 돈·중요 데이터·고객 소통에는 승인 단계를 추가해야 한다고 제안한다. [07:45]
• 이메일은 발송하지 않고 초안으로 만들게 하며, 중요 파일 변경이나 배포처럼 되돌리기 어려운 행동 전에는 계획을 먼저 보여주게 하라고 권고한다. [08:25]

5. 투명성과 신뢰 가능한 시스템

• 다섯 번째 원칙은 투명성으로, 중요한 데이터·보고·위험을 다루는 시스템은 정보의 출처, 처리 과정과 최종 결과 생성 방식을 설명할 수 있어야 한다고 드러낸다. [08:58]
• 모든 실행에서 데이터 출처, 가정, 도구, 검증과 중요 결정을 기록하고, 숨겨진 내부 사고 과정이 아니라 실제로 점검할 수 있는 입력·행동·근거를 남겨야 한다고 강조한다. [09:33]
• 마지막으로 검증, 기존 시스템 보강, 목적 이해, 인간 개입과 투명성을 다시 요약하며, 가장 단순한 시스템으로 데이터와 중요한 행동에 대한 통제권을 지키는 것이 신뢰할 수 있는 AI를 만드는 길이라고 결론짓는다. [10:18]

🧾 결론

• 모든 문제를 AI 에이전트로 해결할 필요는 없으며, 이미 검증된 결정론적 자동화가 더 저렴하고 빠르고 안정적일 수 있다.
• 신뢰할 수 있는 AI 시스템은 좋은 모델 하나가 아니라 깨끗한 데이터, 중요 결과의 검증, 위험 기반 승인, 실행 로그가 결합된 운영 구조다.
• AI는 사실 처리보다 판단과 설명이 필요한 단계에서 강점을 발휘하며, 사람은 중요한 행동에 대한 최종 통제권을 유지해야 한다.
• VAULT는 특정 모델이나 도구가 바뀌어도 적용할 수 있는 프로젝트 설계 원칙으로 제시된다.

📈 투자·시사 포인트

• 기업의 AI 투자 가치는 에이전트의 화려함보다 시간 절약, 수익 창출, 오류 감소 또는 실제 성과 개선으로 평가해야 한다.
• 데이터 정제, 결정론적 테스트, 출처 추적, 실행 로그와 승인 체계는 기업용 AI 도입의 부수 비용이 아니라 신뢰성을 만드는 핵심 기반이다.
• 대규모 고객 소통이나 중요 데이터 변경처럼 파급력이 큰 업무에서는 작은 오해도 재무·평판 손실로 증폭될 수 있으므로 통제 역량이 도입 속도만큼 중요하다.
• 검증된 수치 처리는 일반 자동화가 담당하고 AI가 변화의 의미를 설명하는 혼합형 구조가 현실적인 기업 적용 방식으로 제시된다.

⚠️ 불확실하거나 확인이 필요한 부분

• VAULT는 골드만삭스의 공식 명칭으로 소개된 것이 아니라, 발표자가 재직 중 배운 원칙을 바탕으로 직접 구성한 프레임워크라고 명시한다.
• 자율형 AI 에이전트가 약 20만 명에게 할인 코드를 잘못 보냈다는 사례는 발표자의 설명만 제공되며, 사건의 구체적인 설정·피해·후속 조치는 제시되지 않는다.
• 커뮤니티 구성원이 수개월 안에 직장 소득을 대체했다는 성과 주장은 대상 규모, 측정 기준과 외부 검증 자료가 제공되지 않는다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• 현재 AI 워크플로마다 해결할 문제와 성공 기준을 각각 한 문장으로 작성한다.
• 규칙과 정답이 명확한 단계는 일반 자동화로 분리하고, 판단·해석이 필요한 단계에만 AI를 배치한다.
• 의사결정을 바꿀 수 있는 핵심 수치와 사실 주장에 원본 출처, 신뢰도 표시와 표본 검증 절차를 연결한다.
• 외부 발송, 배포, 결제, 중요 파일·데이터 변경은 즉시 실행 대신 초안 또는 계획 상태에서 사람의 승인을 받도록 설정한다.

❓ 열린 질문

• 어떤 금액, 수신자 수 또는 데이터 중요도부터 사람의 승인을 의무화해야 하는가?
• AI 검토 에이전트의 결과는 어떤 원본 출처와 결정론적 테스트로 다시 검증해야 하는가?
• 현재 업무 중 AI보다 일반 자동화로 전환했을 때 더 저렴하고 빠르고 안정적인 단계는 무엇인가?