How AI Agents Work: Connectors, MCP & Agent Safety
Quick Summary
AI 에이전트는 커넥터로 외부 앱에서 행동하고, MCP는 모델의 요청을 도구에 연결하며, 어떤 행동까지 맡기고 어디서 사람이 승인할지가 안전성을 좌우한다.
영상 보기
클릭 전까지는 가벼운 미리보기만 먼저 불러옵니다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론
AI 에이전트는 커넥터로 외부 앱에서 행동하고, MCP는 모델의 요청을 도구에 연결하며, 어떤 행동까지 맡기고 어디서 사람이 승인할지가 안전성을 좌우한다.
📌 핵심 요점
- 메일 읽기와 발송은 별개의 권한이다. AI가 원문과 초안을 읽어 어조를 다듬으면 사용자는 복사·붙여넣기를 줄이면서 최종 문안을 직접 확인하고 보낼 수 있다. 발송까지 위임하면 수신자는 AI가 고른 표현을 사용자의 말로 받아들인다.
- 모델이 도구 호출을 작성하면 소프트웨어가 전달한다. 커넥터를 켜면 사용 가능한 동작과 입력 형식이 모델의 컨텍스트 창에 들어간다. 모델이 그 형식에 맞춰 날씨 조회 요청을 작성하면 중간 소프트웨어가 전달하고, 돌아온 날씨 정보는 옷차림 추천의 근거가 된다. 모델 컨텍스트 프로토콜(MCP)은 이런 구조화된 요청을 외부 도구의 동작에 연결하는 규약이다.
- 에이전트는 행동한 뒤 결과를 관찰한다. 호출이 실제로 실행됐는지, 의도한 효과가 났는지를 확인해야 다음 행동을 정할 수 있다. 팀 식사 조율에서는 전원 참석 확인과 캘린더 등록을 성공 조건으로, 세 번 조율해도 일정을 잡지 못하면 사용자에게 알리고 멈추는 것을 실패 시 종료 조건으로 둘 수 있다.
- 작업을 처음 보는 에이전트가 범위서의 빈틈을 찾을 수 있다. ‘코끼리’가 사용자와 할 일과 합격 기준을 문서화하면, ‘금붕어’는 인터뷰 기록 없이 범위서와 인용 자료만 읽고 질문한다. 베일리는 이 검토를 마친 뒤에도 실행 전에 사람이 최종 문서를 읽어 보기를 권한다.
- 예상되는 실수에 따라 보호 조치도 달라진다. 누수 신고에는 해당 사진 세 장만 공유하면 사적인 사진이 잘못 첨부될 위험을 줄일 수 있다. 파일 정리에서는 수정 날짜만으로 중요한 작업물이나 가족사진의 가치를 알기 어려우므로, 에이전트가 후보를 추리고 사람이 영구 삭제 여부를 정할 수 있다.
🧩 배경과 문제 정의
- AI로 이메일 답장의 어조를 다듬을 때도, 원문과 초안을 누가 가져오고 수정본을 누가 발송하느냐에 따라 사용자가 확인하고 통제할 수 있는 범위가 달라진다.
- 커넥터는 AI가 외부 앱의 정보를 읽거나 사용자를 대신해 행동할 수 있게 한다. 언어 모델이 생성한 텍스트가 어떻게 실제 도구 호출로 이어지는지가 에이전트의 작동 원리를 이해하는 출발점이다.
- 여러 번 행동하는 에이전트에는 목표와 권한 외에도 결과를 확인하는 방법, 멈출 조건, 사람이 개입할 지점이 필요하다.
🕒 시간순 섹션별 상세정리
1. 스탠퍼드의 커넥터 승인은 AI 도구별로 다르다
- 실습 대상 커넥터는 각각 Claude, ChatGPT, Gemini 중 적어도 하나에서 사용 승인을 받았다. 학생은 승인 조합을 정리한 표를 참고해 자신이 쓸 커넥터를 고를 수 있다. [01:43]
- 커넥터가 지원하는 업무는 Gmail·Outlook의 이메일과 일정 관리, 파일 작업부터 산업·연구 분야의 전문 업무까지 걸쳐 있다. [02:19]
2. 커넥터 권한이 외부 앱에서 가능한 행동을 정한다
- 커넥터는 AI 도구를 사용자의 앱이나 계정에 연결하는 접근 권한이다. AI는 이 권한으로 외부 데이터를 대화 맥락에 가져오거나 앱 안에서 사용자를 대신해 행동할 수 있다. [02:52]
- 이메일의 경우 메시지 읽기와 답장 초안 작성, 실제 발송까지 가능할 수 있다. 어디까지 맡길 수 있는지는 해당 커넥터의 권한에 달려 있다. [03:15]
3. 커넥터가 없으면 사용자가 초안과 수정본을 옮긴다
- 동료에게 비판적인 피드백을 보낼 때, 사용자는 받은 메일과 자신이 작성한 답장 초안을 AI에 복사해 넣고 어조를 다듬은 수정안을 검토한다. [04:38]
- 사용자는 마음에 드는 수정본을 메일 앱으로 옮겨 직접 발송한다. AI의 역할은 문안을 만드는 데 있고, 앱 사이에서 정보를 옮기거나 메일을 보내는 일은 사용자의 몫이다. [05:23]
4. 메일 조회를 맡겨도 발송 결정은 사람이 유지할 수 있다
- 커넥터로 AI가 원문과 초안을 직접 읽으면 복사·붙여넣기가 줄어든다. 사용자는 수정안을 확인한 뒤 직접 발송할 수 있다. [06:14]
- 발송 권한까지 맡기면 AI가 메일을 찾아 읽고 답장을 고쳐 보내는 일까지 처리할 수 있다. 문안 생성에 더해 외부 앱에서 행동한다는 점이 에이전트형 AI의 특징이다. [06:53]
5. 언어 모델은 다음 토큰을 예측해 도구 호출도 작성한다
- 언어 모델은 사람에게 보여 줄 문장을 쓸 때와 마찬가지로 한 번에 한 토큰씩 예측한다. 출력이 정해진 형식의 텍스트이면 커넥터가 이를 도구 호출로 인식하고 해당 동작을 수행한다. [08:51]
- 날씨 조회 예시에서 JSON은 호출할 동작과 조회할 위치를 담는다. 커넥터를 추가하는 것만으로 이미 훈련된 신경망 자체가 바뀌지는 않는다. [10:39]
6. 커넥터를 켜면 도구 설명이 컨텍스트 창에 들어간다
- Gmail이나 Outlook 커넥터를 활성화하면 시스템 지침, 사용자 설정, 기억 등이 담긴 컨텍스트 창에 해당 도구를 사용하는 데 필요한 지침이 추가된다. [11:26]
- 도구 정의와 JSON 스키마 예시는 사용 가능한 동작과 입력 형식을 알려 준다. 모델은 이 정보를 바탕으로 커넥터가 알아볼 수 있는 호출을 생성한다. [12:52]
7. 외부 도구의 응답이 다음 답변의 근거가 된다
- 옷차림을 추천하는 예시에서 모델은 현재 날씨가 필요하다고 판단해 조회 요청을 생성한다. 중간 소프트웨어가 이 요청을 알아보고 활성화된 날씨 커넥터로 전달한다. [14:20]
- 날씨 앱의 응답은 컨텍스트 창으로 돌아간다. 모델은 샌프란시스코가 춥고 안개가 꼈다는 예시 응답을 근거로 플리스를 추천한다. [15:36]
8. MCP는 모델과 외부 도구를 연결하는 프로토콜이다
- 모델 컨텍스트 프로토콜(MCP)은 모델이 생성한 구조화된 요청을 외부 도구의 동작과 연결한다. 날씨 조회처럼 도구 요청을 받는 쪽을 MCP 서버라고 부른다. [17:37]
9. 에이전트마다 목표와 접근 범위를 따로 정한다
- 팀 저녁 식사를 잡는 에이전트의 목표는 팀원 모두가 참석할 수 있는 식사 일정이 캘린더에 등록되는 것이다. [18:41]
- 같은 작업에 참여하는 에이전트끼리도 과거 대화에서 가져올 맥락, 사용할 커넥터, 행사할 권한을 다르게 정할 수 있다. [20:22]
10. 반복해서 쓸 에이전트에는 기억과 종료 조건이 필요하다
- 매주 다시 쓰는 에이전트라면 지난 실행에서 알게 된 정보를 다음 세션에도 기억하게 할지, 매번 새로 시작하게 할지 정한다. [20:44]
- 예상하는 행동과 함께 작업을 멈출 조건도 명시한다. 에이전트는 사용자가 중단시키거나 미리 정한 조건에 도달할 때까지 행동을 이어갈 수 있다. [21:31]
11. 일정 조율 방식은 캘린더와 메시지 권한에 따라 달라진다
- 팀원 명단, 식당 선호, 희망 시간대가 일정 조율의 맥락이 된다. 팀원의 캘린더를 직접 볼 권한이 있으면 빈 시간을 조회하고, 그렇지 않으면 Slack이나 이메일로 물을 수 있다. [22:05]
- 팀원에게 메시지를 보낼 때마다 사용자의 승인을 받을지도 정할 수 있다. 매달 식사를 잡는다면 이전에 선호했던 시간대와 조율 결과를 기억해 다음 일정에 활용할 수 있다. [22:37]
12. 일정 확정과 조율 실패에 각각 종료 기준을 둔다
- 에이전트는 가능한 시간을 확인하고 팀원에게 연락해 참석 여부를 모은다. 거절한 사람이 있으면 다른 시간을 찾아 다시 조율한다. [23:02]
- 모두가 참석을 확인하고 캘린더에 식사가 등록되면 작업을 마친다. 세 번 시도해도 일정을 잡기 어려우면 사용자에게 어려움을 알리고 멈추는 조건도 둘 수 있다. [23:16]
13. 분석·행동·관찰이 한 번의 반복을 이룬다
- 분석 단계에서 모델은 현재 맥락을 살펴 추가 행동이 필요한지 판단한다. 옷차림 추천에는 현지 날씨가 필요하다는 판단이 날씨 커넥터를 호출하는 행동으로 계속된다. [25:06]
- 관찰이 필요한 한 가지 이유는 모델이 호출 이름도 확률적으로 생성하기 때문이다. 뜻이 비슷해도 도구에 등록되지 않은 이름을 쓰면 커넥터는 요청을 인식하지 못하고 오류를 반환한다. [26:11]
14. 실행 결과를 확인해야 다음 행동을 결정할 수 있다
- 관찰할 때는 호출이 실제로 실행됐는지, 의도한 효과를 냈는지 함께 확인한다. 날씨 응답을 받은 모델은 그 결과를 다시 분석해 옷차림을 추천할 수 있다. [26:50]
- 날씨 예시는 한 번 조회한 뒤 답을 낼 수 있지만, 다른 에이전트 작업에서는 이 과정이 여러 번 이어질 수 있다. 반복이 길어질수록 종료 조건을 미리 정하는 일이 중요해진다. [27:32]
15. 사람이 진행 상황을 아는 시점과 승인하는 시점을 정한다
- ‘휴먼 인 더 루프(human in the loop)’ 설계에서는 사람이 어느 단계에서 상황을 전달받고, 어느 단계에서 다음 행동을 허용하거나 멈출 수 있는지 정한다. [28:11]
- 이메일 사례에서 커넥터가 없으면 사람이 모든 행동을 확인하고 수행한다. 조회를 맡기면 수정안 검토와 발송이 사람의 통제 지점으로 남는다. 발송까지 위임하면 개별 메일을 보내기 전에 사람이 개입하는 단계가 사실상 사라진다. [29:28]
16. 대규모 코드 변경에서 작업 범위가 중요한 이유
- 레즈닉이 ‘코끼리와 금붕어’ 모델을 고안한 맥락은 기능 추가와 버그 수정이다. 큰 코드베이스에서는 변경할 부분을 찾는 데 더해, 그 변경이 어떤 기존 구성요소에 영향을 미칠지도 파악해야 한다. [31:28]
- 베일리는 공급망·유통 데이터나 건설사·법률회사의 과거 고객 기록처럼 방대한 자료를 바탕으로 판단하는 업무에도 이 방식이 적용될 수 있다고 본다. 공통 조건은 세부 작업 범위를 정확히 정하는 일이 중요하다는 점이다. [32:37]
17. 코끼리는 할 일과 합격 기준을 따로 구체화한다
- 코끼리 에이전트는 사용자와 총 30~40분가량 대화한다. 레즈닉은 이를 15~20분씩 나눠, 전반에는 원하는 기능과 수행할 일을 정하고 후반에는 결과물을 받아들일 조건과 품질 평가 기준을 정한다. [34:30]
- 결과물은 실행 에이전트 팀이 기준으로 삼을 4~6쪽짜리 작업 범위서다. 사용자가 기대하는 결과를 추가 질의 없이 완성할 수 있을 만큼 구체적으로 쓰는 것이 목표다. [35:38]
18. 금붕이는 작업 범위서만으로 실행할 수 있는지 검토한다
- 금붕이 에이전트는 프로젝트 배경을 모르는 별도 대화에서 출발한다. 범위서가 기존 코드의 구조를 설명하면서 특정 파일을 인용했다면, 금붕이는 그 파일을 열어 근거를 확인할 수 있다. [36:57]
- 금붕이에게는 사용자와 코끼리의 인터뷰 기록을 주지 않는다. 그래야 문서에 빠진 설명을 이전 대화로 보충할 수 없어, 실행 팀이 범위서와 인용 자료만으로 일할 수 있는지 점검할 수 있다. [38:20]
19. 새 금붕이의 질문으로 문서를 고치고 사람이 마무리한다
- 금붕이가 특정 방식을 선택한 이유를 이해하지 못하면 코끼리는 그 이유를 범위서에 보충한다. 수정본은 이전 검토를 기억하지 못하는 새 금붕이에게 맡기며, 새 검토자가 더 물을 것이 없다고 판단하면 반복을 끝낸다. [40:10]
- 검토를 자동으로 반복할 수도 있지만, 레즈닉은 때때로 몇 차례마다 개입해 남은 질문이 실제 작업에 영향을 주는지 판단한다. 베일리는 반복이 끝난 뒤에도 실행 에이전트가 일을 시작하기 전에 사람이 최종 문서를 읽어 보기를 권한다. [41:37]
20. 커넥터의 접근 범위가 안전성 문제가 된다
- 이메일 전체나 하드디스크 전체를 커넥터에 열어 주면 에이전트가 업무와 무관한 민감정보까지 볼 수 있다는 우려가 나온다. [41:53]
- 권한을 검토할 때는 정보보호 책임자의 관점에서 에이전트가 주어진 접근권과 실행 권한으로 어떤 최악의 결과를 낳을 수 있는지 따져 본다. [43:15]
21. 기숙사 누수 신고에는 사진 열람권과 메일 발송권이 결합된다
- 누수 신고 에이전트의 목적은 창문으로 빗물이 들어온 흔적을 사진과 함께 시설관리팀에 전달하는 것이다. 예시 설정에서는 휴대전화 사진 전체를 볼 수 있고 아웃룩으로 메일을 보낼 수 있다. [44:19]
- 에이전트는 신고 후 받은편지함을 확인하고, 수리 일정이 잡혔거나 수리를 마쳤다는 회신이 오면 작업을 끝낸다. 24시간 동안 답이 없으면 사용자에게 그 사실을 알린다. [45:06]
22. 구직 도우미는 회사 정보를 찾아 지원자 이름으로 회신한다
- 구직 에이전트는 링크드인으로 받은 채용 담당자의 메시지를 읽고 회사를 검색한다. 사용자의 진로 관심사와 회사가 얼마나 맞는지 판단하고, 과거에 보낸 회신도 참고해 답장을 작성·발송한다. [46:27]
- 새 연락이 올 때마다 대응하는 업무라 자연스러운 종료 시점이 없다. 한 달간 운영한 뒤 계속 사용할지 판단하는 방안이 예시로 나온다. [46:36]
23. 디스크 정리에서는 오래된 파일과 불필요한 파일을 혼동할 수 있다
- 정리 대상은 최소 6개월간 손대지 않은 파일인데, 예시의 권한은 노트북의 모든 파일을 읽고 영구 삭제하는 데까지 미친다. 휴지통으로 옮기는 것만으로는 실제 여유 공간이 늘지 않아 영구 삭제를 허용한 설정이다. [47:49]
- 에이전트는 오래된 파일부터 살피고 삭제 후 사용률을 다시 확인해 목표치에 도달할 때까지 반복한다. [48:07]
24. 자동 발송은 잘못된 위치나 말투의 영향을 키운다
- 누수 신고에 틀린 방 번호가 들어간 상태에서 메일까지 반복 발송하도록 설정했다면, 시설관리 인력이 엉뚱한 곳에 출동해 시간과 자원을 낭비할 수 있다. [50:26]
- 답을 재촉하려고 작성한 메일이 직원에게는 모욕적으로 들릴 수도 있다. 수신자는 에이전트가 고른 표현을 사용자 본인의 말로 받아들인다. [50:58]
25. 영구 삭제 전에는 사람이 파일의 가치를 판단한다
- 오래 열어 보지 않은 작업물도 나중에 참고할 수 있고, 세상을 떠난 가족과 마지막으로 찍은 사진은 사용 빈도로 가치를 가늠할 수 없다. 에이전트가 삭제 후보를 추리고 사용자가 목록을 살펴 최종 결정하면 이런 손실을 막을 수 있다. [52:04]
26. 누수 사진만 공유하면 사적인 사진이 잘못 전송될 위험을 줄인다
- 휴대전화 사진첩에는 분실에 대비해 찍어 둔 여권 사진이나 직장 관계자에게 공개하고 싶지 않은 사진도 있을 수 있다. 사진첩 전체를 열어 주면 이런 자료까지 신고 메일에 잘못 첨부될 수 있다. [53:05]
- 최소 권한 원칙은 작업에 필요한 자료와 기능만 허용하는 것이다. 방금 찍은 누수 사진 세 장이면 신고할 수 있는 상황에서는 그 세 장만 에이전트에 제공하면 된다. [53:54]
27. 외부 메시지와 검색 문서가 사용자 지시로 오인될 수 있다
- 구직 도우미에는 링크드인 수신 메시지와 웹 검색 결과라는 두 가지 외부 입력이 있다. 언어 모델이 이 자료의 문구를 사용자 지시로 받아들이면 원래 업무를 벗어날 수 있다. 이것이 이 사례의 프롬프트 인젝션 위험이다. [56:00]
- 베일리는 링크드인에서 자동 발송으로 의심되는 연락을 받은 사람들이 답장의 반응을 보고 봇을 가려내려 했다는 일화를 전해진다. 이 일화에서 채용과 무관한 내용에 끌려가는 반응은 자동화를 의심하는 단서다. [57:28]
28. 최악의 결과를 가정해 설계 단계에서 예방한다
- 베일리가 강조하는 태도는 에이전트가 어디까지 잘못될 수 있는지 호기심을 갖고 따져 보는 것이다. 실패 가능성을 구체적으로 생각하면 에이전트의 역할과 권한을 정할 때부터 예방책을 반영할 수 있다. [58:19]
- 이번 주 튜토리얼의 과제는 앞선 사례처럼 예상한 피해가 실제로 일어나지 않도록 에이전트에 어떤 보호 조치를 넣을지 구체화하는 것이다. [58:36]
🧾 결론
- 커넥터가 추가되면 이미 훈련된 모델도 새 도구를 쓸 수 있다. 달라지는 것은 모델에 제공되는 도구 설명과 요청을 실행할 수 있는 외부 연결이다.
- 반복 작업의 완료 기준은 외부에서 확인할 수 있는 결과로 써야 한다. 일정 조율이라면 초대 메시지를 보낸 뒤에도 참석 확인과 일정 등록이 남는다.
- 사람의 개입은 결정 시점에 의미가 있다. 메일의 어조는 발송 전에, 파일의 가치는 영구 삭제 전에 판단해야 그 결정에 반영할 수 있다.
📈 투자·시사 포인트
- 업무용 AI 제품을 비교할 때는 커넥터 수와 함께 권한의 세분성을 살펴볼 수 있다. 같은 이메일 연동도 조회만 맡기고 발송은 사용자가 결정할 수 있는지에 따라 도입할 수 있는 업무가 달라진다.
- 반복 업무용 에이전트를 평가할 때는 실패한 뒤의 동작도 살펴볼 만하다. 일정 조율에 계속 실패할 때 멈추고 담당자에게 넘길 수 있는지가 한 가지 기준이다.
- 대규모 코드 변경을 맡기는 조직에는 범위서를 검토하는 과정도 비용·효과를 따져 볼 대상이다. 배경을 모르는 검토자가 문서만 읽고 작업 범위와 합격 기준을 이해할 수 있는지 실행 전에 확인할 수 있다.
⚠️ 불확실하거나 확인이 필요한 부분
- 강의에서 소개한 스탠퍼드의 실습 승인은 AI 도구와 커넥터 조합별로 달랐다. 자신이 사용할 조합의 승인 여부와 실제 계정에 부여되는 권한은 따로 확인해야 한다.
- 사적 사진의 오첨부, 잘못된 방으로의 출동, 중요한 파일의 삭제는 강의에서 가정한 실패 사례다. 실제 발생 빈도나 보호 조치의 효과를 수치로 추정할 자료는 제시되지 않았다.
- 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
- 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
- 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.
✅ 액션 아이템
- 업무 하나를 골라 읽어야 할 자료와 실행해야 할 동작을 적는다. 누수 신고라면 공유할 사진을 먼저 고르고, 메일 발송 권한이 필요한지 확인한다.
- 발송이나 영구 삭제를 맡기기 전에 사용자가 무엇을 보고 결정할지 정한다. 메일이면 수신자·문안·첨부 파일을, 파일 정리라면 삭제 후보 목록을 검토한다.
- 반복 작업에는 성공을 확인할 방법, 재시도를 끝낼 조건, 실패를 알릴 상대를 함께 적는다.
- 외부 메시지와 검색 문서를 읽는 에이전트가 그 내용을 사용자 지시로 오인할 경우를 검토하고, 원래 업무를 벗어난 행동까지 허용하는 권한이 있는지 확인한다.
❓ 열린 질문
- 매달 팀 식사를 조율한다면 이전에 선호했던 시간대와 참석 기록 중 무엇을 다음 실행까지 기억할 필요가 있을까?
- 범위서를 처음 읽은 검토자의 질문 중 어떤 것은 실행 전에 꼭 해결해야 하고, 어떤 것은 사람이 판단해 검토를 끝내도 될까?