How to build an AI agent: A simple guide for anyone

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

마이크로소프트 365 코파일럿을 활용해 해결할 업무를 명확히 정의하고, 지시·정보원·출력 형식·경계를 설정한 뒤 실제 사례로 반복 검증하면 코딩 없이도 실무형 AI 에이전트를 만들 수 있다는 안내서다.

📌 핵심 요약

• AI 에이전트는 질문에 답하는 데 주력하는 채팅 앱과 달리, 이상 로그인 차단이나 티켓 생성, 알림 발송, 보고서 작성처럼 설정된 업무를 직접 수행할 수 있다.
• 마이크로소프트 365 코파일럿 채팅의 ‘에이전트’에서 ‘새 에이전트’를 선택하고 원하는 기능을 자연어로 설명하면 코파일럿이 초안을 생성한다.
• 구축 과정은 기술보다 해결할 업무에서 시작하며, 동료와 필요를 확인한 뒤 정보 검색, 작업 완료, 독립적 행동 중 원하는 결과와 범위를 구체화해야 한다.
• 에이전트의 행동·어조·작업 지침을 다듬고 이메일, 문서, 셰어포인트 사이트, 웹사이트 등의 정보원과 보고서·프레젠테이션·스프레드시트 같은 출력 형식을 지정할 수 있다.
• 실제 업무 상황에서 결과를 시험하면서 충돌하는 정보를 표시하게 하거나 추측을 금지하고, 분량과 구조를 조정하는 방식으로 지속적으로 개선해야 한다.

🧩 주요 포인트

1. 반복 업무와 원하는 결과를 먼저 좁혀 정의하면 구축 속도가 빨라지고 실제 업무에 맞는 에이전트를 설계하기 쉬워진다.
2. 정보원·출력물·말투·처리 규칙을 함께 지정하면 단순한 자연어 요청이 일관된 업무 절차로 구체화된다.
3. 불명확한 정보는 추론하지 않고 표시하게 하며 민감한 사안은 사람이 검토하도록 경계를 세우는 것이 실무 적용의 핵심이다.

🧠 상세 정리

1. 질문을 넘어 행동하는 AI 에이전트

글은 새벽에 직원이 피싱 링크를 누른 상황을 예로 들어 AI 에이전트의 특징을 설명한다. 에이전트는 비정상적인 로그인 행동을 감지해 침해된 계정을 비활성화하고, 악성코드가 다른 기기나 계정으로 확산됐는지 확인할 수 있다. 이어서 사고 티켓을 열고 보안팀에 알림을 보내며 사건 요약 초안까지 작성한다. 일반적인 AI 채팅 앱이 질문에 답하는 데 강점을 갖는다면, 에이전트는 주어진 권한과 지시에 따라 후속 행동까지 수행한다는 점에서 구별된다. 이 기능은 보안 대응뿐 아니라 프로젝트 마감 추적, 공유 받은편지함 감시, 야간 보고서 작성 등 여러 직무의 반복 업무에도 적용될 수 있다.

2. 기술보다 해결할 업무를 먼저 정의

에이전트 구축은 사용할 기술을 고르는 일보다 어떤 업무 문제를 해결할지 정하는 일에서 시작한다. 먼저 동료들과 실제 필요를 확인해 범위를 좁히고, 에이전트가 정보를 찾아야 하는지, 특정 작업을 완료해야 하는지, 또는 독립적으로 행동해야 하는지를 정해야 한다. 예를 들어 이메일과 메시지, 문서에서 매주 현황 보고서를 취합하는 업무는 시간이 오래 걸리고 담당자에 따라 결과가 달라질 수 있으므로 에이전트가 자료를 읽고 초안을 만드는 대상으로 삼을 수 있다. 공유 받은편지함 업무에서는 수신 메시지의 중요도를 판별하고, 일반적인 질문의 답변을 작성하며, 적절한 담당자에게 전달하도록 목표를 설정할 수 있다. 이처럼 목표와 기대 결과를 선명하게 정하면 이후 구성 과정이 빨라지고 실제 업무에 유용한 결과를 얻기 쉬워진다.

3. 자연어 초안 생성과 행동 지침 구성

마이크로소프트 365 코파일럿 사용자는 코파일럿 채팅에서 ‘에이전트’를 연 뒤 ‘새 에이전트’를 선택해 바로 구축을 시작할 수 있다. 원하는 기능을 일상적인 언어로 설명하면 코파일럿이 에이전트의 초안을 생성하므로 별도의 코드를 작성할 필요가 없다. 초안이 만들어지면 ‘구성’을 통해 시험하고, 에이전트가 수행할 작업과 행동 방식, 응답 어조를 세부적으로 수정한다. 공유 받은편지함 사례에서는 요청을 일반 질문, 긴급 문제, 복잡한 요청으로 분류하고 각 범주를 특정 팀원에게 전달하도록 지시할 수 있다. 반복적인 질문에는 승인된 표현으로 답하되 민감한 내용은 사람 검토자에게 표시하도록 정하면 팀의 실제 처리 절차와 일치하는 일관된 대응이 가능해진다.

4. 정보원과 결과물 형식 연결

에이전트가 제대로 일하려면 업무에 필요한 맥락과 정보원을 제공해야 한다. 이메일, 문서, 셰어포인트 사이트, 웹사이트 등을 연결하고, 선별해 둔 자료만 사용할지 회사 정책 PDF나 웹사이트처럼 더 넓은 자료도 참고할지를 결정할 수 있다. 동시에 에이전트가 보고서, 프레젠테이션, 스프레드시트, 답변 또는 코드 가운데 어떤 형태로 결과를 내야 하는지도 지정해야 한다. 정보원은 에이전트 빌더 편집 화면에서 직접 문서를 첨부하거나, 왼쪽 채팅 창의 안내를 받아 추가할 수 있다. 결국 어떤 자료를 읽고 무엇을 만들어야 하는지를 함께 명시해야 에이전트가 사용자가 실제로 필요로 하는 형식의 작업물을 제공할 수 있다.

5. 보고서 작성 규칙과 추론 경계 설정

주간 보고서 에이전트에는 최근 7일 동안의 팀즈 메시지와 이메일을 검토하되 특정 프로젝트나 팀과 관련된 내용에만 집중하도록 지시할 수 있다. 검토 항목도 업데이트, 결정 사항, 장애 요소, 예정된 마감일처럼 구체적으로 지정할 수 있다. 자료 수집 이후에는 보고서의 구조와 길이, 명확하고 전문적인 문체까지 정해 원하는 결과물의 기준을 전달한다. 또한 이메일과 팀즈 메시지에 포함된 정보만 사용하고, 빠진 세부 사항은 임의로 추론하지 말라는 경계를 설정할 수 있다. 이러한 제한은 에이전트가 제공된 자료의 범위를 벗어나 내용을 보충하는 대신, 확인 가능한 정보에 근거해 초안을 작성하도록 만든다.

6. 실제 사례를 통한 반복 시험과 개선

초기 설정이 끝난 뒤에는 실제 업무 상황에서 에이전트를 시험하고 결과에 따라 지침을 계속 다듬어야 한다. 변경은 에이전트 빌더의 편집 화면에서 직접 적용하거나 왼쪽 채팅 창에서 코파일럿의 안내를 받아 진행할 수 있다. 주간 보고서에 불명확하거나 서로 충돌하는 업데이트가 발견된다면 해당 내용을 표시하고, 누락된 정보를 추측하지 않도록 지시를 추가할 수 있다. 보고서가 지나치게 길다면 분량을 줄이고 훑어보기 쉽게 만들거나 핵심 내용을 글머리표로 제시하도록 조정할 수도 있다. 글은 처음부터 완벽한 에이전트를 만드는 것보다 현재 업무에 유용한 결과물을 먼저 구축하고, 이후 기능을 확장하거나 더 고급 도구로 옮기면서 지속적으로 개선하는 방식을 권한다.

🧾 핵심 주장 / 시사점

• AI 에이전트의 실용성은 기능의 수보다 반복되는 업무와 기대 결과를 얼마나 구체적으로 정의했는지에 크게 좌우된다.
• 지시문뿐 아니라 사용할 정보의 범위와 최종 산출물의 형식을 함께 설계해야 업무에 바로 활용할 수 있는 결과를 얻을 수 있다.
• 충돌하거나 누락된 정보를 추측하지 않게 하고 민감한 사안을 사람에게 넘기는 규칙은 에이전트의 역할과 인간 검토의 경계를 명확히 한다.

✅ 액션 아이템

• 마이크로소프트 365 코파일럿 채팅에서 ‘새 에이전트’를 만들고 반복 업무를 정의해 질문형 채팅 대비 실행 중심 에이전트를 설계한다.
• 에이전트의 행동·어조·작업 지침을 정비하고 정보원으로 이메일, 문서, 웹사이트, 셰어포인트 사이트를 지정해 범위를 선명히 한다.
• 실제 업무 상황에서 결과를 시험하면서 충돌하는 정보를 표시하게 하고 추측을 금지해 보고서·프레젠테이션·스프레드시트 출력의 일관성을 개선한다.

❓ 열린 질문

• 마이크로소프트 365 코파일럿의 ‘새 에이전트’에서 동료와 합의한 ‘원하는 결과’는 어느 수준으로 좁혀야 실행 품질이 높아지는가?
• 이상 로그인 차단, 티켓 생성, 알림 발송 중 어떤 업무를 먼저 반영하면 실무형 에이전트로서 가장 빠르게 정착할 수 있을까?
• 정보원(이메일·문서·웹사이트·셰어포인트 사이트)에서 불명확한 항목은 어떻게 표시하게 하고 민감 사안은 어떻게 사람이 검토하도록 경계를 설정할 것인가?