Microsoft and organizations across industries launch AI Transparency Initiative to strengthen enterprise trust in AI models and agents - Source
Quick Summary
Microsoft는 40곳이 넘는 기관과 함께 기업이 모델이나 공급자에 관계없이 AI 에이전트의 행동을 확인하고 독립적으로 검증·통제할 수 있도록 공개 표준을 마련하는 AI Transparency Initiative를 출범시켰다.
🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약
Microsoft는 40곳이 넘는 기관과 함께 기업이 모델이나 공급자에 관계없이 AI 에이전트의 행동을 확인하고 독립적으로 검증·통제할 수 있도록 공개 표준을 마련하는 AI Transparency Initiative를 출범시켰다.
📌 핵심 요약
- 2026년 11월 17일 Microsoft Ignite에서 Microsoft 회장 겸 CEO 사티아 나델라가 AI Transparency Initiative를 발표했다. 참여 기관에는 Accenture, Adobe, KPMG, Mastercard, Volvo Cars가 포함된다.
- Microsoft는 기업이 AI 에이전트에 데이터·도구·자격 증명 접근 권한을 부여하면서, 기존 보안 통제만으로는 요청과 결과 사이에 어떤 일이 있었는지 재구성하거나 모델의 자기 보고를 독립적으로 검증하기 어렵다고 설명했다.
- Microsoft는 미국 국립표준기술연구소(NIST)의 SI Agent Standards Initiative 참여를 확대하고, 40곳이 넘는 기관과 함께 AI 시스템의 책임성·독립 검증·설계 단계의 안전을 위한 공개 표준을 개발할 계획이다.
- Microsoft는 협업 성과를 Microsoft AI, Microsoft Foundry, Microsoft Copilot에 반영해 고객이 Microsoft와 다른 공급자의 보안·규정 준수 도구에서 에이전트의 활동 증거를 활용할 수 있도록 할 예정이다.
- Microsoft가 제시한 세 원칙은 에이전트의 권한과 실제 행동을 확인하고, 모델의 자기 보고를 독립적으로 관측한 기록과 대조하며, 중대한 행동 전에 조직의 정책을 집행하는 것이다. 모델이나 공급자가 바뀌어도 조직이 증거와 접근 통제권을 유지하는 것이 목표다.
🧩 주요 포인트
- 에이전트가 단계마다 사람의 승인 없이 특권을 행사할 수 있어도 결과에 대한 책임은 조직에 남으므로, 조직이 직접 검증할 증거가 필요하다.
- 증거에 모델·실행 환경·독립 시스템 중 어느 출처에서 나온 기록인지 표시하면, 모델의 자기 보고를 다른 관측 기록과 대조할 수 있다.
- 폐쇄형 모델과 가중치 공개 모델에 공통 기준을 적용하면, 개발팀이 모델을 교체해도 보안팀의 통제와 규정 준수팀의 감사를 이어갈 수 있다.
🧠 상세 정리
1. 발표의 출발점은 요청과 결과 사이의 증거 공백
2026년 11월 17일 Microsoft Ignite에서 사티아 나델라는 AI의 자율성이 커질수록 투명성도 높아져야 한다는 원칙을 내세워 AI Transparency Initiative를 발표했다. Microsoft에 따르면 기업은 모델 주변에서 일어나는 활동을 상당 부분 관찰할 수 있지만, 하나의 요청이 어떤 과정을 거쳐 결과로 이어졌는지는 재구성하기 어려운 경우가 많다. 특히 모델이 자신의 행동을 설명해도 기존 보안 통제로는 그 설명이 실제 행동과 일치하는지 독립적으로 확인하기 어렵다. Microsoft Security의 하예테 갈로는 모델 자체에 대한 가시성을 높여야 보안팀이 문제의 확산을 더 효과적으로 차단하고 어떤 행동에 누가 책임을 지는지 추적할 수 있다고 설명했다.
2. 기업 권한을 위임받아 행동하는 에이전트
기업이 AI 모델을 데이터, 도구, 자격 증명, 인프라에 연결하면 에이전트는 매 단계에서 사람의 승인을 기다리지 않고 행동할 수 있다. Microsoft는 이런 에이전트가 높은 권한을 가진 내부자와 유사한 위험을 수반하며, 기계의 속도와 규모로 활동하기 때문에 독립적인 감독이 필요하다고 봤다. 에이전트가 행동한 맥락을 설명할 증거가 부족하면 보안팀의 대응뿐 아니라 규정 준수 여부를 판단하고 감사 과정에서 책임을 밝히는 일도 어려워진다. Adobe 최고보안책임자 안찰 굽타는 에이전트가 무엇에 접근했고 어떤 행동을 취했는지, 보안팀이 그 행동을 어떻게 검증할 수 있는지가 분명해야 한다며 업계 공통 접근법을 지지했다.
3. 공개 표준 연구에서 제품 적용까지
Microsoft가 발표한 계획은 세 갈래다. 첫째, 미국 국립표준기술연구소(NIST)의 SI Agent Standards Initiative 참여를 확대하고 그 연구를 바탕으로 AI 투명성·보안·거버넌스를 위한 업계 공개 표준을 개발한다. 둘째, Accenture, Adobe, KPMG, Mastercard, Volvo Cars를 포함한 40곳 이상의 기관과 협력해 모델이나 공급자에 관계없이 행동에 대한 책임을 추적하고 독립적으로 검증할 수 있으며 설계 단계부터 안전을 고려하는 AI 시스템의 기준을 마련한다. 셋째, 협업 성과를 Microsoft AI, Microsoft Foundry, Microsoft Copilot에 반영할 예정이다. 이를 통해 고객이 에이전트의 활동 증거를 Microsoft 제품뿐 아니라 다른 공급자의 보안·규정 준수 도구에서도 활용할 수 있도록 한다는 계획이다.
4. 모델을 교체해도 조직에 남는 책임
KPMG International의 존 이스라엘은 고객들이 AI 도입 속도를 높이려 한다며, 대규모로 AI를 책임 있게 배포하려면 투명성, 설명 가능성, 책임 있는 감독이 필요하다고 말했다. Microsoft는 에이전트의 행동이 중대한 결과를 낳았을 때 고객, 직원, 이사회, 감사인, 규제기관에 답해야 하는 주체는 해당 조직이라고 강조했다. 이런 책임을 계속 이행할 수 있도록 이번 구상은 폐쇄형 모델과 가중치 공개 모델을 모두 포괄한다. 개발팀이 에이전트의 기반 모델을 교체하거나 업데이트해도 IT·보안팀은 에이전트를 계속 통제하고 규정 준수팀은 그 행동을 감사할 수 있게 하는 것이 목표다. Accenture의 하르프리트 시두도 모델에 보안 통제와 거버넌스를 적용하는 데 업계가 주도하는 공개적 접근이 도움이 될 수 있다고 평가했다.
5. 행동을 확인하고 서로 다른 출처의 기록으로 검증
Microsoft가 제시한 ‘확인(See)’ 원칙에 따르면 조직은 AI가 요청받은 일과 실제로 승인받은 일, 사용한 모델과 실행 환경을 파악할 수 있어야 한다. 여기에 어떤 데이터와 도구에 접근해 무슨 행동을 했는지 연결하고, 그 활동과 위험 신호를 조직의 정책 및 설정한 임계값에 비춰 지속적으로 살핀다. ‘검증(Verify)’ 원칙에서는 에이전트의 신원, 위임받은 작업의 목적, 실제 행동에 관한 증거가 어디에서 나왔는지가 중요하다. 모델이 보고한 내용과 실행 환경에서 관측한 기록, 신원·정책 시스템처럼 독립된 출처의 기록을 구분해야 서로 대조할 수 있다. Microsoft는 조직이 자체 보안·규정 준수 시스템으로 이 검증을 수행할 수 있어야 한다고 밝혔다.
6. 중대한 행동 전에 정책을 적용하고 사후에 경위를 재구성
‘통제(Control)’ 원칙은 에이전트에 어떤 행동을 허용할지 결정할 권한을 조직이 갖는다는 뜻이다. Microsoft는 각 업무의 목적과 책임자, 관련 데이터, 에이전트에 위임한 권한이 증거에 드러나야 조직이 중대한 행동이 일어나기 전에 정책을 적용할 수 있다고 설명했다. 같은 증거는 문제가 발생한 뒤에도 조사와 확산 차단, 복구, 감사 과정에서 에이전트가 어떤 권한으로 무엇을 했는지 재구성하는 데 쓰인다. Microsoft가 제시한 목표는 모델이나 공급자를 바꾼 뒤에도 조직이 기존 증거를 보유하고, 에이전트가 접근할 수 있는 데이터의 범위와 그 접근을 관리하는 방식을 계속 결정할 수 있게 하는 것이다.
🧾 핵심 주장 / 시사점
- 요청 내용과 승인 범위를 구분해 기록해야 에이전트가 업무를 수행하면서 위임받은 권한 안에서 행동했는지 판단할 수 있다.
- 독립 검증에서 중요한 것은 기록의 출처다. 모델의 설명을 실행 환경이나 신원·정책 시스템의 관측과 대조할 수 있어야 조직이 그 설명의 정확성을 판단할 수 있다.
- 공개 표준이 달성하려는 효과 중 하나는 감사의 연속성이다. 모델 교체 전후의 활동 증거를 조직이 계속 보유해야 이전 행동에 대해서도 설명할 수 있다.
✅ 액션 아이템
- AI 에이전트에 부여한 권한과 실제 행동을 대조해 요청과 결과 사이의 과정을 재구성할 수 있는지 점검한다.
- 모델의 자기 보고를 독립적으로 관측한 기록과 대조할 수 있는지 조직의 보안·규정 준수 도구에서 확인한다.
- 모델이나 공급자가 바뀔 때 조직이 기존 증거와 접근 통제권을 유지할 수 있는지 검토한다.
❓ 열린 질문
- AI Transparency Initiative의 공개 표준은 폐쇄형 모델과 가중치 공개 모델에 공통으로 어떤 증거를 요구하게 될까?
- Microsoft AI, Microsoft Foundry, Microsoft Copilot에서 제공할 활동 증거를 다른 공급자의 보안·규정 준수 도구에서는 어떻게 검증할 수 있을까?
- 모델이나 공급자가 바뀐 뒤에도 조직은 기존 증거와 접근 통제권을 어떻게 유지할 수 있을까?