🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

마이크로소프트의 커뮤니티 라이브러리 크리에이터는 당사자 공동체가 이미지 데이터의 구성, 재현 기준, 평가, 공유 조건을 직접 결정하도록 지원해 AI 개발의 기반에 공동체의 경험과 권리를 반영하는 연구 플랫폼이다.

📌 핵심 요약

• 커뮤니티 라이브러리 크리에이터는 장애, 정체성, 생활 경험 등을 공유하는 사람들이 AI 이미지에서 자신들이 어떻게 표현되어야 하는지 직접 정의하도록 돕는다.
• 공동체는 옹호 단체를 중심으로 의미 있는 이미지나 영상을 수집하고, 각 장면의 맥락과 중요한 세부 사항을 설명하는 주석을 작성한다.
• 각 라이브러리는 양보다 질에 초점을 맞춰 약 400장의 실제 생활 이미지를 모으는 것을 목표로 하며, 이 자료는 AI 학습과 이미지 생성 결과 평가에 활용된다.
• 생성된 AI 이미지는 공동체 구성원이 직접 검토하고 원하는 재현에 얼마나 부합하는지 평가하며, 그 결과는 공동체가 정의한 기준을 학습시키는 피드백으로 이어진다.
• 라이브러리의 소유권과 공유 여부는 이를 만든 공동체와 옹호 단체에 있으며, 마이크로소프트는 현재 특정 단체들과 제한적으로 운영하면서 확대에 필요한 공학적·안전·법적 통제를 마련하고 있다.

🧩 주요 포인트

1. 인터넷에서 수집된 불완전한 데이터가 왜곡된 이미지를 반복할 수 있다는 문제에서 출발해, 재현의 당사자가 데이터와 평가 기준을 직접 만드는 구조로 전환한다.
2. 의미 있는 소수 이미지 선정에서 주제 도출, 대규모 자료 정리, 상세 주석, 생성 결과 평가로 이어지는 절차를 통해 추상적인 재현의 기준을 구체적인 학습 자료로 바꾼다.
3. 공동체가 소유권, 동의, 삭제, 외부 공유 조건을 계속 통제하게 함으로써 이미지의 정확성뿐 아니라 데이터 권리와 사후 감독까지 AI 개발 과정에 포함한다.

🧠 상세 정리

1. 보이지 않는 AI 데이터와 재현의 문제

AI가 세계에 관해 학습하는 지식의 상당 부분은 일반인이 직접 확인하기 어려운 데이터와, 무엇을 포함하거나 제외할지를 결정하는 기술적 과정에서 나온다. AI 생성 이미지가 일상에서 더 큰 영향력을 갖게 되면서 이러한 데이터의 공백과 왜곡은 사람들을 사회가 이해하는 방식뿐 아니라 그들에게 주어지는 기회에도 영향을 줄 수 있다. 마이크로소프트의 연구 프로젝트인 커뮤니티 라이브러리 크리에이터는 특히 이미지 영역에서 공동체가 이 기반 형성 과정에 참여하도록 마련됐다. 핵심 목적은 기존 인터넷 자료에만 의존하지 않고, 실제 당사자들이 자신들의 모습이 정확하고 공정하게 표현되기 위해 무엇이 필요한지를 직접 제시하게 하는 것이다. 연구진은 사람을 표현하는 방식에는 하나의 절대적인 정답이 있는 것이 아니라, 영향을 받는 이들이 함께 정의하고 협의해야 할 기준이 있다고 설명한다.

2. 공동체 라이브러리의 정의와 구성

공동체 라이브러리는 장애, 정체성 또는 특정한 생활 경험을 공유하는 사람들이 옹호 단체를 통해 함께 만든 이미지나 영상의 모음이다. 각 자료에는 단순히 화면에 무엇이 보이는지를 설명하는 문장만 붙는 것이 아니라, 그 장면에서 공동체가 중요하게 여기는 요소와 그것이 당사자의 관점에서 무엇을 의미하는지가 기록된다. 이처럼 시각 정보에 생활 맥락을 결합함으로써 AI 시스템이 외형적 패턴뿐 아니라 해당 경험의 의미도 학습할 수 있도록 한다. 커뮤니티 라이브러리 크리에이터 소프트웨어는 마이크로소프트 접근성 팀과 안야 티메 연구진이 개발했으며, 자료를 선정하고 설명하고 평가하는 과정에 필요한 도구와 구조를 제공한다. 다만 무엇을 포함하고 강조하거나 수정할지에 관한 실질적인 결정은 연구진이나 엔지니어가 아니라 라이브러리를 만드는 공동체가 내린다.

3. 기존 온라인 데이터가 반복하는 왜곡

대규모 이미지와 텍스트에서 패턴을 학습하는 AI 모델은 원본 데이터에 존재하는 공백이나 왜곡도 함께 반복할 수 있다. 기사에서는 온라인에 신비한 난쟁이 이미지가 매우 많기 때문에 AI가 왜소증이 있는 사람을 뾰족한 귀와 같은 판타지 요소를 지닌 모습으로 생성할 수 있다는 사례를 제시한다. 또한 사지 차이가 있는 사람들의 온라인 이미지는 의료나 운동 상황에 편중돼 있어, AI가 이들을 직장에서 일하거나 친구와 커피를 마시는 평범한 생활 장면 속에 표현하는 데 필요한 맥락을 충분히 얻지 못한다. 이는 데이터의 양이 많더라도 특정 공동체의 실제 생활 범위와 관점이 빠져 있다면 재현이 편협해질 수 있음을 보여준다. 공동체 라이브러리는 당사자가 일상, 관계, 활동과 같은 부족한 맥락을 직접 보완함으로써 인터넷에서 우연히 형성된 패턴이 재현 기준을 독점하지 않도록 하는 접근이다.

4. 의미 있는 이미지에서 공동 주제로

라이브러리 구축은 포용적 설계 원칙을 바탕으로 한 단계별 절차로 진행되며, 먼저 구성원들이 자신에게 의미 있다고 느껴지는 소수의 이미지를 선택하고 그 이유를 설명한다. 이러한 성찰을 모으면 가족생활, 직업, 건강과 돌봄, 활동적인 생활, 일상적 습관처럼 공동 경험을 나타내는 핵심 주제를 구체화할 수 있다. 이후 참여자들은 도출된 주제를 중심으로 더 큰 이미지나 영상 모음을 구성하고, 각 장면에서 중요하게 이해해야 할 세부 사항을 상세히 기록한다. 예를 들어 백색증이 있는 흑인 공동체는 햇빛을 피하기 위해 모자를 쓰는 모습이나, 흔히 동반되는 시각장애 때문에 작업 대상 가까이에 앉는 모습을 중요한 생활 맥락으로 표시할 수 있다. 이 절차는 재현이라는 추상적인 개념을 공동체가 검토할 수 있는 주제, 장면, 설명의 형태로 바꾸고 AI가 학습할 수 있는 구체적인 자료로 정리한다.

5. 약 400장의 실제 이미지와 평가 피드백

각 공동체 라이브러리는 양을 무한히 늘리기보다 자료의 품질과 맥락에 집중하면서 약 400장의 실제 생활 이미지를 확보하는 것을 목표로 한다. 공동체 구성원이 제공한 이미지와 상세 주석은 AI를 위한 학습 자료가 되며, 라이브러리 내용을 토대로 만든 프롬프트는 새로운 AI 이미지를 생성하는 데 사용된다. 이어서 공동체 구성원들이 생성 결과를 직접 검토하고, 자신들이 원하는 표현과 얼마나 잘 맞는지 평가한다. 참여자들은 단순한 점수만 주는 것이 아니라 왜 특정 이미지가 공동체를 적절히 나타내는지, 다른 사람들이 그 장면과 경험에서 무엇을 이해하기 원하는지도 설명한다. 시간이 지나며 이러한 평가는 피드백 순환 구조를 형성하고, 공동체가 정의한 바람직한 재현의 기준을 AI 시스템이 더 명확하게 파악하도록 돕는다.

6. 공동체 소유권과 데이터 통제

완성된 라이브러리는 이를 구축한 옹호 단체를 통해 공동체가 소유하며, 데이터의 공개 여부와 사용 조건도 공동체가 결정한다. 공동체는 연구자와 개발자가 이용하도록 허깅페이스 같은 플랫폼에 자료를 공개할 수도 있고, 필요에 따라 사용 범위에 제한을 설정할 수도 있다. 이미지 수집은 당사자의 동의를 전제로 하며, 참여자가 나중에 자신의 자료 삭제를 원하면 공동체가 해당 변경을 수행할 수 있도록 설계됐다. 티메 연구원은 이러한 지속적인 통제가 오늘날 AI 데이터 관행에서 일반적이지 않으며, 실현을 위해 계약과 마이크로소프트 내부 절차를 조정해야 했다고 설명한다. 출처를 추적하기 어렵고 당사자가 통제하기 힘든 대규모 온라인 수집 방식과 달리, 이 모델은 표현 방식뿐 아니라 데이터 사용과 철회에 관한 권한도 실제로 표현되는 사람들에게 돌려준다.

7. 현재 운영 범위와 확대를 위한 조건

커뮤니티 라이브러리 크리에이터는 현재 누구나 자유롭게 사용하는 일반 플랫폼이 아니라, 특정 옹호 단체들과 통제된 방식으로 활용되는 연구 도구다. 안야 티메와 세실리 모리슨이 공동으로 이끄는 팀에는 공학, 설계, 접근성, 머신러닝, 인간과 컴퓨터의 상호작용을 연구하는 인력이 참여하고 있다. 이 팀은 더 많은 공동체로 운영 범위를 확대하기 위해 필요한 공학적 장치와 안전·법률 통제를 함께 마련하고 있다. 이러한 준비는 다양한 공동체의 민감한 이미지와 생활 경험을 다루면서 소유권, 동의, 삭제 가능성, 공유 제한을 실제 운영 과정에서도 유지하기 위한 것이다. 따라서 연구의 확대는 단순히 이미지 수집 규모를 키우는 문제가 아니라, 공동체가 부여받은 통제권을 보존할 수 있는 기술적·제도적 기반을 갖추는 과정으로 제시된다.

8. AI의 미래를 만드는 참여 범위의 확대

이 연구가 지향하는 변화는 완성된 AI 시스템의 출력만 사후에 수정하는 것이 아니라, 그보다 앞선 데이터 구성과 성공 기준의 정의 단계부터 참여자를 넓히는 것이다. 라이브러리를 만든 공동체는 자신들의 경험을 학습 자료로 제공하는 동시에 생성된 이미지가 적절한지를 판단하는 평가 기준도 직접 형성한다. 연구가 발전하면 더 많은 공동체가 참여하고, 각 라이브러리가 미래 AI 모델의 학습과 평가에 활용될 가능성이 제시돼 있다. 마이크로소프트 연구진은 이를 통해 엔지니어나 인터넷에 이미 존재하는 자료만이 AI의 방향을 정하는 구조에서 벗어나고자 한다. 티메 연구원은 더 많은 사람이 AI의 미래를 만드는 데 목소리를 내고 도구를 활용할 기회를 여는 것이 이 프로젝트에서 가장 중요한 부분이라고 강조한다.

🧾 핵심 주장 / 시사점

• 공동체 참여가 데이터 제공에 그치지 않고 주제 선정, 주석 작성, 생성 결과 평가까지 이어지므로, 당사자의 관점이 AI 개발 과정의 여러 단계에 지속적으로 반영되는 구조다.
• 약 400장의 실제 생활 이미지에 상세한 맥락을 붙이는 방식은 무차별적인 규모 확대보다 어떤 경험이 빠져 있었는지와 각 장면이 무엇을 의미하는지를 분명히 하는 데 초점을 둔다.
• 소유권, 동의, 삭제 요청, 공유 제한을 공동체가 관리하도록 한 점은 정확한 이미지 표현의 문제를 데이터 권리와 장기적인 감독의 문제까지 확장한다.

✅ 액션 아이템

• 장애·정체성·생활 경험을 공유하는 당사자가 AI 이미지 재현 기준을 직접 정의하는 범위를 공동체로 고정한다.
• 양보다 질 원칙 아래 약 400장 실생활 이미지 수집·주석·생성 결과 평가가 학습 피드백으로 이어지는 조건을 점검한다.
• 라이브러리 소유권·동의·삭제·외부 공유를 공동체와 옹호 단체가 유지하는 한도에서 확대에 필요한 공학·안전·법적 통제를 비교한다.

❓ 열린 질문

• 약 400장 실생활 이미지가 왜곡된 인터넷 수집 데이터 대비 재현 품질을 가르는 판단 기준은 무엇인가?
• 공동체 구성원의 생성 이미지 평가 결과가 모델 학습 기준으로 반영되는 조건은 어떻게 설정할 것인가?
• 제한 운영을 넘어 확대할 때 우선 갖춰야 할 공학·안전·법적 통제의 최소 요건은 무엇인가?