Agile Deliberation: How AI helps humans define the gray areas

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

Agile Deliberation은 사람이 주관적 개념의 경계를 AI와 함께 다듬고, 그 피드백으로 이미지 분류기를 자동 개선해 성능과 사용자 경험을 높이는 프레임워크다.

📌 핵심 요약

• 주관적 이미지 분류에서는 문화, 개인의 철학, 운영 정책에 따라 범주 경계가 달라지고, 사용자의 정의도 실제 사례를 접하며 변하므로 고정된 기준을 전제하는 기존 학습 방식에 한계가 있다.
• Agile Deliberation은 개념 범위 설정과 개념 반복 개선의 두 단계로 작동하며, 포함할 하위 범주와 명시적 제외 조건을 정한 뒤 비전 언어 모델(VLM)로 경계 사례 이미지를 찾아 사용자 피드백을 자동 프롬프트 최적화에 반영한다.
• 연구진은 Healthy Food와 Pay-to-Play를 대상으로 각각 1.5시간인 실시간 사용자 세션 18회를 진행하고, 비교 방식의 사용 순서를 무작위화해 제로샷 분류기, 모델링 협력자, 수동 숙의 방식과 비교했다.
• 연구진은 Agile Deliberation이 시간에 따른 라벨링 일관성과 분류 성능을 높였으며, 특히 어려운 주관적 이미지에서 개선이 컸다고 보고했다. 다만 본문에는 구체적인 정확도나 성능 향상 폭이 제시되지 않았다.
• 참가자들은 수동 프롬프트 작성보다 노력과 스트레스가 통계적으로 유의하게 줄고 정신적 부담도 낮아졌다고 보고했으며, 전원이 수동 방식보다 Agile Deliberation을 선호했다. 연구진은 코드와 알고리즘을 GitHub에 공개하고 Colab/Jupyter 데모도 제공했다.

🧩 주요 포인트

1. 주관적 개념은 사례를 보며 변화함 → 분류기 구축은 이미 정해진 정답을 수집하는 작업뿐 아니라 사용자의 기준을 명료하게 만드는 과정도 포함해야 한다.
2. 포함·제외 조건 설정과 VLM 기반 경계 사례 피드백을 연결함 → 사용자가 미처 예상하지 못한 경계를 발견하고, 다듬어진 의도를 분류 기준에 반영할 수 있다.
3. 회의 실시간 사용자 세션에서 성능과 부담 개선이 함께 보고됨 → 사람의 기준 변화와 사용 경험을 함께 평가할 필요성을 보여주지만, 본문에 없는 구체적인 성능 수치는 판단할 수 없다.

🧠 상세 정리

1. 주관적 범주에서는 사람의 정의도 변한다

Google Research의 Otilia Stretcu와 Leijie Wang이 2026년 11월 4일 소개한 연구는 이미지 분류에 앞서 사람이 범주를 명확하고 안정적으로 정의할 수 있다는 전제에 의문을 제기한다. 정지 표지판이나 골든 리트리버처럼 경계가 비교적 분명한 대상과 달리, 건강한 음식이나 영감을 주는 예술, 콘텐츠 조정의 기준은 문화적 맥락과 개인의 철학, 변화하는 운영 정책에 영향을 받는다. 사람은 이런 개념의 모든 규칙을 처음부터 갖고 있기보다 직관에서 출발해 실제 사례를 보면서 예외와 세부 경계를 발견한다. 따라서 분류기를 만드는 동안에도 사용자의 개념 자체가 달라질 수 있다. 기존 학습 절차는 이러한 개념의 진화를 충분히 반영하지 못하고, 아직 판단 기준을 다듬는 사용자에게도 고정된 라벨을 요구한다는 것이 연구진의 문제의식이다.

2. 반복적 대화와 개념 범위 설정

Agile Deliberation은 주관적 이미지 분류기 구축을 반복적인 대화로 다루며, AI가 사용자의 정의를 명료하게 만드는 협력자가 되도록 설계됐다. 전체 과정은 개념 범위 설정과 개념 반복 개선으로 나뉘며, 첫 단계에서는 넓은 개념을 하위 개념의 계층과 명시적 제외 조건으로 정리한다. 예를 들어 Healthy Food는 샐러드, 곡물 보울, 저지방 단백질 같은 포함 범주로 나누고, 가공식품이나 조리되지 않은 원재료를 제외 대상으로 정할 수 있다. 이 예시는 건강한 음식에 대한 보편적 규칙을 제시하는 것이 아니라, 사용자가 자신이 원하는 분류 기준을 구체화하는 방식을 보여준다. 포함 범주는 분류기가 찾아야 할 긍정 사례를, 제외 조건은 잘못 탐지하지 않아야 할 경계를 설명하며 이후 반복 개선의 초기 기준이 된다.

3. 경계 사례를 통해 기준과 프롬프트를 함께 개선

두 번째 단계는 초기 정의를 실제 이미지에 대입하며 사용자의 기준을 다듬는 과정이다. 연구진은 정보를 많이 주는 사례를 선택하는 능동 학습에서 착안했지만, 단순히 기계의 불확실성을 줄이는 대신 비전 언어 모델(VLM)로 현재의 텍스트 정의를 시험하는 의미적 경계 사례를 찾는다. 가령 과일 스무디를 제시하면 사용자는 생과일이 들어 있어 건강한 음료인지, 당 함량이 높아 제외할 가공식품인지 판단해야 한다. 이런 사례는 사용자가 암묵적으로 갖고 있던 가정을 드러내고, 의도와 정책 규칙을 더 분명하게 만드는 계기가 된다. 사용자 피드백은 자동 프롬프트 최적화 과정으로 전달되며, 분류 경계도 수정된 정의에 맞춰 조정된다. 이는 사람이 완성된 규칙을 모두 알고 있는 정답 제공자라는 전제를 바꾸는 접근이다.

4. 실시간 사용자 연구로 변화하는 의도를 평가

주관적 시각 분류에는 고정된 객관적 정답이 없으므로, 미리 라벨을 붙인 데이터만으로는 숙의 중 변화하는 사람의 개념에 시스템이 얼마나 잘 적응하는지 평가하기 어렵다고 연구진은 설명한다. 이를 관찰하기 위해 작동하는 프로토타입을 만들고, 각각 1.5시간 동안 진행되는 실시간 사용자 세션 18회를 실시했다. 참가자들은 Agile Deliberation과 비교 방식을 무작위 순서로 사용했으며, 이는 사용 순서에 따른 학습 편향을 방지하기 위한 설계였다. 평가 영역은 개인의 건강관, 식이 제한, 문화적 배경에 따라 판단이 달라지는 Healthy Food와, 전문적 맥락을 요구하는 Pay-to-Play였다. 여기서 Pay-to-Play는 온라인 오락이나 게임에서 오해를 유발하는 금전적 또는 디지털 보상을 약속하는 클릭베이트 이미지를 식별하는 콘텐츠 조정 문제를 뜻한다.

5. 세 가지 비교 방식이 가진 제약

연구진은 Agile Deliberation을 서로 다른 세 가지 분류기 구축 방식과 비교했다. 제로샷 분류기는 사용자가 초기 프롬프트를 작성하면 끝나는 방식으로, 경계 사례를 살펴보거나 모델이 경계를 잘못 이해했을 때 이를 조정할 수단이 없다. 모델링 협력자는 AI 에이전트가 개념을 스스로 분해하고 기준을 자동 생성하는 하향식 접근이지만, 사용자가 과정에 참여해 논리를 안내하거나 수정할 수 없다는 제약이 있다. 수동 숙의에서는 사용자가 스프레드시트의 데이터를 살펴보고, 예외를 찾을 검색어를 추측하며, 원시 프롬프트를 직접 고쳐야 한다. 이 비교는 초기 지시만 제공하는 방식, 자동화 과정에서 사용자를 배제하는 방식, 사람이 탐색과 수정을 직접 수행하는 방식 사이의 차이를 드러낸다. Agile Deliberation은 사용자의 판단을 유지하면서 경계 사례 탐색과 프롬프트 수정을 자동화하는 접근으로 제시된다.

6. 분류 성능과 일관성, 정의의 사각지대

실시간 사용자 연구에서 구조화된 숙의 과정을 거친 참가자들은 시간에 따른 라벨링 일관성이 유의하게 높아졌고, 이들이 만든 분류기는 모든 비교 방식보다 높은 성능을 보였다고 연구진은 보고했다. 개선은 특히 판단하기 어려운 주관적 이미지에서 크게 나타났으며, 연구진은 이를 일반적인 AI의 기본 가정보다 사용자의 명시적이고 세밀한 의도를 반영한 결과로 해석한다. Healthy Food와 Pay-to-Play 모두에서 제로샷 대비 일관된 성능 개선이 보고된 반면, 수동 숙의는 정확도를 높이지 못하거나 오히려 낮추는 경우가 있었다. 전문가 참가자들은 혼동하기 쉬운 이미지를 통해 처음에는 예상하지 못했던 상황을 발견했다며, 시스템이 초기 정의의 사각지대를 진단하는 데 도움이 됐다고 평가했다. 다만 제공된 본문에는 정확도, 개선 폭, 세부 통계값이 없어 이러한 성능 차이의 크기를 수치로 확인할 수는 없다.

7. 수동 프롬프트 작업의 피로와 불안 감소

연구진은 수동 프롬프트 작성에서 발생하는 인지적 부담을 주요 결과로 제시한다. 참가자들은 경계 사례를 찾을 검색어를 예상하는 데 상당한 피로를 느꼈고, 하나의 오류를 고치려고 프롬프트를 수정하면 이미 해결한 다른 부분의 성능이 나빠질 수 있다는 불안도 보고했다. Agile Deliberation에서는 사용자가 선별된 경계 이미지 모음을 보고 자연스러운 피드백을 제공하면 시스템이 이를 반영해 분류기를 자동으로 갱신한다. 참가자 보고에 따르면 수동 방식에 비해 필요한 노력과 스트레스가 통계적으로 유의하게 감소했고, 정신적 부담은 낮아졌으며 성공에 대한 인식과 사용 편의성은 높아졌다. 스트레스와 좌절감, 정신적 소모가 줄었다는 평가와 함께 모든 참가자가 수동 방식보다 Agile Deliberation을 선호했다. 다만 본문은 이러한 사용자 경험 지표의 구체적인 점수나 변화량을 제시하지 않는다.

8. 양방향 협력의 의미와 공개된 구현

연구진은 Agile Deliberation의 의미를 AI가 사람의 라벨에서 배우는 단방향 과정에서 사람과 AI가 개념을 함께 정교화하는 양방향 협력으로의 전환이라고 설명한다. 복잡한 사회적 과제에 쓰이는 분류 시스템일수록 미묘한 주관적 기준을 반영하는 일이 중요하다는 것이 글의 결론이다. 잠재적 활용처로는 신뢰·안전 팀의 콘텐츠 조정 필터, 큐레이터의 디지털 컬렉션 구성, 과학자의 복잡한 시각 데이터 분류가 제시되지만, 본문에 소개된 사용자 연구의 평가 영역은 Healthy Food와 Pay-to-Play다. 연구진은 관련 코드와 알고리즘을 GitHub에 공개했으며, 논문에서 능동 학습 기법과 범위 설정 및 군집화 알고리즘의 구현을 더 자세히 다룬다고 안내한다. 또한 Healthy Food 예제를 따라가는 Colab/Jupyter 데모를 제공하고, 사용자의 전문 영역이나 개인적 취향과 기준에 맞는 분류기로 응용할 수 있다고 제안한다.

🧾 핵심 주장 / 시사점

• 주관적 분류에서 라벨의 불일치는 모델의 오류뿐 아니라 사용자가 아직 명료하게 정하지 못한 개념 경계를 드러낼 수 있다.
• 경계 사례는 분류기를 평가하는 자료인 동시에 사용자가 자신의 기준을 발견하고 수정하도록 돕는 자료로 기능한다.
• 실시간 사용자 연구는 분류 성능과 인지적 부담을 함께 살펴볼 수 있게 하지만, 제시된 결과의 크기를 판단하려면 본문에 없는 구체적인 수치가 필요하다.

✅ 액션 아이템

• 주관적 이미지 분류의 포함할 하위 범주와 명시적 제외 조건을 정리하고, 경계 사례 피드백으로 기준을 보완.
• Agile Deliberation의 GitHub 구현과 Colab/Jupyter 데모를 검토해 개념 범위 설정과 개념 반복 개선의 적용 가능성을 확인.
• 18회의 실시간 사용자 세션에서 보고된 성능·부담 개선을 평가할 때, 본문에 구체적인 정확도와 성능 향상 폭이 없다는 한계를 함께 고려.

❓ 열린 질문

• Healthy Food와 Pay-to-Play에서 보고된 개선은 다른 주관적 이미지 분류 주제에서도 나타나는가?
• VLM이 제시하는 경계 사례는 사용자의 변화하는 정의와 포함·제외 조건을 얼마나 충실하게 반영하는가?
• Agile Deliberation과 비교 방식 사이의 구체적인 정확도 차이와 성능 향상 폭은 얼마인가?