🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

WIRED 조사에 따르면 영국 브리스틀 지역 경찰과 시의회는 민감한 공공 데이터를 결합해 대규모 예측 치안·위험 점수 시스템을 만들었지만, 일부 모델은 신뢰성·투명성 문제로 폐기되거나 비판을 받았다.

📌 핵심 요약

• 브리스틀 시의회와 에이본·서머싯 경찰은 2016년부터 Think Family Database에 경찰 정보, 주거 상태, 정신건강 기록, 청소년 임신, 양육 과정 참여, 무료 급식 여부 등 민감한 정보를 축적했고, 이를 기반으로 성인과 아동에게 위험 점수를 부여하는 머신러닝 모델을 만들었다.
• 이 예측 분석 프로그램은 아동 성착취 위험, 아동 범죄 착취 위험, 절도 가능성, 법정 불출석, 실종, 가정폭력 피해 가능성 등을 평가하는 최소 23개 모델로 확장됐으며, 약 30만 명의 지역 주민 정보를 담는 Offender Management App도 포함됐다.
• 지역 경찰 감시 활동가 존 피그램은 자신이 앱에 포함됐는지 뒤늦게 알게 됐고, 경찰은 처음에는 데이터 사용 여부를 알려주지 않다가 변호사 개입 뒤에야 그가 앱에 들어 있다고 확인했다. 그러나 알고리즘 점수나 그 점수가 경찰과의 상호작용에 어떤 영향을 줄 수 있는지는 설명하지 않았다.
• WIRED와 협력 언론·단체가 공공기록 청구로 확보한 문서에 따르면, 적어도 두 개의 위험 점수 모델은 브리스틀 시의회 직원들이 더 이상 신뢰할 수 없다고 판단해 조용히 중단됐다. 독립 검토자와 정부 निरी관들은 일부 시스템의 투명성 부족과 공공 신뢰 훼손 가능성을 지적했다.
• 이 사례는 영국 형사사법 체계가 예측 분석과 인공지능 도구 도입을 확대하려는 시점에 공개됐다. 특히 에이본·서머싯 경찰을 이끌었던 앤디 마시는 현재 잉글랜드·웨일스 경찰 표준기관인 College of Policing의 CEO로서, 효과적인 AI 도구를 엄격히 평가한 뒤 경찰 업무 전반으로 확산해야 한다고 말해왔다.

🧩 주요 포인트

1. 브리스틀 시의회와 에이본·서머싯 경찰은 2016년부터 Think Family Database에 경찰 정보, 주거 상태, 정신건강 기록, 청소년 임신, 양육 과정 참여, 무료 급식 여부 등 민감한 정보를 축적했고, 이를 기반으로 성인과 아동에게 위험 점수를 부여하는 머신러닝 모델을 만들었다.
2. 이 예측 분석 프로그램은 아동 성착취 위험, 아동 범죄 착취 위험, 절도 가능성, 법정 불출석, 실종, 가정폭력 피해 가능성 등을 평가하는 최소 23개 모델로 확장됐으며, 약 30만 명의 지역 주민 정보를 담는 Offender Management App도 포함됐다.
3. 지역 경찰 감시 활동가 존 피그램은 자신이 앱에 포함됐는지 뒤늦게 알게 됐고, 경찰은 처음에는 데이터 사용 여부를 알려주지 않다가 변호사 개입 뒤에야 그가 앱에 들어 있다고 확인했다. 그러나 알고리즘 점수나 그 점수가 경찰과의 상호작용에 어떤 영향을 줄 수 있는지는 설명하지 않았다.
4. WIRED와 협력 언론·단체가 공공기록 청구로 확보한 문서에 따르면, 적어도 두 개의 위험 점수 모델은 브리스틀 시의회 직원들이 더 이상 신뢰할 수 없다고 판단해 조용히 중단됐다. 독립 검토자와 정부 निरी관들은 일부 시스템의 투명성 부족과 공공 신뢰 훼손 가능성을 지적했다.
5. 이 사례는 영국 형사사법 체계가 예측 분석과 인공지능 도구 도입을 확대하려는 시점에 공개됐다. 특히 에이본·서머싯 경찰을 이끌었던 앤디 마시는 현재 잉글랜드·웨일스 경찰 표준기관인 College of Policing의 CEO로서, 효과적인 AI 도구를 엄격히 평가한 뒤 경찰 업무 전반으로 확산해야 한다고 말해왔다.

🧠 상세 정리

1. 민감한 공공 데이터 위에 세워진 위험 점수 체계

Think Family Database는 영국 브리스틀에 사는 거의 50만 명에 가까운 사람들의 기록을 보관한 시스템으로 소개된다. 이 안에는 경찰 정보 보고서, 주거 상태, 정신건강 기록, 청소년 임신, 양육 과정 등록, 무료 급식 여부처럼 개인의 삶을 매우 구체적으로 드러내는 정보가 포함됐다. 브리스틀 시의회와 에이본·서머싯 경찰은 이 데이터를 바탕으로 성인과 아동 수천 명에게 위험 점수를 부여하는 머신러닝 모델을 만들었다. 관계자들은 이를 통해 지역의 위협, 위해, 위험을 파악하려 했고, 한 경찰 데이터 과학자는 여러 데이터를 한데 넣고 섞어 모두에게 위험 점수를 산출한다는 식으로 접근을 설명했다.

2. 최소 23개 모델로 확장된 예측 치안 프로그램

Think Family Database 내부의 위험 점수화는 에이본·서머싯 경찰이 추진한 더 넓은 예측 분석 프로그램의 일부였다. 문서상 경찰은 절도 범행 가능성, 법정 불출석 가능성, 실종 위험, 가정폭력 피해 위험 등을 식별하기 위한 알고리즘을 포함해 최소 23개의 개별 모델을 만든 것으로 나타난다. 고위 경찰관은 지역에서 가장 위험한 범죄자를 순위화하는 리그 테이블을 언급했는데, 이는 약 30만 명의 지역 주민 데이터를 담도록 설계된 Offender Management App을 가리키는 것으로 보인다. 프로그램은 단일 목적의 데이터베이스가 아니라 여러 위험 범주와 행정 데이터를 결합한 광범위한 예측 체계로 발전했다.

3. 당사자에게도 불투명했던 데이터 사용

이 시스템이 어떻게 개발되고 사용됐는지는 지역 주민에게 명확히 공개되지 않았다. 브리스틀의 지역 경찰 책임성 단체를 이끄는 존 피그램은 Offender Management App이 만들어진 지 여러 해가 지난 2023년에야 그 존재를 알게 됐다고 말했다. 그는 자신이 앱에 포함돼 있을 수 있다고 의심했고, 2024년 초 경찰이 자신의 데이터를 어떻게 쓰는지 확인해 달라고 요청했다. 경찰은 처음에는 답변을 거부했으며, 이후 피그램이 변호사를 선임한 뒤에야 그가 앱에 포함돼 있다는 점을 확인했다. 그러나 경찰은 그가 알고리즘으로 점수화됐는지, 점수가 얼마인지, 그 점수가 당국과의 접촉에 어떤 영향을 미칠 수 있는지는 더 설명하지 않았다.

4. 공공기록 청구로 드러난 신뢰성 문제

WIRED는 Liberty Investigates, Bristol Cable, Lighthouse Reports와 함께 공공기록 청구를 통해 수백 쪽의 문서를 확보해 이 지역의 데이터 수집과 예측 분석 실험을 재구성했다. 조사 결과 적어도 두 개의 위험 점수 모델은 브리스틀 시의회 직원들이 더 이상 신뢰할 수 없다고 판단한 뒤 조용히 폐기된 것으로 나타났다. 문서에는 정부 검사관과 독립 검토자들이 프로그램 일부의 투명성 부족을 지적하고, 이런 시스템이 공공 신뢰를 해칠 수 있다고 경고한 내용도 포함됐다. 또한 WIRED에 공개된 3만6000건 이상의 모델 성능 점수에 대해 한 독립 분석가는 일부 사례에서 실제로 낮은 예측 성능이 보인다고 평가했다.

5. 예측 분석을 해법으로 본 제도적 배경

에이본·서머싯 경찰이 예측 분석에 관심을 갖게 된 배경에는 2014년 당시의 압박이 있었다. 영국의 다른 경찰 조직과 마찬가지로 예산 삭감이 진행됐고, 경찰청장은 직무 정지됐으며, 공식 보고서는 일부 가정폭력 피해자를 보호하기 위한 절차를 제대로 지키지 못했다고 지적했다. 이런 상황에서 경찰 성과 담당자는 예측 분석이 해법이라고 말했다. 같은 시기 브리스틀 시의회에서 아동·가족 지원 업무를 맡던 전직 경찰 간부 게리 데이비스도 데이터 결합이 위기 가정을 더 일찍 발견하는 데 도움이 될 수 있다고 봤다. 학교 결석 증가와 가정폭력 목격 같은 단편적 신호를 함께 보면 하강 국면에 있는 가정을 더 빨리 알아차릴 수 있다는 논리였다.

6. 동의 대신 법적 근거에 의존한 데이터 결합

2015년부터 브리스틀 시의회와 에이본·서머싯 경찰 직원들로 구성된 Insight Bristol 팀은 경찰서 안에서 함께 근무하며 공공 부문 데이터를 결합하기 시작했다. 이들은 주민 동의를 받아 Think Family Database를 만든 것이 아니라, 아동 보호 같은 법적 의무를 수행하기 위해 데이터 공유가 필요하다는 법적 통로에 의존했다. 데이비스는 주민에게 동의가 있었다는 인상을 주는 것은 오히려 잘못된 환상을 만들 수 있다고 설명했다. 초기에는 주민이 데이터베이스에서 빠질 방법이 없었고, 나중에야 시의회가 세금 고지서에 옵트아웃 선택지를 포함했다. 데이비스는 이 프로젝트가 아동과 가족의 위험·취약성을 더 효율적으로 이해하는 데 도움을 줬다고 보지만, 대중에게 이를 설명하고 관심을 끌어내는 일은 쉽지 않았다고 말했다.

7. 아동 성착취 모델과 빈곤 대리변수 우려

Think Family Database가 구축된 뒤 경찰 데이터 과학자는 여러 예측 위험 모델 개발을 주도했다. 그중 하나는 성착취 위험에 놓인 아동을 식별하려는 CSE 모델이었다. 이 모델은 경찰, 시의회, 다른 공공기관이 보유한 다양한 데이터를 활용했고, 아동 보호 단체 Barnardos가 제공한 성학대 피해 아동 1,000명 관련 익명화 데이터도 사용했다. 모델은 유사한 특성을 가진 아동을 찾아내도록 설계됐으며, 사회적 연결망을 분석해 취약하거나 가해 가능성이 있다고 판단된 사람과의 관계도 살폈다. 그러나 Cardiff University의 Data Justice Lab은 이런 시민 점수화 프로그램에서 사용되는 변수들이 실제로는 빈곤의 대리변수로 작동할 수 있다고 지적했다. 데이비스 역시 높은 위험 점수를 받은 아동 대부분은 이미 사회복지사와 가족 지원 인력이 알고 있던 복잡한 사례였다고 회상했다.

8. 전국적 AI 확산 흐름 속에서 제기된 경고

이 보도는 영국이 형사사법 시스템 전반에서 예측 분석과 인공지능 도입을 확대하려는 시점에 나왔다. 에이본·서머싯 경찰청장을 지낸 앤디 마시는 현재 잉글랜드와 웨일스 경찰의 표준 설정 기관인 College of Policing의 CEO로서, 효과적인 AI를 경찰 업무 속도 향상에 강하게 주입해야 한다는 취지의 발언을 해왔다. 그는 최근 조직이 예측 치안을 포함해 현재 배치된 약 100개의 AI 도구를 검토하고 있으며, 제대로 작동하는 도구를 엄격히 평가한 뒤 경찰 전반에 빠르게 확산하는 것이 역할이라고 말했다. 그러나 브리스틀 사례는 데이터 출처와 사용 방식이 불명확하고, 모델 성능이 신뢰받지 못하며, 기능이 점점 확장되는 상황에서 예측 치안 도구를 전국적으로 확산하는 데 필요한 투명성과 검증이 충분한지 묻고 있다.

🧾 핵심 주장 / 시사점

• 공공기관이 보유한 데이터는 보호와 지원을 위해 유용하게 결합될 수 있지만, 당사자가 알기 어려운 방식으로 점수화되면 감시와 차별적 개입의 위험이 함께 커진다.
• 예측 모델의 성능이 낮거나 검증 과정이 불투명한 상태에서 경찰 업무에 적용되면, 알고리즘 점수는 객관적 근거처럼 보이더라도 실제로는 신뢰하기 어려운 행정 판단을 강화할 수 있다.
• 브리스틀 사례의 핵심 쟁점은 AI 도입 자체보다 데이터 출처, 변수 선택, 당사자 통지, 이의제기 가능성, 독립 평가, 공공 설명 책임이 제대로 갖춰졌는지에 있다.

✅ 액션 아이템

• Think Family Database의 민감 데이터 항목(주거, 정신건강, 청소년 임신, 양육 참여 등)과 적용 모델을 정리해 위험 점수 사용 범위를 재확인한다.
• 23개 예측 모델군과 Offender Management App(약 30만명 데이터) 운영 이력을 대조해, 신뢰성 상실로 중단된 사례를 기준으로 점검 기준을 정립한다.
• 알고리즘 점수가 경찰 상호작용 판단에 미치는 효과를 설명하지 못한 공백을 반영해, 점수 공개 범위와 후속 대응 원칙을 명시적으로 정한다.

❓ 열린 질문

• 시민이 앱 포함 사실을 뒤늦게 알게 되는 상황을 방지하려면, 등재 전 사전 고지와 이의 제기 통로를 어떤 방식으로 설계해야 하는가?
• 독립 검토자와 정부 감독기관이 지적한 신뢰성·투명성 결함을 줄이기 위해, 점수 모델 공개의 최소 기준은 무엇인가?
• 23개 모델과 2개 폐기 사례를 감안해, 영국 형사사법 체계 확산 단계에서 효과성 대비 공공 신뢰를 함께 확보할 판단 기준은 무엇인가?