Your ‘For You’ Algorithm Disagrees With You

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 요약

스탠퍼드 주도 연구는 X의 추천 알고리즘이 분노와 반박에서 발생한 참여를 관심으로 오인해, 이용자가 밝힌 가치와 어긋난 콘텐츠를 더 증폭할 수 있음을 보여준다.

📌 핵심 요약

• 연구진은 무작위로 선정한 X 이용자 715명의 가치관을 설문으로 조사하고, 각 이용자의 팔로잉 피드와 알고리즘 추천 피드를 비교했다.
• X의 추천 알고리즘은 팔로우, 읽은 시간, 재게시, 특히 답글과 같은 참여 행동을 관심의 대리 지표로 삼아 유사한 콘텐츠를 추가로 제공한다.
• 이용자는 받아들이기 편한 콘텐츠보다 자신이 동의하지 않는 콘텐츠에 더 많이 반응하는 경향을 보였고, 알고리즘은 분노에서 나온 반응도 추가 추천을 원하는 신호로 해석했다.
• 이용자의 가치와 일치하지 않는 게시물은 가치에 부합하는 게시물보다 추천 피드에서 증폭될 가능성이 더 높았으며, 그 결과 피드와 개인 가치 사이의 불일치가 커졌다.
• 연구진은 자기보고 가치에 따른 피드 재정렬, 공통 가치를 드러내는 친사회적 추천, 이용자 통제권 확대를 대안으로 제시하면서도 취향만 반복하는 피드가 될 위험을 함께 지적했다.

🧩 주요 포인트

1. 참여는 측정하기 쉽지만 동의와 분노를 구분하지 못한다. 이를 가치나 선호와 동일시하면 알고리즘의 측정 능력이 향상되어도 추천 방향은 실제 관심사에서 멀어질 수 있다.
2. 자발적으로 선택한 계정의 게시물과 알고리즘이 선별한 게시물을 이용자 가치와 대조한 결과, 추천 과정에서 가치 불일치 콘텐츠가 더 증폭되는 현상이 확인됐다.
3. 대안은 대립적 반응의 증폭을 줄이되 동의하는 정보만 보여주는 데 머물러서는 안 된다. 공통 가치, 이용자 선택권, 가치 정렬을 함께 고려하는 균형이 필요하다.

🧠 상세 정리

1. 행동을 읽을수록 가치에서 멀어지는 추천

소셜미디어의 추천 페이지는 이용자가 보고 싶어 하는 콘텐츠를 행동 기록에서 찾아 한곳에 모아 준다고 표방한다. 정치 영상을 자주 클릭하거나 오래 보면 정치 콘텐츠가 늘어나는 식의 주제 추정은 직관적으로 보이지만, 이 연구는 행동 판독이 정교해질수록 실제로 중요하게 여기는 가치와 추천 결과 사이가 오히려 벌어질 수 있다고 지적한다. 연구진이 살핀 대상은 X의 추천 피드이며, 핵심 문제는 피드의 콘텐츠와 이용자가 직접 밝힌 개인 가치 사이의 근본적인 불일치였다. 따라서 논점은 알고리즘이 관심 주제를 전혀 찾지 못한다는 데 있지 않고, 같은 참여 행동에 담긴 동의와 분노라는 서로 다른 이유를 하나의 관심 신호로 취급한다는 데 있다. 이 구분 실패가 이용자가 중요하다고 말한 것과 실제 피드가 증폭하는 것 사이의 간극을 만든다는 것이 연구의 출발점이다.

2. 참여를 관심으로 바꾸는 알고리즘

X의 알고리즘은 이용자가 창작자를 팔로우할 가능성, 콘텐츠를 읽는 데 들이는 시간, 재게시 여부, 답글 가능성 등을 측정하며 특히 답글을 크게 가중한다. 참여는 직접 관찰하고 수치화하기 쉬우므로 플랫폼은 이를 이용자의 관심을 판단하는 핵심 지표로 사용한다. 알고리즘은 측정된 참여 가능성을 관심의 대리 지표로 간주하고, 이용자가 반응한 것과 비슷한 콘텐츠를 계속 제공한다. 그러나 연구진은 참여와 가치가 동일하지 않으며, 사람은 콘텐츠에 동의할 때뿐 아니라 그것에 화가 났을 때도 적극적으로 반응한다고 설명한다. 행동의 양을 정교하게 측정하더라도 그 행동이 발생한 이유를 해석하지 못하면, 알고리즘은 반감에서 나온 답글까지 더 보고 싶다는 요구로 잘못 받아들이게 된다.

3. 분노가 선호로 오인되는 결과

연구 결과, 이용자는 자신이 받아들이기 편한 콘텐츠보다 동의하지 않는 콘텐츠에 더 많이 참여하는 경향을 보였다. 참여를 중심으로 콘텐츠 순위를 정하면 이런 반응이 강한 신호가 되어, 분노를 유발하는 게시물이 추천 피드로 더 많이 들어오게 된다. 이 방식은 이용자의 시선을 붙잡고 플랫폼에 머물게 하는 데는 효과적이지만, 이용자가 실제로 중요하게 여기는 것을 확대하는 데는 도움이 되지 않았다. 알고리즘은 분노나 반박에서 비롯된 행동을 같은 종류의 콘텐츠를 더 원한다는 뜻으로 해석하고, 추천 피드는 빠르게 이용자의 가치와 어긋나기 시작한다. 연구진은 이용자가 직접 밝힌 가치 역시 참여만큼 플랫폼에 유용한 정보로 다뤄져야 한다고 강조한다.

4. 715명의 가치와 두 종류의 피드 비교

연구진은 X 이용자 715명을 무작위로 선정해 설문을 진행하고, 각 응답을 오랫동안 사용되어 온 슈워츠 기본 인간 가치 체계에 대입했다. 이 체계에는 겸손부터 쾌락주의까지 모두 19개의 가치가 포함돼 있으며, 이를 통해 각 이용자의 가치 프로필을 구성했다. 이어 연구진은 이용자가 자발적으로 추적한 계정의 콘텐츠로 이루어진 팔로잉 피드와, 알고리즘이 콘텐츠를 선별하는 추천 피드를 각각 조사했다. 두 피드의 게시물을 같은 가치 체계로 평가한 뒤 그 점수를 이용자의 가치 프로필과 비교했다. 그 결과 이용자의 가치와 어긋나는 게시물이 가치에 부합하는 게시물보다 추천 피드에서 증폭될 가능성이 더 높은 것으로 나타났다. 이 연구는 미국 국립과학원회보에 게재됐으며 스탠퍼드 인간중심인공지능연구소의 일부 지원을 받았다.

5. 이용자 내부의 긴장과 플랫폼의 오독

연구진은 이번 결과를 특정 플랫폼을 비난하기 위한 작업이 아니라, 추가 연구와 개선책에 관한 대화를 촉진하기 위한 것으로 설명한다. 결과는 이용자 자신에게도 자연스러운 긴장이 있음을 보여준다. 사람은 자신의 가치와 맞는 콘텐츠를 찾는 동시에, 자신을 자극하거나 불쾌하게 만드는 콘텐츠에도 강하게 반응한다. 플랫폼이 참여량만 본다면 동의해서 남긴 반응과 화가 나서 남긴 반응을 모두 같은 종류의 콘텐츠를 더 원한다는 신호로 해석하게 된다. 이 구조에서는 대립을 일으키는 콘텐츠가 보완적이거나 조화를 이루는 콘텐츠보다 유리해지고, 추천 피드가 사회적 의견 차이를 완화하기보다 더 악화시킬 가능성이 생긴다는 것이 연구진의 문제의식이다.

6. 가치 기반 재정렬과 균형 있는 대안

연구진은 이용자가 직접 밝힌 가치에 따라 피드를 검토하고 순서를 다시 정하는 구글 크롬 확장 프로그램을 제작했다. 다만 연구진은 이 도구가 모든 문제를 해결하지는 못하며, 개인 취향만 되풀이하는 피드를 만들 수 있다고 경고한다. 다른 대안으로는 철학적 차이를 가로질러 사람들을 연결할 수 있는 공통 가치를 기준으로 콘텐츠를 제시하는 친사회적 알고리즘과, 이용자가 자신의 피드를 더 많이 통제할 수 있게 하는 도구가 제시됐다. 바람직한 피드는 대립적 참여를 우선해서도 안 되지만, 이용자가 동의하는 콘텐츠만 순응적으로 제공해서도 안 된다는 것이 연구진의 결론이다. 연구는 사람들이 중요하게 여기는 가치와 알고리즘이 증폭하는 콘텐츠 사이의 거리를 측정할 수 있으며, 이 측정을 바탕으로 사회적 간극을 줄이는 방향을 모색할 수 있다고 강조한다.

🧾 핵심 주장 / 시사점

• 답글이나 체류 시간의 증가는 선호 강화가 아니라 분노와 반박의 표현일 수 있으므로, 참여량만으로 이용자의 가치와 관심을 추론하면 추천 방향이 뒤집힐 수 있다.
• 자기보고 가치를 추천에 반영하면 참여 지표의 오독을 보완할 수 있지만, 가치 일치만 극대화하면 개인 취향을 반복하는 피드가 될 수 있어 단일 기준으로는 충분하지 않다.
• 이용자 가치와 추천 콘텐츠 사이의 간극을 실제로 측정할 수 있다는 점은 추천 시스템을 참여 성과뿐 아니라 가치 정렬과 사회적 갈등의 관점에서도 평가할 근거를 제공한다.

✅ 액션 아이템

• 연구진이 무작위로 선정한 X 이용자 715명의 가치관을 활용해 팔로잉 피드와 추천 피드를 비교하고, 가치 불일치 비율을 추적한다.
• X의 알고리즘은 팔로우·읽은 시간·재게시·답글을 관심 대리 지표로 쓰므로 동의와 분노를 구분하도록 추천 신호 해석을 점검한다.
• 동의하지 않는 게시물이 가치에 부합하는 게시물보다 추천 피드에서 더 증폭되는 경향을 기준으로, 자기보고 가치에 따른 피드 재정렬과 이용자 통제권 확대를 비교한다.

❓ 열린 질문

• 분노에서 나온 반응과 동의 반응을 구분하지 못할 때 X의 알고리즘은 어떤 지표 조정으로 오인을 줄일 수 있는가?
• 스탠퍼드 연구의 715명 표본에서 확인된 가치관 불일치 게시물 증폭이 다른 추천 피드 환경에서도 동일하게 나타나는가?
• 공통 가치를 드러내는 친사회적 추천이 취향만 반복하는 피드로 머물러서는 않게 하려면, 알고리즘과 이용자 통제권 확대의 균형 기준은 무엇인가?