소셜미디어의 추천 알고리즘이 선거 기간 정치적 분노와 혐오 표현을 더 많이 노출시켜 상대 진영에 대한 적대감을 더 크게 느끼게 만든다는 연구 결과가 나왔다. 알고리즘이 어떤 글을 더 잘 보이게 하느냐에 따라 소셜미디어 사용자들의 정치적 인식을 극단화할 수 있다는 것이다.
미국 노스웨스턴대, 시카고대 등 공동연구팀은 2024년 미국 대통령 선거 전후 8주 동안 소셜미디어 '블루스카이(Bluesky)' 이용자 2000명을 대상으로 진행한 실험 결과를 국제 학술지 네이처에 27일(현지 시각) 발표했다.
연구팀은 참가자들을 세 집단으로 나누고, 각자 다른 방식으로 글이 배열된 블루스카이를 이용하게 했다. 하나는 사용자가 반응할 가능성이 큰 글을 먼저 보여주는 방식이 적용됐고, 다른 하나는 최신 글부터 차례로 보여주는 방식이었다. 세 번째 방식은 정치적으로 극단적인 이용자의 글이 지나치게 많이 보이지 않도록 한 것이었다.
이후 연구팀은 각 방식이 참가자들에게 어떤 글을 더 많이 보여줬는지 분석했다. 블루스카이에서 약 2000만건의 게시물을 수집해 정치적 내용, 부정적 감정, 도덕적 분노, 독성 표현 등의 노출 정도를 따졌다. 또 참가자들에게 매주 설문을 해 온라인에서 정치 이야기를 할 때 거친 표현이 얼마나 일반적으로 용인된다고 느끼는지, 상대 정당 지지자에 대한 적대감을 얼마나 크게 인식하는지 측정했다.
분석 결과, 사용자가 반응할 가능성이 큰 글을 먼저 보여주는 방식은 최신 글부터 보여주는 방식보다 정치적이고 감정적인 글을 더 많이 노출했다. 연구팀은 집단 간 갈등, 도덕적 판단, 감정 표현이 담긴 글을 묶어 'IME(Intergroup, Moralized and Emotional) 콘텐츠'로 분류했다. 예를 들어 "우리 편은 옳고 상대편은 나쁘다"는 식의 글이나, 분노와 비난이 강하게 담긴 정치 게시물이 여기에 해당한다.
이런 글은 선거 뒤 더 많이 늘었다. 사용자의 반응 가능성을 기준으로 글을 배열한 화면에서는 최신 글부터 보여주는 방식보다 IME 콘텐츠가 선거 뒤에는 3.65%포인트 더 많이 노출되면서 전체 콘텐츠에서 차지하는 비율이 약 19% 수준으로 높아졌다. 정치 관련 글은 선거 뒤 13.89%포인트 더 많이 보였고, 독성 표현이 담긴 글도 1.09%포인트 더 많이 노출됐다.
가장 크게 증폭된 것은 '도덕적 분노'였다. 사용자의 반응 가능성을 기준으로 한 알고리즘은 최신 글부터 보여주는 방식보다 도덕적 분노가 담긴 글을 선거 후 약 11%포인트 더 많이 보여줬다. 선거가 끝난 뒤 온라인 공간에서 분노와 비난이 더 쉽게 퍼질 수 있다는 뜻이다.
이런 노출은 사용자들의 인식에도 영향을 줬다. 사용자 반응 가능성을 기준으로 글을 배열한 방식이 적용된 참가자들은 선거 뒤 상대 정당 지지자들이 자기 진영을 싫어한다고 느끼는 정도가 더 컸다. "저쪽은 우리를 더 미워한다"고 느끼게 만들었다는 것이다.
다만 알고리즘이 이용자의 실제 행동까지 곧바로 바꾼 것은 아니었다. 연구팀은 참가자들이 감정적이거나 독성이 강한 정치 글에 '좋아요'를 누르거나, 댓글을 달고 공유하는 행동이 유의미하게 늘지는 않았다고 밝혔다.
연구팀은 대안 알고리즘도 시험했다. 정치적으로 극단적인 이용자의 글이 지나치게 많이 보이지 않도록 한 방식이다. 연구팀은 글을 지나치게 많이 올리는 이용자의 영향력을 줄이고, 독성 표현이 많은 글을 덜 보이게 하며, 건설적인 대화가 담긴 글을 더 잘 드러내도록 했다.
이 방식은 효과가 있었다. 극단적 이용자의 영향력을 줄인 화면에서는 사용자의 반응 가능성을 기준으로 한 화면보다 IME 콘텐츠와 독성 표현이 적게 노출됐다. 도덕적 표현, 부정적 감정, 정치적 내용도 전반적으로 줄었다. 특히 독성 표현은 선거 뒤 7.2% 줄어든 것으로 나타났다.
이 경우 이용자 만족도가 크게 떨어지지 않았다는 점이 눈길을 끈다. 흔히 소셜미디어 회사들은 자극적인 글을 덜 보여주면 이용자가 재미를 느끼지 못하고 플랫폼을 떠날 것이라고 우려한다. 하지만 이번 실험에서는 극단적 이용자의 영향력을 줄인 화면을 본 참가자들이 블루스카이에 대한 전체적인 이용 경험을 더 좋게 평가했다. 다만 개별 게시물에 대한 만족도는 사용자의 반응 가능성을 기준으로 한 방식보다는 낮았다. 연구팀은 자극적인 글을 줄이는 것이 반드시 플랫폼 만족도 하락으로 이어지지는 않는다고 밝혔다.
이번 연구의 한계도 있다. 연구 대상은 미국 민주당 또는 공화당 지지자라고 밝힌 블루스카이 이용자들이었다는 점이다. 블루스카이는 엑스나 페이스북과 이용자 구성과 정치적 분위기가 다를 수 있다. 또 실험 기간은 8주였기 때문에 알고리즘이 장기간에 걸쳐 실제 정치 성향이나 투표 행동을 바꾸는지까지 확인한 것은 아니다.
그럼에도 이번 연구는 선거철 소셜미디어 알고리즘이 민주주의의 대화 환경에 영향을 줄 수 있다는 점을 보여준다. 소수의 극단적 이용자가 올린 분노와 비난의 글이 알고리즘을 타고 더 많이 보이면, 이용자는 그것을 온라인 정치 대화의 일반적인 모습으로 받아들일 수 있다는 얘기다. 연구팀은 추천 알고리즘을 어떻게 설계하느냐에 따라 상대 진영에 대한 인식이 달라질 수 있다고 밝혔다.