"AI도 사람이 만들어"… 尹 '카카오 항의' 사건이 불지핀 AI 중립성 논란

조선비즈
  • 박현익 기자
    입력 2020.09.09 15:05

    윤영찬 논란에 카카오·네이버 "인공지능이 배치… 조작 불가능"
    포털 ‘다음’ 창업자 이재웅 "AI라서 괜찮다는 건 尹만큼 무책임한 말"
    "시스템 설계하는 사람의 생각 반영될 수밖에 없어"
    카카오 가맹 택시 ‘T블루’도 배차 몰아주기 논란에 "AI라 문제 없다"

    8일 오후 국회 본회의장에서 윤영찬 더불어민주당 의원이 포털 ‘다음’ 메인에 실린 국민의힘 주호영 원내대표의 교섭단체 대표연설 뉴스에 대해 불만을 제기하며 '이거 카카오에 강력히 항의해주세요' '카카오 너무하군요. 들어오라고 하세(요)'라고 문자 메시지를 보내고 있다. /연합뉴스
    더불어민주당 윤영찬 의원의 '카카오 항의' 사건으로 불거진 포털의 뉴스배치 공정성 논란이 AI(인공지능)의 중립성 논란으로 확전되는 모습이다. 국내 양대 포털을 운영하는 네이버, 카카오에서 "AI 알고리즘에 따라 뉴스가 배치되기 때문에 사람이 개입될 여지가 없다"고 해명한 것에 대한 문제 제기다. 포털 다음 창업자인 이재웅 전 쏘카 대표는 AI를 이유로 괜찮다는 논리는 윤 의원의 행동만큼 무책임한 태도라고 꼬집었다.

    이 전 대표는 8일 자신의 페이스북을 통해 "과연 뉴스편집을 AI가 전담하면 뉴스의 중립성은 괜찮은건가"라며 의문을 제기했다. 그는 "많은 사람들이 AI는 가치중립적이라고 생각하지만 그렇지 않다"며 "규칙 기반의 AI는 그 시스템을 설계하는 사람의 생각이 반영될 수 밖에 없다"고 말했다.

    포털 다음은 2015년부터 ‘루빅스’라는 AI 시스템을 도입, 맞춤형 뉴스를 추천하고 있다. 카카오에 따르면 현재 PC와 모바일 뉴스 모든 영역에서 루빅스가 100% 자동 배열하고 있다. 클릭수, 열독률, 뉴스 선호도 등 종합적으로 분석해 기사를 추천하는 식이다. 네이버 역시 AI 뉴스 추천 시스템인 ‘에어스(AIRS)’를 통해 뉴스 편집·배열을 하고 있다. 모바일 앱 기본화면에는 언론사가 직접 배치한 기사들을 노출하고, 두 번째 화면에 에어스가 추천하는 기사를 보여준다. 네이버에 따르면 2017년 2월 에어스를 부분 도입해 지난해 4월부터 100% 에어스가 뉴스 페이지를 관리하고 있다.

    이 전 대표는 "어떻게 그런 판단을 했는지 들여다보고 분석해보지 않고 AI시스템이니까 중립적이라고 답하는 것은 잘못된 이야기"라며 "포털의 'AI가 했으니까 우리는 중립적이다'라는 이야기는 윤의원의 항의만큼이나 무책임한 답변이라고 생각한다"고 했다. 그러면서 "(AI의 중립성을 보여주려면) 어떤 가치판단을 가지고 어떻게 뉴스편집을 하도록 설계된 AI인지를 밝혀야 한다"고 주장했다.

    또 뉴스편집뿐만 아니라 대출심사, 채용면접, 입학심사, 자율주행 등 우리 일상 곳곳에 적용되는 AI에 대해서도 따져볼 필요가 있다고 지적했다.

    택시 업계를 중심으로 ‘배차 몰아주기’ 의혹이 일고 있는 카카오의 가맹형 택시 ‘카카오T블루’. 카카오 측은 배차 중개 시스템은 AI(인공지능) 알고리즘에 따라 운영되기 때문에 특정 차량을 우대하거나 배제하지 않는다고 주장하고 있다./카카오모빌리티
    실제 '카카오T'앱으로 잘 알려진 카카오모빌리티도 최근 AI와 관련해 공정성 논란에 휘말렸다. 이른바 '택시 콜 몰아주기 의혹'이다. 지난 상반기부터 택시업계는 "카카오 직영·가맹에 속하지 않은 일반 택시의 콜 수가 현격히 줄었다"며 카카오가 콜을 차별적으로 배분한다고 주장하고 있다. 이에 대해 카카오는 마찬가지로 배차 시스템이 AI로 운영된다는 점을 내세우며 공정하게 운영된다고 반박한다. 특정 서비스나 차량을 우선할 수 없다는 것이다.

    하지만 택시 기사들은 카카오T블루가 진출하기 전과 진출한 이후 달라진 콜 건수 등 자신들이 직접 경험한 것은 카카오 주장과 다르다며 진상규명을 호소하고 있다. 경기도 공정경쟁과는 최근 카카오의 가맹택시 서비스 '카카오T블루' 배차 몰아주기 실태조사에 나선 상태다.

    AI 알고리즘은 가치 중립성과 관련해서 한쪽으로 치우치기 쉽고, 외부 세력에 의해 조작될 위험이 있다는 문제도 있다. 개인맞춤형 추천의 경우 사용자 취향에 맞는 뉴스와 정보만 보여주다보니 결과적으로 자신의 관심사나 이념, 정치성향에 갇히게 만들 수 있다는 지적이 나온다. 또 지난 미국 대선에서는 구글, 페이스북, 트위터 등의 AI 알고리즘이 악용 돼 러시아의 미국 내 여론 선동의 도구로 활용됐다는 논란이 일기도 했다.

    이석우 미디어연대 공동대표는 "IT기업들이 문제가 생기면 마치 전가의 보도처럼 AI를 앞세워 괜찮다는 식으로 얘기하는데 이는 본질을 왜곡하는 것"이라며 "모두 사람이 설계하고 기준을 세워서 운영하는 것이기 때문에 언제든지 구조를 바꿀 여지가 있다"고 했다. 그는 "정말 결점이 없다는 걸 보여주고 싶다면 알고리즘이 어떻게 되는지 공개해서 이용자들을 납득시켜야 한다"고 했다.

    국제 정보감시 단체 ‘알고리즘 워치'가 제정한 알고리즘 의사결정 선언의 제 1항은 ‘알고리즘은 결코 중립적이지 않다’ 이고, 2항은 ‘알고리즘 의사결정을 만든 사람은 그 결과에 책임을 져야한다' 이다.

    내가 본 뉴스 맨 위로

    내가 본 뉴스 닫기