매일 아침 스마트폰으로 확인하는 포털 주요 뉴스 화면은 이용자마다 다르다. 독자의 뉴스 소비 습관 데이터를 바탕으로 포털이 인공지능(AI) 알고리즘으로 뉴스를 배열하기 때문이다. 유튜브나 넷플릭스가 입맛에 맞는 영상을 골라주는 것도, 애플리케이션(앱)을 이용해 택시를 호출하는 과정도, 운전할 때 내비게이션이 알려주는 최단 경로도 모두 알고리즘이 작동한 결과다.
일상생활 곳곳에 알고리즘이 스며들고 있다. 알고리즘(algorithm)은 8~9세기쯤 활동한 페르시아 수학자 무함마드 알콰리즈미의 라틴어식 이름인 알고리스무스(algorismus)에서 유래했다고 한다. 알고리즘은 수학, 컴퓨터과학, 생명공학 등 여러 분야에서 어떤 문제를 해결하기 위한 절차나 방식, 공식을 의미하는 것으로 사용되던 용어다.
한데 알고리즘이 우리의 삶을 마냥 편안하게 하는 것만은 아니다. 알고리즘이 자본과 손을 잡으면서 ‘공정성 논란’이 제기되고 있다. 배달노동자의 얘기를 들어보자. 라이더 A씨는 “인공지능(AI) 배차시스템이 도입되면서 실제로 20분 넘게 소요되는 거리를 AI가 10분이면 갈 수 있는 거리라고 안내해 교통신호를 지킬 수 없다”고 하소연한다. 사고 위험에 내몰려도 AI 배차를 거절하면 불이익이 생겨 선택의 여지가 없다고 한다.
최근 쿠팡은 자체 브랜드(PB) 상품이 다른 납품 업체 상품보다 우선 노출되도록 검색 알고리즘을 조작했다는 혐의로 공정거래위원회 조사를 받고 있다. 알고리즘을 ‘자사우대’ 방식으로 바꿔 검색 화면 상단에 PB 상품을 올리고 다른 상품을 하단으로 내렸다는 것이다. 공정위는 지난해 네이버가 자사에 유리하게 쇼핑 검색 알고리즘을 변경했다며 265억원의 과징금을 부과하기도 했다. 네이버는 사실과 다르다며 불복해 행정소송 중이다.
이런 논란이 생기는 이면에는 알고리즘이 기업에 최선의 이익을 가져다주는 형태로 설계됐기 때문이다. 우리는 알고리즘이 사람과 달리 감정과 편견의 영향 없이 데이터를 기반으로 현상을 객관적으로 처리할 것으로 기대한다. 하지만 알고리즘도 사람의 손으로 만들어진 프로그램일 뿐이다. 누가 어떻게 구성하고 어디에 가중치를 두느냐에 따라 결과값이 달라질 수 있다. 개발자의 선입견과 편견이 그대로 반영될 수밖에 없는 구조라는 얘기다.
이 때문에 AI 알고리즘을 공개해야 한다는 요구가 끊이지 않는다. 반면 기업은 회사 영업 기밀에 해당하는 알고리즘을 공개하라는 요구는 무리수라고 주장한다. 기업이 기술력을 투입해 만든 알고리즘을 공개하는 것은 대외비 노출과 똑같다는 것이다.
알고리즘 공개의 영역과 범위는 사회적 합의가 필요하다. 복잡한 프로그래밍 언어까지 다 공개하라는 것이 아니다. 큰 원칙에 해당하는 항목은 공개해 투명성을 높여야 한다. “알고리즘은 자신이 복무하는 시스템이 가진 암묵적 편향을 모방한다”는 스페인 언론인 마르타 페이라노의 주장처럼 알고리즘이 중립적이라고 믿는 사람은 더는 없다.