AI의 성차별

전자상거래 기업 아마존이 4년 동안 인공지능(AI) 채용 프로그램을 개발하다가 자체 폐기한 것으로 밝혀졌다. AI 프로그램에서 여성보다는 남성 지원자가 더 높은 점수를 받는 성차별적 요소를 발견했기 때문이다.

10일(현지 시각) 로이터통신에 따르면 아마존의 채용 AI 개발팀은 2014년부터 스코틀랜드 에든버러에서 비밀리에 채용 AI 프로그램을 개발해왔다. 이들이 개발하는 프로그램은 AI가 아마존 지원자들의 지원서를 분석해 분야별로 추천 점수(1~5점)를 부여해 선발하는 방식이었다.

컴퓨터 500대가 투입됐고, 과거 아마존 입사 지원자들의 방대한 지원서 데이터를 입력했다. AI는 스스로 지원자와 합격자의 반복되는 패턴을 학습해 우수한 지원자를 감별해 냈다. 인사 담당자가 지원자의 이력서만 입력하면 AI가 해당 업종에 맞는 적임자를 가려내도록 개발한 것이다.

하지만 개발이 1년쯤 진행됐을 때 개발팀은 AI에 여성 차별 문제가 있다는 것을 발견했다. AI가 높은 점수를 준 지원자들은 대부분 경력 10년 이상의 남성 지원자들이었다. AI는 지원서에 '여성'이라는 단어가 들어가거나, '여성 체스 클럽' 같은 여성 동호회를 지원서에 쓰기만 해도 벌점을 줬다.

전문가들은 IT기업에 남성 직원이 압도적으로 많은 상황에서 AI가 남성 데이터를 중심으로 학습했기 때문이라고 분석했다. 예컨대 이 AI는 '시행(executed)', '포착(captured)' 같이 남성 지원자들이 자주 쓰는 단어에 가점을 줬다는 것이다. 문제점을 발견한 아마존 개발자들이 채용 AI의 차별 요소를 바로잡기 위해 프로그램 수정 작업을 반복했지만, AI는 계속 남성을 선호한 것으로 전해졌다.