인공지능(AI)이 인간의 언어는 물론이고, 인간 사회의 권력 관계와 위계질서까지 그대로 받아들이고 있다는 연구 결과가 나왔다. AI가 상대방을 '상사'라고 인식하면 더 협조적이고 순응적인 태도를 보인다는 것이다. 위험한 지시를 내려도 그대로 따르는 AI의 이런 성향이 앞으로 안전 및 보안에 새로운 위협이 될 수 있다는 해석도 나온다.
미국 노스캐롤라이나대 채플힐 캠퍼스(UNC)의 라오 비지니 연구팀이 최근 국제인공지능학회 'ACL 2026'에서 발표한 내용이다.
연구팀은 총 6가지 AI 모델을 대상으로 실험했다. 오픈AI의 '챗GPT-5' '챗GPT-4.1'과 메타의 '라마3.1', 중국 알리바바의 '큐원 2.5', 마이크로소프트의 '파이-4' 등이다. 이들에게 교장-교사, 판사-변호사, 관리자-직원, 실험실장-연구원처럼 상급자와 하급자로 구분한 직업의 역할을 각각 부여한 뒤 서로 10~15차례씩 대화를 나누게 했다. 이때 AI 모델의 말투 변화, 설득하는 정도, 위험한 요청을 순순히 따르는 정도를 종합적으로 살폈다.
분석 결과, 연구팀은 AI가 상사 역할을 맡을 땐 '우리(we)'라는 표현을 더 많이 쓰면서 지시하고 상대방을 때론 설득하려는 모습을 보인 반면, 부하 역할을 맡을 땐 더 협조적인 태도를 보인다는 사실을 확인했다. 또한 높은 지위의 AI가 의견을 내면, 하급자 역할의 AI는 이를 그대로 받아들이는 경우가 많았다.
안전이 우려되는 결과도 나왔다. AI가 상대방을 상사나 권위자로 인식했을 땐, 상대방이 음란한 농담을 요구하거나 부적절한 요청을 해도 이를 대부분 받아들이는 것으로 나타났다. AI가 자신을 하급자로 인식하면 권위자의 위험한 지시에도 쉽게 순응한다는 얘기다.
이런 효과는 대화 초반에 더 강하게 나타났다. 사람들이 보통 누군가를 처음 만나 대화할 때 상대방의 사회적 지위와 이에 따른 관계를 빠르게 인식하듯이, AI도 대화 초반에 권력 관계의 영향을 가장 많이 받는다는 것이다.
연구팀은 "AI 언어 모델은 사람의 사회적 모습과 행동을 상당 부분 따라 하면서 이 과정에서 위계 관계를 그대로 받아들이고 순응하는 모습도 보여준다는 사실을 확인했다"면서 "최근 AI가 의료와 법률, 교육 등에도 널리 적용되는 것을 감안할 때 이런 AI의 성향을 교정할 수 있는 안전장치가 필요하다"고 했다.