[AI 리더스 2024]는 인공지능(AI) 기업을 이끄는 리더들을 만나보는 코너입니다. 이 리더들은 다양한 분야에서 AI를 기반으로 한 기술 및 서비스를 개발하고 있습니다. 이제까지 고군분투했던 이야기, 앞으로 또 이어갈 새로운 도전을 통해 2024년 인공지능 분야별 비전도 살펴봅니다. [편집자 주]
지난 해 생성형 AI가 거의 모든 산업과 일상을 흔들고 있었을 때 내부적으로 가장 분주했던 분야는 금융이었다. 체계를 유지하려는 성향이 강하다는 금융 업계에서 생성형 AI에 가장 크게 들썩였다는게 의아하다.
KB국민은행 금융AI센터 오순영 상무의 말을 들어보면 생성형 AI는 금융 업계에 가장 필요했던 기술이었다고 하니 그 만큼 바쁘게 움직였다는 게 이해가 된다. 오 상무는 “AI 도입에 적극적이었던 이유는 가장 먼저는 고객 응대를 위함이고 다음으로는 복잡한 내부의 금융 업무를 효율적으로 운영하기 위함이었다”고 말한다.
지난 1년 간의 분주함으로 금융 업계는 AI에 대한 이해는 물론 어떻게 활용해야 하는지를 파악했다. “AI는 기술보다는 어떻게 금융 비즈니스를 지속시킬 수 있을지에 더 초점을 맞춰야 한다”는 오 상무의 한 마디는 금융 속 AI뿐만 아니라 AI를 기반으로 하는 모든 산업에 적용돼야 할 것으로 보인다.
오순영 상무와 AI를 바탕으로 한 금융 산업의 미래에 대해 함께 이야기를 나눴다. 참고로 오순영 상무는 17년 간 한글과컴퓨터에서 활동하며 최고기술책임자(CTO)까지 오른 인물로, 2022년 KB국민은행으로 자리를 옮겨 AI 조직과 시스템 구축에 총력을 기울이고 있다.
생성형 AI가 출시되고 지난 한 해 무척 바빴다고 들었다.
“2022년 11월 오픈AI에서 챗GPT를 출시한 후 내부에서는 한 달 만에 생성형 AI에 대한 보고를 다 마쳤다. 이 보고서에는 생성형 AI가 무엇이고, 어떤 혁신을 가져다줄 것이고 금융 업계에 미치는 영향은 무엇인지까지 예측하는 내용을 담았다. 그 후 2023년 1분기에는 기술 및 산업 적용에 대한 글로벌 동향을 모두 분석하고 우리(KB국민은행)에게는 어떻게 적용할 수 있는지에 대한 방향성과 전략을 구축했다.
그렇게 분석을 마치고 나니 생성형 AI가 할루시네이션(환각 현상)이라는 문제를 가지고 있지만 고객 대응이 중요한 금융 업계에서는 필요할 수밖에 없는 기술이라는 결론이 나왔다. 그리고 AI는 실제 완성된 기술이 아니라 계속적으로 발전하는 기술이다보니 즉각적인 활용보다는 기술의 특징에 맞는 활용사례 발굴이 필요하다는 관점이 생겼다.
정리해보면 2023년 상반기는 기술 트래킹, 하반기에는 활용사례 발굴 및 실제 현업에서 기술을 경험하는데 집중했던 것 같다.”
금융 업계에서 유독 생성형 AI 도입에 적극적인 이유는 무엇인가.
“금융은 정확성이 우선돼야 한다는 필수 조건 때문에라도 숫자와 같은 정형 데이터에 대한 기술과 인프라는 어느정도 갖춰져 있다고 본다. 하지만 고객의 문의와 같은 비정형 데이터에 대한 인프라는 상대적으로 약한 편이다.
금융 업무 핵심은 고객의 자산관리다. 그런데 고객은 주로 정형 데이터가 아닌 자연어 즉, 비정형 데이터로 문의를 하고 이에 대한 답변도 비정형 데이터로 받기를 원한다. 여기에 뉴스, SNS, 보고서 등 금융 환경을 분석하는 데이터 또한 비정형 데이터다. 이에 대응하기 위해서는 생성형 AI를 비롯한 LLM(거대언어모델) 기술이 필요한 것이다. 물론 이전에도 버트(BERT, 구글의 초기 AI 언어모델) 기반의 서비스가 있었지만 키워드 분석, 개체명 인식 등 비교적 단순한 업무만 처리하는 수준이었다. 고객의 길고 연속적인 질문을 이해하고 답변을 줄 수 있는 생성형 AI를 도입하는 건 선택이 아닌 필수였다고 본다.
AI 도입은 금융 리터러시(문해력)를 높이기 위한 역할도 있다. 금융은 사실 대다수 사람들에게는 어려운 분야다. 용어도 어렵고 상품들도 복잡하다. 만약 생성형 AI 기반의 챗봇 시스템이 적용되면 복잡한 금융 정보를 얻지 않아도 곧바로 원하는 정보를 얻을 수 있다. 또 여기에 마이테이터가 더해지면 개인의 금융 생활까지 관리해주는 AI 에이전트나 1인 1비서 형태의 서비스로 발전될 수 있다.”
금융 분야는 한치의 오차도 허용돼서는 안 되는 만큼 생성형 AI의 취약점인 할루시네이션에 대한 대응책도 마련돼야 할 것 같다.
“LLM의 업그레이드 버전이 나오면서 할루시네이션 현상도 줄어들고 있는 것 같다. 하지만 1원 단위 조차 틀려서는 안 되는 금융 분야에서는 여전히 리스크 요소로 작용하는 것은 사실이다. 물론 RAG(생성형 AI에 검색 기능을 결합한 모델)와 같은 방법을 통해 오류를 줄일 수 있지만 이 역시 완벽하지는 않다.
결국 지금은 기업 내부에서는 서비스 고도화 및 업무 효율성을 위해 활용할 수 있지만 고객 대상의 서비스는 신중할 수밖에 없는 상황이다. 실제 KB국민은행은 지난 해 6월 ‘KB-GPT’ 데모 사이트를 개설하는 등 내부적인 시스템 구축에 적극적이었다. 하지만 고객 서비스는 다르다. 고객 서비스는 한번 오픈하고 나면 돌이킬 수 없기 때문에 충분히 검증돼야 하고 법적인 규제 등도 면밀히 검토해야 한다. 따라서 고객 서비스 부분은 속도보다는 완벽에 더 포커스를 맞춰야 한다.”
KB국민은행의 AI 도입 상황을 정리해보면 내부와 외부 두 방향으로 추진하고 있는 것 같다.
“하나는 회사 및 행원을 위한 업무효율화 및 비용절감 등을 위한 목적으로 활용되고, 다른 하나는 고객을 위해 활용되고 있다. 하지만 회사 및 행원을 위한 업무효율화가 될 경우 이는 결국 고객에게 좀 더 안정적이고 편리한 서비스로 이어지기 때문에 고객을 최우선에 두고 다양한 AI 서비스들이 운영되고 있다고 볼 수 있다.
내부에서 활용되는 서비스는 공개하기가 어렵지만 이미 뉴스기사로 알려져있는 기술로는 KB-STA, KB AI-OCR, KB-GPT가 있고, AI 서비스로는 미래컨텍센터, AI보이스피싱 모니터링 시스템, 기업여신 자동심사 지원시스템(ML Bics), AI금융비서, AI금융상담 시스템 등이 있다. KB국민은행의 슈퍼앱인 스타뱅킹 앱에서도 AI기술이 곳곳에 활용되고 있다.”
현재 금융AI센터도 구축 운영하고 있다. 어떤 역할을 하고 있나.
“AI가 금융 비즈니스 전체에 잘 스며들도록 하는 역할이 가장 크다. 좀더 풀어 얘기하면, AI 기술을 발빠르게 파악하고 내부에 전파하는 데 집중하고 이를 통해 실제 업무 효율화를 이끄는 미션을 가지고 있다.
금융 업계에 대해 보통은 유연하지 않고 레거시(과거의 체계)가 강하다는 인식이 있는데, 물론 그런 부분도 있지만 AI 기술에 대해 적극적으로 수용하고 변화하려는 움직임도 강하다. 그런 점 때문에 발빠르게 금융 특화 언어모델(KB-STA)을 개발하고 내부의 다양한 AI 시스템에 요소기술로 활용할 수 있었다.”
금융 업계에서도 AI로 인한 인원 감축에 대한 우려의 목소리가 있다. 어떤 관점인가.
“AI 기술의 발전은 일자리를 없애기도 하고, 새로운 일자리를 창출하기도 한다. 사실 거의 모든 산업 분야에서 사람이 부족하다고 늘 말한다. 그럴 수밖에 없는게 새로운 비즈니스와 업무는 계속 증가하는데 이것을 처리할 사람은 늘 부족하기 때문이다.
AI 도입은 업무를 좀더 효율적으로 처리하기 위한 도구이며 실제 직원들은 더 가치 있는 일에 집중해야 한다는 관점이다. 바꿔 말하면 AI는 인력 감소가 아닌 같은 인력으로 좀 더 많은 업무를 효율적으로 처리하기 위한 도구이다. 앞으로 생성형 AI가 도입될 경우 큰 변화가 있을 수 있으므로 이를 대처하기 위해서는 업스킬링과 리스킬링이 필요하다고 본다.”
금융 분야에서 AI 도입을 위한 핵심은 무엇이라고 보는가.
“데이터다. LLM, sLLM 등의 AI 모델이나 RAG 방법도 결국 고품질의 데이터에 기반한다. 범용으로 사용되는 AI 모델이 아닌 특정 분야에 특화된 서비스라고 한다면 데이터가 잘 들어가 있어야 하고 이에 대한 정책도 필요하다. 왜냐하면 적어도 금융 분야에 도입되는 AI 시스템은 도입 자체보다는 지속가능성이 더 중요하기 때문이다. 이를 위해서는 계속해서 새로운 데이터를 생성해야 하고 지속가능성을 만들어내는 AI 거버넌스가 필요하다. KB국민은행이 금융권 최초로 AI 윤리 기준을 제정한 것도 그런 이유에서다.”
AI 고도화 측면에서 앞으로 더 분주할 것 같다.
“KB국민은행에서의 AI 기술은 마치 업무 인프라처럼 쉽고 편리하게, 그리고 자연스럽게 활용할 수 있어야 한다고 본다. 이를 위해 직원들의 직무 향상 교육을 지속적으로 진행할 예정이다. AI 기반 대고객 서비스는 올해 본격적인 출시를 기대하고 있지만 앞서 언급했듯이 속도보다는 신뢰성이 중요하기 때문에 이에 대한 검증은 충분히 진행할 계획이다.
아직 AI 기술은 완성되지 않았고 계속 발전하고 있다. 때문에 다양한 활용 사례들을 발굴하고 실험하는 과정을 통해 비용 효율성 및 활용 가치를 고려한 아이템을 도출해나갈 계획이다. AI 서비스의 경쟁력과 차별성은 데이터로부터 나온다는 생각을 가지고 있기 때문에 AI 도입 항목들이 정해지면 그에 맞춰 구체적인 데이터 전략도 마련할 것이다.”
IT조선 조상록 기자 jsrok@chosunbiz.com