"티냅스가 풀고자 하는 문제는 모든 금융사가 필연적으로 거쳐가는 지점과 맞닿아 있습니다. 금융 AI 담론은 '어떤 모델이 더 똑똑한가'를 넘어, '어떤 모델이 더 믿을 수 있고, 사고를 일으키지 않는가'로 넘어가고 있습니다."
금융 인공지능(AI·Artificial Intelligence) 스타트업 티냅스의 강민승 대표는 최근 금융 AI 동향을 이렇게 설명했다. 지난달 KB금융(105560)과 협력해 금융상담 에이전트의 우수성을 알린 티냅스는 44개 팀 중 가장 높은 평가로 금융위원장상을 받았다. 티냅스는 창업 6개월 만에 미래에셋, 카카오벤처스 등에서 45억원의 투자를 유치하고 아마존웹서비스(AWS)와 엔비디아(NVIDIA)가 주최한 스타트업 경진대회에서 아시아에서 유일하게 상위권에 올랐다.
금융위는 지난 5월 망분리 규제 완화를 통해 금융사의 AI 활용을 지원하기로 했다. 동시에 고도의 보안과 AI 역량을 갖춘 금융사는 망분리 규제 전면 해제도 검토한다고 덧붙였다.
강 대표는 금융위의 결정이 국내 AI 혁신을 위한 중요한 결정이었다며 티냅스의 솔루션을 '필터'로 비유했다. 각 사의 AI 챗봇 등이 정수를 공급하고 있지만, 한 단계의 필터를 추가해 혹시라도 발생할 수 있는 치명적인 오염물질을 제거할 수 있다는 의미다.
티냅스는 KB국민은행을 비롯한 여러 시중은행 및 대기업과 협업을 위한 기술 검증(PoC·Proof of Concept)을 진행하고 있다. 강 대표는 "이미 은행권에서는 AI 답변에 대한 문제 발생 여지를 인지해 수요가 크게 늘고 있다. 금융만큼은 몇 초 느려도 정확한 답변이 나와야 하는 분야"라고 했다. 다음은 강 대표와의 일문일답.
―44팀 중 최우수 협력 사례로 뽑힌 결정적 이유는 무엇이라고 생각하는가.
"'우리에게도 사고가 발생할 수 있겠다'는 공감대에서 높은 점수를 받지 않았나 싶다. 솔루션의 배경을 설명하면서 한 시중은행에서 실제 있었던 사례를 언급했다. 챗봇의 오답변이 전산 처리를 틀리게 만들었고 사고 발생 후 직원이 원장을 직접 수정해 해결한 건이다. 고객이 금감원에 민원을 넣었다면 제재로 이어질 수도 있었던 사고였다.
은행권에서 AI 도입이 빠르게 확산되고 있지만 AI가 내놓을 수 있는 틀린 답에 대한 대비는 충분하지 않다. 금융에서는 단 한글자의 코드만 틀려도 대형 사고로 이어질 수 있다."
―티냅스의 솔루션은 AI의 오답을 어떻게 방지하나.
"잘못된 답변이 나가지 않으려면 실시간 통제가 필요하다. 금융처럼 오답 한 건이 곧 사고가 되는 영역에서는 지금까지 AI의 방식처럼 사후에 답변(로그)을 분석하면 늦는다. 티냅스의 솔루션은 오류 가능성이 있는 답변을 내보내기 전에 금융의 문법으로 만들어진 정답지, 즉 그라운드 트루스(Ground Truth)에 한 번 더 대조한다.
다만 그 기준은 범용으로 만들어지지 않는다. 금융 업무에서 실제로 어떤 오류가 나는지는 현장에 들어가야만 알 수 있고, KB와 협업으로 금융 특화 그라운드 트루스를 축적해온 이유가 그것이다."
―실시간 답변 검증은 응답 속도를 늦추지 않나.
"탐지 모델만 쓰는 경우 200~300ms(millisecond·1000분의 1초) 수준으로 잡는다. 다만 추론까지 필요한 답변은 초 단위로 올라간다. ChatGPT를 씽킹 모드로 쓸 때를 떠올리면 된다. 사람이 판단이 필요한 질문 앞에서 잠시 멈추는 것과 같은 구조다."
―AI의 모든 사고와 판단에 감사 기록(Audit Trail)을 남기는 이유는 무엇인가.
"금융에서는 규제와 사고 책임이 법적 공방으로 이어지는 경우가 잦다. AI답변에 감사(Audit) 기록을 남기면 이는 법적 효력을 갖춘 형태로 저장되고, 사고가 났을 때 왜 이런 답변이 나왔는지 되짚고 책임 소재를 입증하는 근거가 된다. 자동차 사고가 나면 블랙박스를 돌려보듯 기록을 추적해 원인을 찾을 수 있는 것이다. 규제 산업에서 AI를 활용하려면 성능만큼이나 중요한 것이 설명 가능성이다. 구글조차도 AI 사고로 소송 중인데, 우리의 목표는 더 똑똑한 AI가 아니라 AI를 업무에 쓸 수 있게 만드는 신뢰다."
―특정 답변에서는 제미나이나 클로드보다도 높은 점수를 받았다.
"제미나이나 클로드가 사고와 추론에서 훨씬 뛰어나다. 하지만 금융 지식에 한정해서는 우리 모델을 거친 답변들이 금융권에서 만족할 만하게 나온다. 창업 전까지 금융권에 있었던 경험 덕분에 금융의 문법과 금융사의 관점을 이해할 수 있었고 금융에 특화된 답변을 하는 모델을 만들 수 있었다."
―금융권 PoC는 많아도 실제 도입까지 가는 경우는 드물다. KB와의 협업은 무엇이 달랐나.
"은행권에서 직접 수익으로 이어지지 않는 AI부서는 아무리 중요하다고 해도 힘을 받기 어렵다. 하지만 KB금융은 AI센터에 100명이 넘는 전문인력들이 있고 AI 고도화에 많은 투자를 하고 있다. 티냅스와의 협업에도 적극적으로 지원했으며 여·수신, 연금 부서 등 직접 관련이 없는 부서의 조언도 받을 수 있었기에 좋은 솔루션이 탄생한 것 같다."
―AI 도입 자체도 비용인데, 신뢰 검증 모델까지 쓰면 이중 비용이다. 그럼에도 없으면 안 되는 이유는.
"AI는 업무 속도와 효율을 높인다. 하지만 그만큼 사고가 났을 때의 파장도 크다. 티냅스를 떠나서, 신뢰 검증 없이 AI를 도입하는 건 방화벽이나 백신 없이 IT 전환을 하는 것과 같다. AI가 금소법 위반 소지가 있는 답변이나 불완전판매로 이어질 설명, 혹은 사회·정치적으로 민감한 발언을 내놓았다고 해보자. 브랜드가 입을 손해와 감독기관의 중징계를 생각하면, 안전망 없이 AI를 쓰는 쪽이 오히려 더 비싼 선택이다."
―티냅스와 KB의 협업으로 만든 신뢰성 검증 모델이 글로벌 표준까지 될 수 있다는 건 무슨 뜻인가.
"신뢰성 검증 시장 자체가 이제 막 열리고 있다. 그중에서도 금융권에 특화된 검증 모델은 아직 전 세계 어디에도 자리 잡은 사례가 없다. 한국은 이미 지폐와 동전을 쓰지 않는 시장이자 금융과 IT가 일찍 결합했고, AI기본법으로 금융·의료 같은 고영향 영역에 대한 규제 체계를 갖췄다. 검증 모델을 발전시키기에 이보다 나은 테스트베드가 없다.
이런 배경 때문에 금융 분야에서만큼은 미국이나 일본보다 한국이 먼저 답을 낼 수 있다. 여기서 검증된 모델이 곧 세계 표준이 되는 것이다. 한국 금융 시장과 혁신 기술, 그리고 이를 뒷받침하는 전통 금융이 있다면 충분히 가능한 일이다."