그래픽=정서희

“올거나이즈의 사명에는 고객사가 원하는 모든 것(All)을 구성(Organize)해 주겠다는 뜻을 담았습니다. AI(인공지능)를 활용해 기업 내 모든 자료를 정돈해 쉽게 뽑아쓸 수 있게 도와주는 플랫폼입니다. 5년 전 일본 미쓰이스모토모은행(SMBC) 금융그룹을 고객사로 유치한 이후 지금까지 한국, 일본, 미국에서 200개 고객사를 확보했습니다.”

이창수(44) 올거나이즈 대표는 지난 6일 서울 강남구 사무실에서 가진 조선비즈와의 인터뷰에서 “챗봇은 다재다능하지만, 고객사가 챗봇의 모든 기능을 필요로 하진 않는다”면서 “올거나이즈가 고객사를 대신해 맞춤형 언어모델, 챗봇, 앱까지 한번에 제공하는 ‘올인원 솔루션’을 만든 이유”라고 설명했다.

대규모언어모델(LLM) 기반 AI 챗봇 도입을 원하는 기업 수요가 빠르게 늘고 있다. 챗봇을 도입하면 자료나 사내 규정 등을 별도로 찾아볼 필요가 없어 업무시간을 단축할 수 있다. 하지만 챗봇을 도입해도 정보를 학습시키고 내부 정보에 특화한 애플리케이션(앱)으로 만들기까지 많은 시간과 노력이 필요하다. 이 모든 과정을 한 번에 진행할 수 있도록 돕는 ‘해결사’ 역할을 하는 기업이 올해로 설립 7년차를 맞은 AI 플랫폼 스타트업 올거나이즈다.

이 대표는 2002년 한국과학기술원(KAIST) 컴퓨터공학과를 졸업하고 2004년 동대학원에서 자연어 처리로 석사를 받았다. SK텔레콤과 일본 게임사 게임온을 거쳐 KAIST 선배이자 1세대 IT 벤처창업가인 노정석 비팩토리 대표의 제의로 데이터 분석업체 ‘아블라컴퍼니’를 함께 설립했다. 2013년 아블라컴퍼니는 파이브락스로 사명을 바꾼 뒤 2014년 미국 모바일 광고업체 탭조이에 400억원을 받고 팔렸다.

이 대표는 탭조이에서 근무하던 중 전 세계적인 AI 열풍에 다시 한 번 창업을 결심했다. 그는 “2016년 당시 AI 알파고가 이세돌 9단과의 바둑 대결에서 승리한 장면을 목격했다”면서 “이는 표면적인 정보만을 수집해 상황을 분석하는 것을 넘어 복잡한 경우의 수를 계산할 수 있을 정도로 AI의 딥러닝 수준이 발전했다는 증거였다”라고 말했다. 이 대표는 이어 “딥러닝 수준이 이 정도로 발전했다면, AI가 스마트폰이 불러온 ‘모바일’ 열풍을 압도할 ‘메가 트렌드’가 될 것이라고 느꼈다”면서 “AI 딥러닝의 장점을 활용한 플랫폼을 만들 적기라 생각했다”고 말했다.

올거나이즈의 빌더를 사용해 맞춤형 챗봇을 만드는 모습./올거나이즈 제공

◇ 창립 후 LLM 기반 챗봇 개발에 집중… 고객사가 챗봇 제작할 수 있게 지원

올거나이즈는 창립 이후 LLM 기반 챗봇인 ‘알리 앤서(Alli Answer)’ 개발에 집중했다. 알리 앤서는 기업 문서와 매뉴얼, 최신 정보 등을 업로드하면 질문에 대한 답을 문서에서 찾아 요약하고 답하는 솔루션이다. 고객사는 올거나이즈가 제공하는 빌더(제작 프로그램)를 통해 원하는 LLM을 직접 적용, 맞춤형 ‘알리 앤서’를 만들 수 있다. 알리 앤서에 적용할 수 있는 LLM은 오픈AI 챗GPT, 구글 제미나이, 네이버 클로바X 등 15종이다. 요청에 따라 고객사가 원하는 LLM을 적용한 알리 앤서를 대신 제작해 주기도 한다. 올거나이즈가 제작할 수 있는 앱은 문장 번역, 이용약관 관련 답변 봇, 판례 분석 봇 등 수십 종에 달한다.

올거나이즈는 언어모델을 직접 개발해 공급하는 사업도 진행하고 있다. 올거나이즈가 개발한 sLLM(중소형 언어모델)인 ‘알리 파이낸스’는 금융 분야에 특화됐다. 이 대표는 “언어모델이나 챗봇 서비스를 공급하는 데 그치는 다른 회사와 달리 원하는 챗봇을 직접 만들어주고, 제작 지원도 해주는 AI 회사는 전 세계적으로 올거나이즈가 유일하다”라고 말했다.

◇ 日 SMBC 고객사 유치 계기로 입소문… 고객사 200여곳 확보

이 대표는 올거나이즈 미국, 한국, 일본 법인을 한 번에 설립하는 파격적인 선택을 했다. 이는 규모가 큰 AI 시장에 동시에 진출해 빠르게 영향력을 키우고 고객사를 늘리기 위한 전략이였다. 그러나 창업 초기에는 생각처럼 사업 확장이 쉽지 않았다. 이 대표는 “AI 플랫폼은 업계에서 유명 기업이 활용해야 입소문을 타고 점차 확산되는 게 특징이다”라며 “스타트업이 만든 플랫폼을 선뜻 써줄 기업은 많지 않다”라고 말했다.

그러던 중 2019년 일본의 3대 은행 중 하나인 미쓰이스모토모은행(SMBC) 금융그룹을 고객사로 잡으면서 상황이 반전됐다. 당시 SMBC는 미국 IBM의 AI 시스템인 ‘왓슨’을 사용하면서 골치를 앓고 있었다. 왓슨을 활용하기 위해 많은 데이터를 사람이 직접 학습시켜야 했는데, 그에 비해 답변의 정확도는 빠른 속도로 늘지 않았기 때문이다. 이 대표는 지난 2019년 우연히 미국 실리콘밸리에서 SMBC 관계자를 만나 “알리 앤서는 스스로 데이터베이스(DB)에 접근할 수 있어 사람이 직접 정보를 학습시킬 필요가 없고 정확도도 빠르게 늘릴 수 있다”고 설득했다. SMBC는 왓슨의 답변 정확도가 40%에서 90%까지 개선될 때까지 학습 기간이 1년이나 걸린 반면, 알리 앤서는 초기 정확도가 76%에 달했고 2주 만에 정확도가 93.4%까지 증가하는 사실을 확인했다.

이를 계기로 올거나이즈는 다양한 산업군에서 빠르게 입소문을 탔고 고객사도 올해 기준 200여곳까지 늘었다. 국내 기업인 현대카드, KB증권 뿐만 아니라 일본 AEON, KDDI, KAO, 미국 트래블러스, 오클라호마 주정부 등에서 올거나이즈의 서비스를 사용하고 있다.

올거나이즈에 관심을 보이는 투자자들도 많아졌다. 올거나이즈는 현재까지 한국, 미국, 일본 투자자들로부터 2000만 달러(약 262억원) 수준의 투자금을 유치했다. 지난해 11월에는 SK텔레콤으로부터 400만 달러(54억원)를 투자받았다.

이 대표는 내년 내 일본 도쿄 증시 상장을 목표로 삼았다. 이를 위해 2022년 본사 기능을 미국 법인에서 일본 법인으로 이전했다. 이 대표는 “일본은 정보를 문서로 남겨두는 문화가 특히 두드러지는 곳”이라며 “이 때문에 정형화되지 않은 자료를 분석해 정확한 답변을 제공하는 AI 챗봇 수요도 크게 늘고 있다”고 설명했다. 그는 이어 “상장에 성공한 이후에도 한국, 일본, 미국 법인이 함께 힘을 모아 AI 시장에서 영향력을 키워 AI 챗봇 업계 선두로 올라서기 위해 노력할 것”이라고 말했다.