"생성형 인공지능(AI)을 활용하는데 있어 지식재산권, 보안 문제가 늘어나다보니 AI에 대한 기대 못지 않게 우려가 커지고 있다. AI가 가져오는 이점이 크지만, 예상치 못한 문제로 받을 타격을 감안해 전사적으로 AI 도입을 늦추는 기업도 많다. 하지만, 기업이 '안전장치'인 AI 거버넌스를 확보하면 걱정을 덜어도 된다."
많은 기업이 거대언어모델(LLM)을 넘어 다양한 생성형 AI와 파운데이션 모델 도입을 검토 중이다. 하지만, 사실이 아닌 것을 사실인 것처럼 답하는 환각(hallucination), 편향성, 오류, 지적재산권 침해, 민감정보 유출 등 기업에 엄청난 손실을 끼칠 수 있는 위험 요소로 AI의 비즈니스 활용이 쉽지 않다. 김현정 한국IBM 컨설팅 대표는 14일 서울 여의도 IFC 회사 사무실에서 가진 'IBM 왓슨x.거버넌스' 기자간담회에서 "AI 거버넌스를 확보하면 AI의 진정한 가치를 제대로 구현하며 활용할 수 있다"며 이같이 말했다.
김 대표는 "AI 거버넌스는 AI 도구와 시스템이 안전하고 윤리적으로 유지되도록 보장하는 안정장치"라며 "공정성, 인권존중을 보장하기 위해 AI 연구 개발 및 적용을 지시하는 규칙이자 표준"이라고 덧붙였다.
김 대표는 AI가 기업의 높은 투자수익률(ROI)을 안겨줄 기술이라고 소개했다. 한국IBM에 따르면 2020년만 해도 AI에 대한 기업들의 투자수익률(ROI)이 1.3%에 불과했지만, 지난해에는 8.3%로 올라왔다. 특히 ROI가 높은 상위 10%의 기업만 살펴보면 AI에 대한 ROI는 13%로 집계됐다. 김 대표는 "검증된 AI를 활용하면 기업 성과에도 큰 영향을 미친다"며 "기업은 생성형 AI를 활용할 준비를 해야 한다"고 말했다.
그는 기업이 AI를 도입하고 확장하는 데 있어 해소해야 할 대표적인 도전과제로 ▲자사 데이터 및 기밀 유출 및 데이터 품질 문제 ▲AI 모델에 대한 신뢰성, 편향성, 투명성, 환각 문제 ▲유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화를 꼽았다. 김 대표는 "기업이 성공적으로 AI를 비즈니스에서 활용하기 위해서는 AI를 위한 데이터, AI 모델, AI 도입 및 확장 과정에서 신뢰성을 확보하는 'AI 거버넌스'에 대한 고려가 AI 도입 검토 시 처음부터 고려돼야 한다"고 강조했다. 이를 제대로 해결해야 AI가 가져올 가치가 진정으로 구현된다는 이야기다.
이날 이지은 한국IBM 최고기술책임자(CTO·전무)는 기업들이 AI 위험 요소를 줄이고, AI 거버넌스를 수립할 수 있도록 지원하는 'IBM 왓슨x.거버넌스(watsonx.governance)' 관련 기술을 소개했다. 왓슨x.거버넌스는 오픈소스의 위험 요소를 관리하는 동시에 전 세계 AI 규제 현황을 한눈에 볼 수 있다. 이 전무는 IBM 왓슨x.거버넌스를 AI 성분 분석표로 비유했다. 가공식품에 영양성분표가 있듯 왓슨x.거버넌스를 이용하면 데이터 저작권 침해 여부 등을 사전에 파악할 수 있다는 설명이다.
이 전무는 "왓슨x.거버넌스는 기업이 AI를 도입할 때 가장 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다"고 말했다. 특히 이 전무는 IBM 왓슨x.거버넌스가 ▲AI 생애주기 거버넌스 ▲AI 위험 요소 관리 ▲규제 준수 등 세 가지 부문에 대한 기술을 제공해 기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원한다고 밝혔다. AI 생애주기 거버넌스 기술은 IBM, 오픈 소스 커뮤니티 및 기타 모델 제공업체의 AI 모델을 관리, 모니터링 및 통제해준다. AI 위험 요소 관리 기술은 공정성, 편향성, 오류 및 새로운 LLM 매트릭스를 모니터링해 위험을 사전에 감지하고 완화해준다. 규제 준수 기술은 AI를 관리해 내부 정책, 업계 표준을 준수하고 전 세계의 향후 규제 및 정책에 대비해준다.
이 전무는 "왓슨x.거버넌스는 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪고 있는 기업을 위한 원스톱 솔루션으로, 기업이 여러가지 AI 모델에 대한 거버넌스 프로세스를 자동화하고 모니터링하며 시정 조치를 취하는 데 필요한 도구를 가시성과 함께 제공한다"고 말했다.
왓슨x.거버넌스는 한국을 포함한 전 세계에서 정식 버전(GA)을 사용할 수 있다.