카카오뱅크(323410)의 자사 금융기술연구소가 생성형 AI의 안정성 제고와 금융 AI 신뢰성 향상을 주제로 쓴 논문 4편이 국제 학술대회에서 연이어 채택됐다.
30일 카카오뱅크에 따르면 회사는 지난 4월 열린 ICLR(표현학습국제학회)에서 금융·법률 등 전문 분야 생성형 AI를 대상으로 한 유해 콘텐츠 주입 및 우회 공격(프롬프트 인젝션)을 탐지하는 기술을 발표했다. 이어 5월 열린 자연어처리, 언어자원 및 평가 분야 대표 국제 학술대회인 LREC(어학자원연구학술대회)에서는 금융 특화 AI의 보안성과 정확성을 높이는 2편의 연구를 발표했다.
ACL(전산언어학회) 산업 분야 트랙에는 카카오뱅크가 지난 5월 KAIST와 공동으로 수행한 연구가 채택됐다. 카카오뱅크는 보이스피싱, 금융사기, 개인정보 탈취 등 금융 분야에서 발생할 수 있는 위험 유형을 체계적으로 정리한 AI 안전성 평가 기준을 제안했다.
카카오뱅크는 "금융 AI 서비스의 안전성과 정확성을 높이는 실질적인 기술이라는 점에서 의미가 크다"라며 "금융 환경에 특화된 AI 보안 및 기술 연구를 지속해 가장 안전하고 편리한 금융 서비스를 제공하겠다"고 밝혔다.