카카오엔터프라이즈는 22일 경기도 용인시 카카오 AI 캠퍼스에서 개막한 ‘이프카카오(if kakao AI 2024)’ 개발자 컨퍼런스에서 클라우드 GPU, 비전 AI, 머신러닝, 검색증강생성(RAG) 등 다양한 주제로 발표를 진행한다고 밝혔다.
이프카카오는 2018년 시작해 올해로 6회째를 맞이하며, 카카오 그룹의 기술 비전을 공개하고 기술적 성취를 개발자 커뮤니티와 함께 공유하는 자리다. 이번 컨퍼런스의 핵심 주제는 ‘AI’로, ‘모든 연결을 새롭게’라는 슬로건 아래 카카오의 최신 기술과 관련 지식을 참가자들과 나누는 기회가 될 전망이다.
카카오엔터프라이즈는 이번 이프카카오에서 총 4개의 기술 세션에 참여하여 AI 기술과 AI 인프라의 근간인 클라우드 기술을 중심으로 발표를 진행한다.
행사 첫날, 비전 AI 관련 서비스를 개발하는 김민주 매니저는 ‘미디어 및 AI 가속기를 탑재한 카카오클라우드의 비디오 인스턴스 활용기’를 주제로 발표한다. 이 세션에서는 영상 스트리밍 데이터를 빠르고 효율적으로 처리하는 미디어 가속 인스턴스와 영상 내 인상착의, 차량 번호 검색 및 경로 추적 등 다양한 AI 모델 활용 방안을 소개한다.
김 매니저는 “카카오클라우드의 AI 가속 인스턴스는 딥러닝 처리 유닛(DPU)을 장착하여 객체 탐지 및 분류, 얼굴·텍스트 감지 등 여러 비전 AI 모델의 추론을 가속화할 수 있다”고 설명했다.
카카오클라우드의 머신러닝 운영 플랫폼(MLOps)을 소개하는 진은용 파트장은 MLOps를 통해 데이터 수집부터 분석 및 머신러닝, 배포까지의 과정을 3단계로 설명하며, 이를 통한 트래픽 예측 모델 시연을 진행한다. 그는 “MLOps는 머신러닝 모델의 복잡성 증가와 함께 데이터 관리, 파이프라인 자동화 등의 문제를 해결하며 효율성과 확장성을 높인다”고 말했다.
김도윤 RAG모델링TF장은 공공데이터를 활용한 RAG 기술 구현 및 이를 활용한 검색 품질 향상 방안을 소개한다. 김 TF장은 “고품질 청크 기반 검색은 AI가 제공하는 정보의 신뢰도를 높이며, 검색 결과의 품질을 크게 향상시킬 수 있다”고 설명했다.
둘째 날에는 유태희 매니저가 ‘네트워크 인터페이스 카드(NIC)와 GPU 간 제로카피’ 기술에 대해 발표한다. 유 매니저는 “AI 워크로드 처리의 성능 한계를 극복하기 위해 최근 리눅스 커널 커뮤니티에서 공개된 디바이스 메모리 TCP 기술이 큰 역할을 할 것”이라고 설명했다.
카카오엔터프라이즈 관계자는 “카카오는 클라우드와 AI 원천 기술의 고도화를 통해 국내 IT 기술 발전에 기여할 것”이라고 밝혔다.