"완전히 다른 회사가 됐다."
배태원 인텔코리아 사장은 지난해 3월 립부 탄(Lip-Bu Tan) 최고경영자(CEO) 취임 이후의 인텔을 이렇게 표현했다. 지난달 28일 서울 여의도 인텔코리아 본사에서 만난 배 사장은 조직 구조와 인력, 사업 방향 모두가 대폭 바뀌었다고 강조하면서 "에이전틱 AI, 피지컬 AI, 하이브리드 AI 시대에서 중앙처리장치(CPU)가 어떤 역할을 해야 하는가가 지금 인텔의 가장 큰 화두"라고 말했다.
배 사장은 인공지능(AI) 인프라에서 CPU의 중요성이 커진 건 충분히 예상됐던 흐름이라고 설명했다. 그는 "생성형 AI의 병목이 그래픽처리장치(GPU)에서 나오기 시작하면서, 그 다음은 메모리, 그 다음은 AI 에이전틱 시대에 맞춘 CPU의 오케스트레이션 역할로 이어질 거라는 건 당연한 수순이었다"고 말했다.
AI가 클라우드에서 엣지, 나아가 로보틱스로 확산될수록 CPU의 역할은 더욱 커지고 있다. 배 사장은 휴머노이드 로봇의 경우 전력 소모와 비용 문제로 외장 GPU 탑재가 사실상 불가능하기 때문에, 내장 GPU와 신경망처리장치(NPU)를 CPU가 조율하는 구조가 핵심이 된다고 설명했다. 실제로 인텔은 최신 공정 기반의 팬서레이크 제품을 탑재한 노트북이 로컬 대규모언어모델(LLM) 구동과 로보틱스 레퍼런스 보드로 활용되기 시작했으며, 인텔 제온6의 AI 엔진(AMX)을 활용해 GPU 없이도 경량 LLM 추론이 가능하다.
생성형 AI를 돌리는 과정에서 발생하는 막대한 비용 문제의 대안으로 꼽히는 하이브리드 AI 역시 인텔이 주도하고 있다. 배 사장은 "생성형 AI 서비스를 활용하는 기업이나 소비자들은 유료 서비스를 사용하면서 '토큰이 녹는다'는 말이 나올 정도로 비용 부담에 시달리기 시작했다"며 "일반적인 워크로드는 로컬 LLM으로 처리하고, 무거운 작업은 온라인 서비스를 활용하는 식으로 균형을 맞추려는 수요가 생기고 있는데, 인텔이 컴퓨텍스 2026에서 소개하는 '슈퍼클로'가 대안이 될 수 있을 것"이라고 설명했다.
이 같은 하이브리드 AI 시대의 또 다른 핵심 과제는 보안이다. 배 사장은 "AI가 일상화될수록 개인정보와 기업 기밀 데이터의 노출 리스크도 함께 커진다"며 인텔의 기밀 컴퓨팅 기술인 TDX(Trust Domain Extensions)를 소개했다. TDX는 소프트웨어 가상머신 레벨이 아닌 CPU 하드웨어 단에서 데이터를 직접 관리하는 기술로, 현재 국내 통신사 등 여러 기업들과 PoC(개념검증)를 진행 중이다. 배 사장은 "AI 인프라를 지금 제대로 설계하지 않으면 나중에 프레임을 바꾸기엔 너무 늦을 수 있다"고 강조했다.
인텔의 조직 변화에 대해서도 배 사장은 언급했다. 립부 탄 CEO 취임 이후 의사결정 단계를 5단계로 압축하고 임원 수를 대폭 줄였으며, 고객 중심 문화로의 전환을 강하게 드라이브하고 있다. 다음은 배 사장과의 일문일답.
ㅡ립부 탄 CEO 취임 이후 인텔이 많이 달라졌다고 하는데, 어떤 변화를 느끼고 있는가.
"완전히 다른 회사라는 느낌이다. 조직적으로도 인적으로도 많이 바뀌었고, 그 변화를 긍정적으로 평가한다. 핵심은 (회사의 방향성이) 기존 PC·서버 중심 CPU에서 벗어나, 에이전트 AI·피지컬 AI·하이브리드 AI 시대에 CPU가 어떤 역할을 할 것인가로 옮겨갔다는 것이다. 조직 면에서도 의사결정 단계를 5단계로 압축하고 임원 수도 대폭 줄였다. 과거 인텔이 고객사나 협력사에 지침을 주는 입장이었다면, 이제는 더 적극적으로 고객사와 협력업체의 목소리를 듣는 회사가 됐다는 피드백이 나오기도 한다."
ㅡ최근 인텔 주가 급등의 가장 큰 동력으로 꼽히는 AI 에이전트 수혜의 경우 예상했던 호재인가, 아니면 서프라이즈였나.
"예상은 당연히 했던 것이다. 생성형 AI의 병목이 GPU에서 나오기 시작하면서, 그 다음은 메모리, 그 다음은 CPU의 오케스트레이션 역할 순으로 이어질 거라는 건 당연한 수순이었다. 인텔은 2년 전 AI 서밋에서 SK하이닉스를 프리미엄 파트너로 내세우며 고대역폭메모리(HBM)와 CPU의 연계성을 강조했을 때, 내부 직원들조차 "SK하이닉스 메모리랑 우리랑 무슨 관련이 있을까요"라는 질문이 나오기도 했다. 지금은 당연하게도 관계성을 인식하고 있다. 하이브리드 AI와 피지컬 AI 시장은 사실 아직 본격적으로 열리지도 않았다."
ㅡGPU, NPU, CPU의 역할 차이를 쉽게 설명한다면.
"결국 연산에 대한 얘기다. GPU는 단순한 계산을 수많은 코어로 처리하는 데 특화돼 있다. 단점은 전력 소모가 크다는 것이다. NPU는 특정 연산을 전력 효율적으로 처리하는 전용 칩이다. CPU는 이 모든 리소스를 종합적으로 보고 어디가 병목인지, 어느 부분을 내가 처리할지를 판단하고 조율하는 역할을 한다. GPU 없어도, NPU 없어도 시스템은 돌아가지만 CPU 없이는 아무것도 돌아가지 않는다. 그래서 추론 시장이 커질수록, 데이터센터에서 GPU 8대당 CPU 1대이던 비율이 최대 1대 1까지 좁혀지고 있는 것이다."
ㅡAI 에이전틱 시대의 CPU와 GPU의 역할 분담은 어떻게 되나.
"AI 발전 단계를 보면 전통적 AI→생성형 AI→에이전틱 AI 순으로 진화해왔다. 전통적 AI는 CPU로도 처리가 가능했고, 생성형 AI 시대에는 대규모 모델 학습 때문에 GPU의 역할이 커졌다. 그리고 이제 에이전틱 AI로 넘어오면서 CPU의 역할이 다시 커지고 있다. 에이전틱 AI는 AI가 인간의 명령 없이 스스로 판단하고 행동하는 자율형 AI인데, 이 단계에서는 GPU와 CPU의 역할 분담이 필수적이다. GPU는 대규모 병렬 연산과 추론 작업을 수행하고, CPU는 수많은 에이전트들의 행동을 관리하는 오케스트레이션을 담당한다. 작업 스케줄링, 메모리 관리, API 호출 등이 모두 CPU 몫이다."
"실제로 많은 기업의 AI 추론 작업은 GPU 없이 CPU만으로도 충분히 처리 가능하다. 인텔 제온 6는 내장 AI 가속기인 AMX 덕분에 엔비디아 L4 같은 엔트리급 GPU와 견줄 만한 성능을 낸다. MLPerf 테스트에서는 듀얼 소켓 제온 6가 영상 인식에서 L4 대비 2배 이상, 음성 인식에서는 4배 이상의 처리량을 기록하기도 했다. 결국 에이전틱 AI 환경에서는 단일 가속기의 스펙보다 CPU와 GPU 자원의 균형 잡힌 활용이 시스템 성능을 결정한다."
ㅡGPU 기반의 생성형 AI 모델을 돌리는 데 비용 문제도 점점 커지고 있다.
"그렇다. 이에 맞춰 인텔은 하드웨어뿐 아니라 소프트웨어도 함께 변화를 주고 있다. 이번 컴퓨텍스에서 소개한 '슈퍼 클로'가 그 대표적인 예다. 챗GPT나 제미나이, 클로드 같은 클라우드 기반 유료 서비스를 써보면 "토큰이 녹는다"는 말처럼 비용 부담이 크다. 그래서 일반적인 워크로드는 로컬 LLM으로 처리하고, 무거운 작업은 온라인 서비스를 활용하는 식으로 밸런싱하는 수요가 생기고 있는데, 인텔이 그런 소프트웨어 솔루션도 함께 제공하는 것이다."
ㅡAI PC가 기대만큼 폭발력을 내지 못했는데, 소비자가 에이전틱 AI를 일상에서 처음 체감하게 되는 접점은 어디가 될까.
"에이전틱 AI를 가장 먼저 일상에서 만나게 되는 접점은 스마트폰과 PC가 될 것으로 본다. 출근길에 스마트폰이 "오늘 미세먼지가 나쁩니다, 마스크 챙기세요" "지금 출발하면 10분 일찍 도착합니다, 길 안내를 시작할까요?"처럼 사용자가 묻기 전에 먼저 알려주는 시나리오가 현실화되는 것이다. PC에서도 이메일 답장 작성, 문서 정리, 일정 관리 등을 사용자가 지시하기 전에 알아서 준비해주는 방식으로 에이전틱 기능이 운영체제 차원에서 통합될 것으로 본다. 현재 AI PC 개념은 아직 초기 단계지만, PC와 스마트폰 속 에이전트가 점점 사용자의 업무와 생활 패턴을 학습하고 주도적으로 지원하기 시작하면서, AI가 인간 곁에서 함께 일하고 생각하는 새로운 패러다임으로 이어질 것으로 기대한다."
ㅡ보안 문제는 어떻게 해결할 수 있을까.
"AI가 일상화될수록 개인정보와 기업 기밀 데이터의 노출 리스크도 함께 커진다. 인텔은 TDX(Trust Domain Extensions)라는 기밀 컴퓨팅 기술을 갖고 있는데, 소프트웨어 가상머신 레벨이 아니라 CPU 하드웨어 단에서 직접 데이터를 관리하는 기술이다. 현재 국내 통신사 등 여러 기업들과 PoC를 진행 중이다. AI 인프라를 지금 제대로 설계하지 않으면 나중에 프레임을 바꾸기엔 너무 늦을 수 있다. CPU, 제조 역량, 에코시스템, 보안까지 전체 라인업을 갖춘 기업은 사실 많지 않기 때문이다."