인공지능(AI)이 스스로 업무를 수행하는 '에이전트 AI'로 진화하면서 기업들의 고민도 AI 도입 여부에서 비용과 보안, 인프라 운영 문제로 옮겨가고 있다. 델 테크놀로지스가 데이터센터와 클라우드에 집중됐던 AI 연산을 직원 PC와 워크스테이션까지 분산하는 '하이브리드 AI'를 앞세워 기업용 AI 시장 공략에 나섰다.
델 테크놀로지스는 25일 서울 삼성동 코엑스에서 '델 테크놀로지스 포럼(DTF) 2026'을 개최했다. 김경진 한국 델 테크놀로지스 회장의 환영사를 시작으로 유상모 사장과 맷 던피 본사 수석부사장이 기조연설에 나섰으며, 주영표 SK하이닉스 부사장과 장동선 뇌과학자도 초대 연사로 참석했다.
유 사장과 던피 수석부사장은 이날 "이제 AI를 통해 실질적인 비즈니스 성과를 창출해야 할 때"라고 했다. 델은 AI 도입이 빠르게 확산하고 있지만 기업들이 이를 실제 업무에 적용하는 과정에서는 데이터센터 인프라와 비용, 보안, 규제 등이 새로운 장벽으로 떠오르고 있다고 진단했다.
델이 공개한 '2026년 모던 엔터프라이즈 레디니스 조사'에 따르면 응답 기업의 87%가 급변하는 환경에 대응하는 데 어려움을 겪고 있다고 답했다. 66%는 향후 3~5년 뒤 자신이 속한 산업이 어떻게 변화할지 예측하기 어렵다고 했다.
특히 국내 응답자의 72%는 현재 데이터센터 환경이 대규모 AI 및 분석 워크로드를 지원하기에 충분하지 않다고 답했다. 84%는 여러 대의 구형 장비를 최신 서버와 스토리지로 통합·전환하는 데이터센터 현대화 계획을 갖고 있는 것으로 나타났다.
던피 수석부사장은 이에 대응하기 위한 3대 과제로 ▲데이터센터 현대화 ▲안전과 신뢰를 바탕으로 한 AI 확장 ▲현대적인 업무 환경 구현을 꼽았다.
보안과 규제 문제도 AI 확산의 걸림돌이다. 국내 응답자의 75%는 AI 데이터 관련 정부 규제에 대응하기 어렵다고 답했고, 65%는 보안 및 컴플라이언스 문제로 AI 도입이 지연되거나 중단된 경험이 있다고 했다. 60%는 제3자가 접근할 가능성이 있는 생성형 AI 도구에 회사의 중요 데이터를 맡기기 어렵다고 답했다.
유 사장은 "많은 기업들이 AI를 새로운 성장 기회로 적극 받아들이고 있지만, AI를 실제 비즈니스에 적용하면서 보안과 규제, 데이터 거버넌스, 인프라 준비도 등 다양한 어려움에 직면하고 있다"며 "델 테크놀로지스는 엔드-투-엔드 포트폴리오와 개방형 생태계를 통해 기업들에 장기적인 기술 로드맵을 제시하고, AI를 통해 비즈니스 성과 창출을 지원하는 전략적 파트너로서 역할을 다할 계획"이라고 말했다.
◇ "AI 토큰, 손익계산서 항목 됐다"… 비용 부담 커지는 에이전트 AI
델이 주목하는 변화는 에이전트 AI 확산에 따른 토큰 비용 증가다. 에이전트 AI는 이용자의 질문에 한 차례 답하는 기존 챗봇과 달리 스스로 사고하고 계획하며 작업을 반복하기 때문에 토큰 사용량도 크게 늘어난다.
정재욱 델 테크놀로지스 이사는 "생성형 AI가 확산되면서 기업이 소비하는 토큰 수는 기하급수적으로 늘고 있다"며 "문제는 토큰 단가가 내려가고 있음에도 불구하고 총 사용량이 폭증하면서 실제 청구 금액은 오히려 커지고 있다는 점"이라고 말했다.
이어 "이제 기업 입장에서는 AI 토큰은 단순히 기술 지표가 아니라 손익계산서의 한 항목이 됐다"며 "AI를 많이 쓸수록 비용도 함께 올라가는 딜레마에 빠진 것"이라고 했다.
델은 이를 해결하기 위해 모든 AI 연산을 클라우드에서 처리하기보다 업무 특성에 따라 클라우드와 데이터센터, 데스크사이드 환경을 조합하는 하이브리드 AI 전략을 제시했다.
클라우드는 갑작스러운 수요 증가나 대규모 학습에 활용하고, 기업 내부 데이터와 핵심 워크로드는 데이터센터에서 처리한다. 반복적으로 수행되는 추론이나 민감한 데이터를 외부로 보내지 않아야 하는 업무는 직원의 PC와 워크스테이션에서 직접 처리하는 방식이다.
정 매니저는 "모든 토큰을 클라우드에서 빌릴 필요가 없다"며 "핵심은 어느 하나만 선택하는 것이 아니라 워크로드 특성에 맞게 세 가지 방식을 조합하는 것"이라고 말했다.
델은 "지금 얘기하는 건 보안은 어떻게 할 것인가, 비용을 어떻게 할 것인가, 운영을 어떻게 할 것인가"라며 기업들이 AI 도입 이후 실제 운영 단계에서 해결해야 할 문제들이 중요해졌다고 설명했다.
◇ AI 연산, 데이터센터서 '책상 위'로
델은 에이전트 AI 확산으로 직원이 사용하는 PC와 워크스테이션에서도 직접 AI 추론을 수행하는 '데스크사이드 AI' 시장이 커질 것으로 전망했다.
정 매니저는 "AI가 처리되는 위치가 데이터센터 밖으로 직원 한 사람 한 사람의 자리로 확장이 되고 있다"며 "업무 환경 자체의 패러다임이 바뀌고 있는 것"이라고 말했다.
기업 입장에서는 클라우드 사용량을 줄여 비용을 예측하기 쉬워지고, 민감한 데이터를 외부로 보내지 않고 내부에서 처리할 수 있다는 장점이 있다는 설명이다.
아직 AI PC 보급은 초기 단계다. 델 측은 이날 간담회에서 국내 AI PC 도입률이 40%에 미치지 못한다고 설명했다. 기업들이 실제 AI 활용 사례를 외부에 공개하는 데에도 내부 기밀과 보안 문제 때문에 소극적이라고 했다.
반면 델의 기업용 PC 사업은 성장세를 보이고 있다. 델에 따르면 지난 회계연도 클라이언트솔루션그룹(CSG) 전체 매출은 146억달러로 전년 동기 대비 17% 증가했다. 이 가운데 기업용 업무기기인 커머셜 클라이언트 매출은 130억달러로 18% 늘었다.
델 측은 IDC 자료를 인용해 올해 2분기 국내 기업용 PC 시장에서 4위를 기록했으며, 기업용 데스크톱 부문에서는 국내외 업체를 통틀어 1위를 차지했다고 밝혔다.
최근 메모리 수급난에 따른 PC 가격 상승은 변수다. 메모리 가격 상승으로 기업들이 PC 교체 주기를 늘리거나 고성능 AI PC보다 가격을 우선할 수 있다는 지적에 델 측은 "부품 원가 변동이 제품 가격에 당연히 영향을 미칠 수 있다"고 말했다.
이어 "시장 변동성을 고객들에게 그대로 전가하기보다는 공급망을 최적화하고 운영 효율화를 통해서 그 영향을 최소화하기 위해 지속적으로 노력하고 있다"고 했다.
◇ SK하이닉스 "에이전트 AI 시대, 메모리도 위로 쌓아야"
AI 활용이 늘면서 데이터센터 내부의 메모리 구조도 변화할 전망이다. 이날 기조연설에 나선 주영표 SK하이닉스 부사장은 에이전트 AI 확산으로 기존 고대역폭메모리(HBM)를 고도화하는 것만으로는 장기적으로 AI의 데이터 처리 수요를 따라가기 어려울 것으로 내다봤다.
주 부사장은 "HBM을 갖고 지금처럼 계속 잘하면 충분히 좋은 성능을 공급할 수 있느냐고 하면 불행히도 그렇지는 않을 것 같다"며 "에이전트 AI 때문"이라고 말했다.
현재처럼 GPU 주변에 HBM을 평면으로 배치하는 방식은 공간적 제약이 있는 만큼 향후에는 메모리를 수직으로 쌓아 대역폭을 확대해야 한다는 설명이다.
주 부사장은 "대역폭을 면적에 비례해 증가시키는 거의 유일한 답은 미래에는 쌓는 것이라고 생각한다"고 말했다.
다만 발열 문제는 해결해야 할 과제로 꼽았다. GPU 자체의 발열이 큰 상황에서 그 위에 메모리를 여러 층 적층하면 열 관리가 어려워지는 만큼 메모리 기업뿐 아니라 서버와 냉각 등 시스템·인프라 업체와의 협력이 필요하다는 설명이다.
주 부사장은 "SK하이닉스는 풀스택 메모리 크리에이터를 지향하고 있지만 이를 혼자 할 수 있다고 생각하지 않는다"며 "제품을 연구개발하는 단계부터 고객과 함께 준비하고 생태계를 만들어나갈 것"이라고 말했다.
델은 이날 AI와 모던 데이터센터, 모던 워크플레이스 등 3개 트랙에서 총 25개 세션을 진행했다. AMD와 인텔, 마이크로소프트, 엔비디아, 삼성SDS, SK하이닉스 등 국내외 기업과 총판·협력사 43개사가 참여했다.