엘리스그룹, 'AI 풀스택' 전략 공개... K-PMDC로 인프라 자립화 이끈다

인공지능(AI) 기술이 단순 대화를 넘어 스스로 과업을 수행하는 '지능형 에이전트'로 이동하고 있다. 이러한 변화 속에서 국내 AI 스타트업 엘리스그룹이 하드웨어 인프라부터 소프트웨어 솔루션, 교육까지 아우르는 'AI 풀스택' 전략을 내놓으며 시장 대응에 나섰다.

엘리스그룹은 15일 오전 서울 강남구 본사에서 'Elice IMPACT 2026: AI 풀스택 가능성의 확장' 기자간담회를 개최했다. 이날 간담회에서 김재원 엘리스그룹 대표는 에이전트 시대에 필수적인 인프라 자립화 방안과 함께 구체적인 기업 성장 로드맵을 발표했다.

에이전트 시대, 인프라가 곧 기업 생존의 조건

김재원 대표는 환영사를 통해 현재 AI 산업이 모델의 성능 경쟁에서 컴퓨팅 인프라의 효율성 경쟁으로 전환되고 있음을 짚었다. 과거에는 거대 언어 모델(LLM)의 매개변수 규모가 중요했다면, 이제는 이를 얼마나 안정적이고 낮은 비용으로 운영하느냐가 핵심이라는 설명이다.

특히 김 대표는 2024년을 '에이전트 기술의 원년'으로 정의하며, 2026년까지 산업 전반에 에이전트 도입이 폭발적으로 증가할 것으로 내다봤다. 지능형 에이전트는 사용자의 복잡한 요구를 추론하고 도구를 활용해 해결하기 때문에 기존 챗봇보다 훨씬 막대한 컴퓨팅 자원을 필요로로 한다.

실제 엘리스그룹의 분석 결과에 따르면, 에이전트는 동일한 과업을 수행할 때 단순 챗봇보다 토큰 소비량이 최소 5배에서 많게는 30배까지 늘어나는 것으로 나타났다. 정교한 추론 모델의 경우 연산 능력이 최대 83배까지 요구되기도 한다. 이는 인공지능을 학습시키는 비용보다 실제 구동하고 추론하는 데 드는 비용이 더 커지는 시대로의 진입을 의미한다.

김 대표는 이를 '에이전트 시대의 토큰 경제학'이라 명명하며, 공급이 수요를 따라가지 못하는 인프라 병목 현상이 발생하고 있다고 진단했다. 기업들이 AI 도입으로 매출 성장과 비용 절감을 꾀하고 있지만, 확장 가능하고 안전한 인프라를 확보하지 못하면 이러한 혁신이 지속되기 어렵다는 시각이다.

보안 문제에 대한 경고도 잊지 않았다. 에이전트는 기존 챗봇보다 더 많은 시스템 권한을 부여받아 자율적으로 동작하므로 데이터 유출이나 권한 상승 등 보안 위협에 노출될 가능성이 크다. 김 대표는 보안 체계가 미비한 에이전트 배포를 위험 요소로 규정하며, AI에 최적화된 보안 인프라 구축의 중요성을 역설했다.

3개월 만에 구축이 가능한 국산 데이터센터 'K-PMDC'

엘리스그룹은 인프라 병목 문제를 해결하기 위한 카드로 국산 기술 기반의 'K-PMDC(Portable Modular Data Center)'를 제시했다. 기존 건물형 데이터센터가 완공까지 2~5년이 소요되는 것과 달리, 모듈형은 부지 조성과 제작을 병렬로 진행해 약 3개월 만에 구축할 수 있는 것이 특징이다.

또한 이미 랙당 230kW의 고전력을 요구하는 엔비디아의 차세대 GPU '베라 루빈(Vera Rubin) NVL72'를 지원할 수 있는 PMDC 설계를 마쳤기에 고밀도 전력 환경에서도 안정적인 운영이 가능한 인프라 설계 역량 가지고 있다고 밝혔다.

냉각 효율 극대화도 PMDC의 핵심 기술 중 하나인 아시아 최초로 수랭식(Direct Liquid Cooling) 냉각 기술을 도입한 데 이어, 2026년에는 따뜻한 물을 활용한 냉각 방식(Warm Water DLC)을 도입할 계획이다. 이를 통해 데이터센터 전력 효율 지수(PUE)를 기존 국내 평균인 2.3에서 1.1 수준까지 낮추겠다는 목표를 밝혔다.

네트워크 측면에서는 아리스타네트웍스와 협력해 이더넷 기반의 대규모 클러스터링 기술을 구현했다. 고비용의 인피니밴드 대신 개방형 표준인 이더넷(RoCEv2)을 활용해 만 장 규모의 GPU를 하나로 묶는 환경을 실증했다. 실측 결과 이더넷 방식이 분산 학습 및 추론에서 대등한 성능을 보여, 기업들의 비용 부담을 획기적으로 줄일 수 있는 대안이 될 것으로 보인다.

클라우드 플랫폼 ECI와 국내 최초 'GPU 스팟 요금제'

소프트웨어 가상화 기술인 'ECI(Elice Cloud Infrastructure)'는 이러한 하드웨어 인프라를 효율적으로 운용하는 중심축이다. ECI는 엔비디아의 주요 GPU 라인업뿐 아니라 국산 NPU까지 아우르는 독립적인 환경을 제공하며, 대규모 자원 운영에 필수적인 병렬 파일 시스템(PFS)과 GPU다이렉트 스토리지 연동을 지원한다.

성능 지표에서도 경쟁력을 드러냈다. 국가데이터교환노드(NDeX)와의 직접 연동을 통해 데이터 전송 속도를 높였으며, 허깅페이스 모델 다운로드 테스트에서 타 클라우드 서비스 대비 최소 2.4배에서 최대 13.7배 빠른 효율을 기록했다. 이는 모델 실험과 개선을 반복하는 연구 개발 현장에서 실질적인 시간 단축 효과를 제공한다.

특히 주목받은 부분은 국내 CSP 최초로 도입한 'GPU 스팟(Spot) 요금제'다. 클라우드 내 유휴 자원을 활용하는 이 방식은 기존 온디맨드 대비 최대 50% 저렴한 비용으로 고성능 연산 자원을 제공한다. 자원 상황에 따라 가상 머신이 회수될 수 있다는 변수가 있지만, 2분 전 사전 알림과 체크포인팅 가이드를 통해 중단 없는 학습이 가능하도록 보완했다.

엘리스그룹은 안랩, 슈나이더 일렉트릭, LG유플러스 등 국내외 주요 기업들과의 협력을 통해 생태계를 확장하고 있다. 안랩과는 네트워크 보안 체계를, LG유플러스와는 운영 역량 강화를 위해 손을 잡았다. 이러한 파트너십은 국산 AI 인프라의 안정성을 확보하고 국가 단위의 자립적 생태계를 구축하려는 시도로 해석된다.

기업 AX 가속화하는 교육 솔루션과 'Helpy Vision'

엘리스그룹의 뿌리인 교육 역량은 AI 기술과 결합해 기업의 AX(AI 전환)를 돕는 도구로 진화했다. 2025년 한 해 동안 1,079건의 교육을 수행한 엘리스는 기초 리터러시부터 에이전트 개발까지 맞춤형 커리큘럼을 제공하고 있다. 특히 주요 대기업 임원들을 대상으로 한 리더 교육은 실제 사내 문제 해결을 위한 프로젝트 도출로 이어지고 있다.

단계별 프로젝트 기반 학습(PBL) 방식은 사내 데이터를 직접 활용해 실무적인 결과물을 만드는 데 집중한다. 자동차 충돌 이미지 자동 분류나 비정형 데이터 기반의 DB 구축 프로젝트 등은 교육이 단순히 지식 전달에 그치지 않고 기업의 기술 내재화로 연결된 대표적인 사례다.

기술적으로는 비정형 문서 분석 도구인 'Helpy Vision' 라인업이 강조되었다. 기업 내부의 수많은 PDF와 표 이미지를 구조화된 데이터로 변환해 RAG(검색 증강 생성)의 정확도를 높이는 솔루션이다. 특히 복잡한 표, 테이블 뿐 아니라 한글 문서를 인식하는 기술은 내부 테스트 결과 글로벌 범용 모델보다 높은 정밀도를 보이며 현장 활용성을 입증했다.

이러한 모든 역량은 통합 생성형 AI 솔루션인 'AI 헬피챗'에 담겼다. 기업의 데이터 주권을 지키기 위해 프라이빗한 PMDC 환경에서 구동 가능하며, 마케팅 문구 작성이나 수업 지도안 생성 등 각 기관에 맞춘 특화 도구를 통합할 수 있다. 기관 차원의 토큰 사용량 관리 기능도 갖춰 운영의 효율성까지 고려했다.

질의 응답 : 정부 사업 참여와 2026년 IPO 추진 로드맵

질의응답 세션에서는 엘리스그룹의 비즈니스 확장과 재무 전략이 구체적으로 공개되었다. 엘리스그룹은 정부가 추진하는 2조 원 규모의 GPU 확보 및 운용 지원 사업 공모에 참여했다. 김재원 대표는 엘리스가 이미 만 장 규모의 클러스터링 실증을 완료한 만큼, 안정적인 운영 역량을 바탕으로 국가 AI 생태계에 기여할 준비가 되어 있다고 강조했다.

기업 공개(IPO)를 통한 자본 확충 계획도 공식화했다. 고성능 인프라 구축을 위해 대규모 자본 투자가 지속되는 만큼, 상장 시장을 통한 자원 확보를 목표로 준비 중이며 연내 추진을 계획하고 있다. 엘리스그룹의 2025년 매출은 약 400억 원이며, 2026년부터는 클라우드 매출 비중이 교육 분야를 넘어서며 인프라 중심 기업으로의 체질 개선이 가속화될 전망이다.

국산 기술 기반의 '소버린 AI' 인프라 확보에 대한 제언도 있었다. 김 대표는 혁신 기업들이 자생할 수 있는 정책적 보호막의 필요성을 언급하며, 단순 장비 수급을 넘어 전력과 냉각, 소프트웨어 가상화 등 밸류체인 전반에 걸친 균형 있는 투자가 국가 경쟁력을 결정할 것이라고 강조했다.

해외 진출 역시 속도를 낸다. 싱가포르에서의 교육 플랫폼 실증 사례를 바탕으로 K-PMDC의 글로벌 수출을 추진 중이다. 동국홀딩스, GS벤처스 등 전략적 투자자들과 협력해 확보한 전력 인프라 부지는 향후 1GW급 이상의 하이퍼스케일러 데이터센터로 도약하기 위한 발판이 될 것으로 기대된다.

인프라 자립화, AI 강국으로 가는 이정표 제시

엘리스그룹이 이번 간담회에서 발표한 전략은 대한민국 AI 인프라 생태계가 나아가야 할 이정표를 제시했다. 지능형 에이전트의 확산으로 연산 자원의 가치가 급상승하는 시점에, 구축 속도를 혁신한 K-PMDC와 운영 효율을 높인 ECI의 결합은 글로벌 빅테크에 대한 기술 종속을 방어할 수 있는 실무적인 대안을 제시했다.

앞으로의 AI 경쟁은 모델의 성능을 넘어 인프라의 경제성과 보안성에서 승부가 갈릴 가능성이 크다. 엘리스그룹이 보여준 구체적인 기술 로드맵은 국내 기업들이 비용과 보안의 장벽을 넘어 AI 전환을 가속화할 수 있는 토양을 마련했다. 기업 공개와 글로벌 확장을 통해 엘리스그룹이 구축하는 자립적 생태계가 시장의 표준으로 자리 잡을 수 있을지 주목된다.