국내 소버린 AI 풀스택 동맹 결성, 과잉투자 우려 속 효율화 경쟁 가열

국내 소버린 AI 풀스택 동맹 결성, 과잉투자 우려 속 효율화 경쟁 가열
이해를 돕기 위해 인공지능(AI)을 통해 생성된 이미지입니다.

Key Takeaways

  • 오케스트로·퓨리오사AI 등 5개사, NPU 기반 통합 AI 인프라 공동 개발 MOU 체결
  • 가트너, 2030년 AI 인프라 투자 회수 불가 경고…네오클라우드 80% 도산 전망
  • 래블업, GPU 활용률 30% 비효율 해결 솔루션 앞세워 코스닥 상장 추진
  • 딥시크, 저가 검색·페치 API 출시로 글로벌 개발자 시장 공략 가속

Background & Context

글로벌 AI 인프라 시장은 막대한 자본 투입과 수익성 불확실성이 공존하는 격변기에 접어들었다. 엔비디아 GPU 중심의 하드웨어 독주 체제가 고착되는 가운데, 데이터 주권과 공급망 리스크를 의식한 '소버린 AI' 수요가 급부상하고 있다. 특히 한국 시장에서는 공공·민간 부문의 해외 기술 의존도 탈피를 위한 국산 기술 기반 통합 인프라 구축 움직임이 뚜렷해지고 있다.

반면, 글로벌 컨설팅 및 리서치 기관들은 AI 데이터센터 투자 규모가 수익 창출 능력을 크게 상회할 것이라는 경고음을 높이고 있다. 가트너와 베인앤드컴퍼니는 2030년까지 AI 인프라에 투입된 자본 회수가 어려운 구조적 불일치를 전망하며, 과도한 투자가 산업 전체의 건전성을 위협할 수 있다고 지적한다. 이러한 맥락에서 하드웨어 자체의 성능 경쟁을 넘어, 기존 인프라의 효율성을 극대화하는 소프트웨어 중심의 접근법과 국산 기술 기반의 통합 솔루션이 새로운 경쟁 축으로 부상하고 있다.

Key Developments

국내 AI 생태계는 19일 오케스트로 클라우드, 퓨리오사AI, 업스테이지, 에스피케이인크(SPK), 대원씨티에스가 'NPU 기반 소버린 AI 풀스택 상품 공동 개발'을 위한 업무협약(MOU)을 체결하며 화두를 던졌다. 이 협력은 AI 반도체부터 LLM, 클라우드 플랫폼, 서버·데이터센터까지 단일 환경으로 결합해 해외 GPU 및 클라우드 기술 의존도를 낮추는 것이 핵심 목표다. 5개사는 개별 기술 공급을 넘어 인프라 구축부터 운영·관리까지 지원하는 '소버린 AI 풀스택 어플라이언스'를 공동 개발하고 사업화할 계획이다.

동시에 AI 인프라 과잉투자 우려가 현실화되는 시점에서, 소프트웨어 기반 효율화 기업들의 움직임도 빨라졌다. 래블업은 11월 코스닥 상장을 앞두고 기자간담회를 열고, 하드웨어를 직접 보유하지 않고 기존 인프라 활용률을 높이는 소프트웨어 사업으로 투자 변동성을 완충하는 전략을 밝혔다. 신정규 래블업 대표는 "AI 인프라에 대한 과도한 투자가 문제를 가져오지 않겠느냐는 질문에, 우리는 하드웨어 투자 변동성을 완충하는 위치에 있다"며, 수천 개의 GPU를 연결한 대규모 학습 환경에서 발생하는 장애와 비효율을 자체 기술로 해결하는 것이 경쟁력이라고 강조했다.

글로벌 시장에서는 중국 딥시크(DeepSeek)가 저가 공세로 개발자 생태계 잠식에 나섰다. 딥시크는 웹 검색과 문서 수집 기능을 외부 개발 환경에서 활용할 수 있는 검색 API와 페치 API를 출시하며, 성공 요청 1,000건당 0.75달러라는 공격적인 가격을 제시했다. 이는 기존 AI 개발 도구와의 연동을 통해 글로벌 개발자 대상 AI 인프라 시장에서의 점유율 확대를 노리는 전략으로 풀이된다.

Technical Deep Dive

이번에 발표된 '소버린 AI 풀스택 어플라이언스'의 기술적 핵심은 이기종 하드웨어와 소프트웨어의 통합 오케스트레이션에 있다. 기존 AI 인프라 구축은 반도체, 서버, 클라우드 플랫폼, AI 모델 등을 개별 도입 후 연동해야 하는 복잡성을 내포하고 있었다. 오케스트로 클라우드는 이러한 단점을 해소하기 위해 자사의 서버 가상화 솔루션과 클라우드 플랫폼을 제공하며, 퓨리오사AI의 NPU, 업스테이지의 LLM, SPK와 대원씨티에스의 서버·데이터센터 인프라를 하나의 환경에서 통합 검증하는 역할을 맡는다. 이는 단순한 기술 제휴가 아닌, 고객이 별도 준비 없이 AI 서비스를 도입·운영할 수 있는 '풀스택' 상품화를 지향한다.

래블업이 강조하는 기술적 차별점은 'GPU 분할 가상화'와 'AI 워크로드 오케스트레이션'이다. AI 인프라는 CPU 중심의 일반 IT 인프라와 달리, 수백 대의 서버에 장착된 수천 개의 GPU가 장시간 가동되며 막대한 열과 전력을 발생시키고 장애 발생이 일상화된다. 래블업의 '백엔드닷에이아이(Backend.AI)'는 엔비디아, AMD, 인텔 GPU뿐 아니라 국산 NPU 등 11종 이상의 이기종 AI 가속기를 단일 플랫폼에서 관리한다. 특히 하드웨어 고장이나 네트워크 지연 시 자동 장애 복구와 자원 재할당을 통해 자원 활용률을 30% 수준에서 극대화하는 기술이 핵심이다. 이는 특정 반도체 제조사에 종속되지 않는 호환성을 제공하며, 온프레미스와 클라우드 환경을 아우르는 통합 운영 체계를 구현한다.

딥시크의 API 출시 역시 기술적 접근 방식의 변화를 보여준다. 검색 API는 딥시크의 독자 검색 엔진을 활용해 웹 정보를 찾고, 페치 API는 특정 URL의 내용을 마크다운 형식으로 수집한다. 이 두 API는 AI 처리 과정에 필요한 컨텍스트를 효율적으로 수집해 후속 요약·분석 작업에 연결하는 파이프라인을 제공한다. 이는 AI 모델 자체의 성능뿐 아니라, 모델이 외부 정보를 획득하고 처리하는 인프라 구조의 효율성을 경쟁력으로 삼는 사례다.

Market & Industry Impact

AI 인프라 시장은 '과잉투자'와 '효율화'라는 두 가지 축으로 재편되고 있다. 가트너는 2030년까지 AI 데이터센터 운영 기업이 자본 지출과 금융 비용을 충당하려면 8조 5,000억 달러의 수익이 필요하지만, 실제 기업 및 사용자 대상 AI 수익은 최대 3조 6,000억 달러에 그칠 것으로 전망했다. 이 격차는 특히 재정적 유연성이 낮은 네오클라우드 사업자에게 치명타로 작용할 전망이다. 가트너는 네오클라우드 사업자의 80% 이상이 비용 압박을 이기지 못하고 독립 운영을 중단할 것이라고 분석했다. 이는 하이퍼스케일러 중심의 시장 집중도를 높이고, 소규모 인프라 제공자의 생존 전략을 하드웨어 보유에서 소프트웨어 최적화로 전환시키는 계기가 될 것이다.

국내 시장에서는 '소버린 AI'가 공공·민간 부문의 필수 요구사항으로 자리매김하고 있다. 오케스트로와 퓨리오사AI 등의 협력은 데이터 주권과 운영 통제권을 확보하려는 수요를 충족시키며, 해외 GPU 독점 구조를 깨는 대안으로 부상할 수 있다. 이는 국내 AI 반도체 및 소프트웨어 기업들의 시너지 효과를 극대화하고, 글로벌 공급망 리스크에 대한 대응력을 강화하는 산업적 파급력을 가진다.

투자자 관점에서는 하드웨어 중심의 밸류에이션 재조정이 불가피해 보인다. 래블업의 경우, 하드웨어 자산이 없는 소프트웨어 기업으로서의 안정성을 강조하며 코스닥 상장을 추진한다. 이는 AI 인프라 투자가 하드웨어 매입에서 운영 효율성 및 통합 관리 소프트웨어로 무게중심이 이동하고 있음을 시사한다. 딥시크의 저가 API 전략은 글로벌 AI 서비스 가격 경쟁을 촉발시켜, 수익성 확보가 어려운 AI 인프라 사업자들의 마진 압박을 가중시킬 가능성이 크다.

Outlook & What to Watch

향후 AI 인프라 시장은 하드웨어 성능 경쟁을 넘어, 통합 운영 효율성과 데이터 주권 확보 여부가 핵심 경쟁력이 될 전망이다. 오케스트로와 퓨리오사AI 등 5개사의 '소버린 AI 풀스택 어플라이언스'가 실제 상용화되어 공공·민간 기관에 도입되는 시점과 성과가 중요한 관전 포인트다. 국산 NPU와 LLM의 성능이 해외 GPU 대비 얼마나 경쟁력을 갖추었는지, 그리고 통합 환경에서의 안정성이 검증되는지가 향후 국내 AI 인프라 시장의 판도를 결정지을 것이다.

래블업의 코스닥 상장 후 주가 변동성과 글로벌 시장에서의 '백엔드닷에이아이' 점유율 확대 여부도 주목해야 한다. AI 인프라 과잉투자 우려가 현실화되면서, 하드웨어 의존도가 낮고 운영 효율성을 높이는 소프트웨어 기업들의 가치가 재평가될 수 있다. 또한, 딥시크의 저가 API 전략이 글로벌 개발자 생태계에 미치는 영향과, 이에 따른 기존 AI 검색·페치 서비스 제공자들의 가격 정책 변화도 지켜볼 필요가 있다.

가트너와 베인이 경고한 2030년 투자 회수 불일치 시나리오는 AI 인프라 산업의 구조적 조정으로 이어질 수 있다. 네오클라우드 사업자의 도산 가능성과 하이퍼스케일러의 시장 지배력 강화는 향후 클라우드 시장 지형을 바꿀 변수다. 개발자와 IT 실무자 입장에서는 특정 하드웨어에 종속되지 않는 이기종 지원 플랫폼의 중요성이 커질 것이며, 투자자 입장에서는 하드웨어 자산보다 소프트웨어 기반의 운영 효율화 기술과 데이터 주권 확보 역량을 갖춘 기업에 대한 선별적 접근이 요구된다.

교차 인용된 언론 보도

이 브리핑은 인공지능(AI) 모델이 최근 24시간의 국내외 테크 매체 보도를 종합 분석하여 작성했습니다. 매체의 보도 내용과 논조를 바탕으로 하였으며, 주요 출처와 원문 기사는 위 목록에서 확인하실 수 있습니다.

댓글