국가AI컴퓨팅센터는 정부와 민간이 함께 설립하는 초대형 고성능 컴퓨팅(HPC)·GPU 인프라로, 기업·대학·연구소·스타트업에 초거대 AI 개발용 연산 자원을 제공하는 국가 단위 ‘AI 고속도로’이자 공용 인프라다.
개념과 추진 배경
국가AI컴퓨팅센터는 과학기술정보통신부가 주도해 민·관 합작 특수목적법인(SPC) 형태로 구축·운영하는 초고성능 AI 인프라다. 초거대 언어모델(LLM), 생성형 AI, 대규모 데이터 분석 등에서 요구되는 막대한 GPU·HPC 자원을 국가가 일정 부분 공동으로 마련해 연구자와 기업이 공동 활용하는 것이 핵심 구상이다. 그 배경에는 AI 학습에 들어가는 컴퓨팅 비용이 급증하면서 국내 대학·연구소·스타트업·중소기업이 자체적으로 H100·B200급 GPU 수천~만 장 규모의 인프라를 갖추기 어렵다는 현실이 깔려 있다.
정부는 AI를 반도체·배터리처럼 전략산업이자 국가전략기술로 보고, “AI 고속도로를 깔아야 AI 3대 강국(AI G3)로 도약할 수 있다”는 판단 아래 국가 차원의 공용 센터 구축을 2025년 업무계획에 공식 포함했다. 특히 미국·중국·유럽이 이미 대규모 공공·민간 AI 슈퍼컴을 앞세워 초거대 모델 경쟁을 본격화한 상황에서, 한국도 자체 연산 인프라를 확보하지 못하면 글로벌 AI 생태계에서 종속될 수 있다는 위기의식이 강하게 작용하고 있다.
설립 목적과 정책적 목표
국가AI컴퓨팅센터의 직접적인 목적은 대규모 AI 연구·서비스 개발에 필요한 GPU·HPC 자원을 안정적으로 공급해 국내 AI 생태계 전반의 경쟁력을 끌어올리는 데 있다. 구체적으로는 첫째, 대학·출연연·스타트업·중소기업이 초거대 AI를 연구·실험할 수 있는 저렴한 연산 인프라를 제공해 진입장벽을 낮추는 것이 중요하다. 둘째, 범용·산업특화 LLM, 이른바 ‘한국형 초거대 AI’를 국가 규모로 개발·검증할 수 있는 기반을 마련해 글로벌 빅테크에 뒤지지 않는 모델을 육성하는 것도 목표다. 셋째, 국산 AI 반도체·서버·네트워크 장비를 센터 구축·운영 과정에 적극 반영해 국내 관련 산업의 레퍼런스 시장을 창출하는 산업정책적 효과도 노린다.
정부는 이 센터를 통해 ‘AI 3대 강국 도약’을 지원하겠다는 전략을 분명히 하고 있다. 이를 위해 AI를 국가전략기술로 지정해 세액공제를 강화하고, 1조원 규모 범용 AI 개발사업, 정책펀드, 정책금융, 해외 거점(뉴욕 글로벌AI프론티어랩 등)과 연계한 스타트업 글로벌 진출 지원까지 패키지로 추진하고 있다. 요약하면 센터 자체가 목적이기보다는, 센터를 매개로 연구·산업·인재·글로벌 진출을 묶어내는 종합 플랫폼을 만들겠다는 구상이다.
인프라 규모와 기술적 구성
인프라 측면에서 국가AI컴퓨팅센터는 1엑사플롭스(EF)급 연산 성능을 단계적으로 확보하는 것을 목표로 하고 있다. 이는 초당 100경 번 연산을 처리할 수 있는 수준으로, H100·H200·B200 등 최신 GPU를 대규모로 집적한 AI 슈퍼컴퓨터급 클러스터에 해당한다. 과기정통부는 2028년까지 첨단 GPU 1만5000장 이상을 확보하고, 2030년까지 지속 확충하겠다는 계획을 밝힌 바 있다. 이러한 규모는 국내 개별 대형 IT기업이 보유한 연산 자원을 상회하거나 최소한 견줄 수 있는 수준을 지향하는 것으로 평가된다.
구성 요소를 보면, 데이터센터 시설, 고밀도 GPU 서버, 초고속 스토리지, 400G급 이상 네트워크 패브릭, 그리고 이를 사용자에게 서비스형 인프라(IaaS·PaaS)로 제공하는 클라우드 플랫폼이 기본 축을 이룬다. 센터는 국가 데이터센터 및 주요 연구망(KOREN 등)과 연동해 전국 주요 거점에서 저지연으로 접속할 수 있도록 설계되며, AI 학습·추론 워크로드를 동시에 수용하기 위한 스케줄러·오케스트레이션 시스템도 도입된다. 또 에너지 효율과 탄소중립 요구를 고려해 고효율 냉각, 전력최적화 설계, 재생에너지 연계 등도 주요 이슈로 거론된다.
추진 구조와 재원 조달
추진 구조의 핵심은 민·관 합작 특수목적법인(SPC)이다. 정부는 초기 ‘마중물’ 투자와 정책금융, 수요 연결(공공 연구과제, 범용 AI 사업 등)을 제공하고, 민간은 데이터센터·클라우드·통신·반도체 기업을 중심으로 자본과 운영 노하우를 제공하는 구조다. 과기정통부는 국가AI컴퓨팅센터 구축을 위해 2025년에만 약 498억원의 예산을 투입하고, 긴급한 수요는 민간 클라우드를 통해 우선 지원한다는 계획을 제시했다. 전체 사업비는 민·관 출자와 정책금융 대출 등을 포함해 2조원 이상 규모로 제시되며, 장기적으로는 수익자 부담(사용료)과 추가 민간 투자로 운영을 지속하는 모델이 검토되고 있다.
사업은 2025년 ‘국가 AI 컴퓨팅센터 구축 실행계획’ 확정과 함께 본격화됐고, 2조원 규모의 구축 사업에 참여할 민간 기업 공모도 진행됐다. 정부는 SPC를 통해 연산 자원을 순차 구축하면서, 실제 컴퓨팅 서비스는 연내 조기 개시, 물리적 센터 개소는 2027년을 목표로 로드맵을 제시하고 있다. 2026년 초 CES 2026에서 나온 발언에 따르면 2026년 4월 1일 SPC를 설립하고, 7월 중 실제 센터 건설에 착공하는 일정을 가정하고 있다. 이런 일정이 유지된다면, 완전한 물리 센터 개소 전에도 일부 클라우드·분산형 서비스는 단계적으로 제공될 가능성이 크다.
주요 기능과 기대되는 역할
국가AI컴퓨팅센터의 1차 기능은 AI 연구개발용 연산 자원 제공이다. 기업과 연구자는 센터의 GPU 클러스터에 원격 접속해 초거대 언어모델 학습, 멀티모달 모델 실험, 대규모 데이터 마이닝, 시뮬레이션 등 고부하 작업을 수행할 수 있다. 이 과정에서 클라우드 기반 자원 예약·과금 시스템을 활용해 연구과제별로 필요한 만큼의 자원을 동적으로 할당받는 구조가 도입된다. 두 번째 기능은 공공·민간 데이터를 통합·정제·가공해 제공하는 데이터 허브이자 공유 플랫폼 역할이다. 공공 데이터, 산업 데이터, 학습용 데이터셋을 모아 품질을 관리하고, 데이터 거버넌스를 구축해 윤리적·신뢰할 수 있는 AI 개발을 뒷받침한다.
또 다른 핵심 역할은 인력 양성과 산학연 협력이다. 센터를 기반으로 ‘국가 AI 아카데미’와 같은 교육 프로그램을 운영하고, 기업·대학 연계 교육·인턴십·공동 연구를 통해 고급 AI 엔지니어·연구자를 양성하는 구상이 제시된다. 이와 함께 국산 AI 반도체 시범적용, 글로벌 빅테크와의 공동 R&D, 국내 AI 스타트업의 PoC 테스트베드 제공 등 산업 생태계 전반에 영향을 미치는 플랫폼으로 기능할 것으로 기대된다. 정부는 이를 통해 연구개발 속도와 성공 확률을 높이고, 국내 AI 서비스 기업들이 글로벌 시장에 진출하는 데 필요한 기술·레퍼런스 기반을 제공할 수 있다고 보고 있다.
논의 지점과 향후 쟁점
국가AI컴퓨팅센터는 AI 인프라 측면에서 필수적이라는 평가와 함께, 막대한 예산과 민간 투입이 필요한 만큼 사업 구조와 지속 가능성에 대한 비판적 논의도 병존한다. 특히 두 차례 사업이 유찰된 전례가 있는 만큼, 민간 투자 조건 완화, 수익모델, 요금체계, 기술 리스크 분담 등을 어떻게 설계하느냐가 성공 여부를 가를 쟁점으로 떠오르고 있다. 또 특정 대형 사업자 중심으로 구조가 짜일 경우, 공정경쟁과 중소·스타트업 접근성, 국산 장비와 해외 장비 간 균형 등도 논란이 될 수 있다.
한편, 해외에서는 이미 거대 빅테크가 자체 AI 슈퍼컴을 통해 글로벌 표준을 선도하고 있기 때문에, 한국형 국가센터가 얼마나 차별화된 가치와 경쟁력을 확보할 수 있을지도 과제다. 그 답은 단순한 ‘규모 경쟁’이 아니라, 한국어·산업 특화 데이터, 규제 샌드박스, 공공·의료·제조 등 특정 도메인에 특화된 실증 생태계를 얼마나 정교하게 설계하느냐에 달려 있다는 지적이 많다. 결국 국가AI컴퓨팅센터는 인프라·정책·산업전략이 교차하는 복합 프로젝트로, 실제 착공과 개소 이후 운영 과정에서 거버넌스, 가격정책, 개방성, 데이터·보안 이슈 등을 둘러싼 논의가 본격화될 가능성이 크다.