케이투스, 잠자던 GPU를 깨워 70%까지 풀파워 가동! - 뉴스 이모저모

케이투스, 잠자던 GPU를 깨워 70%까지 풀파워 가동! '모투스AI'의 혁신적인 지능형 최적화 기술, AI 인프라 시장의 판도를 바꾼다 [테크체인저]

인공지능(AI) 시대, 마치 숨 쉬는 공기처럼 자연스럽게 우리 곁에 다가온 듯하지만, 그 이면에는 엄청난 컴퓨팅 자원과 복잡한 기술적 과제가 숨겨져 있습니다. 특히 AI 모델 학습과 추론에 필수적인 고성능 그래픽처리장치(GPU)는 천문학적인 비용을 자랑하며, 기업들은 이 GPU 자원을 어떻게 하면 효율적으로 활용하고 관리할 수 있을지 머리를 싸매고 고민하고 있죠. 마치 금싸라기 땅을 사놓고 제대로 활용하지 못하는 갑갑한 심정과 비슷할까요?

바로 이러한 AI 인프라 시장의 난제를 해결하기 위해 등장한 구원투수가 있습니다. 바로 데이터센터 풀스택 솔루션 기업, 케이투스(K2)입니다. 케이투스는 단순히 하드웨어를 판매하는 것을 넘어, 소프트웨어와 솔루션을 융합하여 AI 인프라의 효율성을 극대화하는 혁신적인 전략을 제시하고 있습니다. 마치 노련한 농부가 척박한 땅을 비옥하게 만들어 풍성한 수확을 가능하게 하는 것처럼 말이죠.

최근 <블로터>와의 인터뷰에서 케이투스 코리아의 김한석 채널 비즈니스 총괄 부사장은 케이투스의 지능형 AI 플랫폼 '모투스AI'를 통해 GPU 효율을 획기적으로 개선할 수 있다고 자신 있게 밝혔습니다. AI 도입에 적극적인 기업들이 늘어나는 만큼, 고가의 GPU 서버를 얼마나 효율적으로 활용하고 관리하느냐가 기업의 핵심 경쟁력으로 떠오르고 있는 상황에서, 케이투스의 솔루션은 가뭄의 단비와 같은 존재가 될 수 있을 것으로 보입니다.

데이터센터 풀스택 솔루션으로 승부수를 던지다

케이투스는 클라우드, AI, 에지 컴퓨팅 등 다양한 최첨단 인프라 제품을 공급하는 글로벌 기업입니다. 싱가포르에 본사를 두고 전 세계 10개의 지사와 미국, 베트남, 대만에 4개의 제조 시설을 운영하며, 데이터센터에 필요한 모든 것을 제공하는 풀스택 솔루션 기업으로 입지를 굳히고 있습니다.

'케이투스'라는 이름은 세계에서 가장 오르기 힘든 산으로 꼽히는 'K2'에서 따왔다고 합니다. 이는 높은 목표를 향해 끊임없이 도전하고 혁신을 추구하는 케이투스의 기업 정신을 잘 보여주는 대목입니다. 마치 에베레스트를 정복하겠다는 불굴의 의지처럼, 케이투스는 AI 인프라 시장의 혁신을 이끌겠다는 야심찬 포부를 품고 있는 것이죠.

데이터센터 풀스택 솔루션이란, 컴퓨팅, 스토리지, 네트워크 등 하드웨어는 물론, 이를 관리하는 소프트웨어 및 솔루션까지 인프라의 모든 구성 요소를 통합적으로 제공하는 것을 의미합니다. 마치 레고 블록처럼, 고객은 케이투스의 솔루션을 활용하여 필요에 따라 자유롭게 데이터센터를 구축하고 운영할 수 있습니다.

22년 넘게 IT 업계에 몸담아온 베테랑인 김한석 부사장은 EMC에서 스토리지 전문가로 10년 이상 근무했고, 이후 델 테크놀로지스에서 파트너 및 솔루션 영업을 담당했습니다. AI 시장의 폭발적인 성장을 예감하고 케이투스에 합류한 그는, 2023년 연간 매출을 120% 이상, 올해 상반기에는 150% 넘게 끌어올리며 케이투스의 성장을 견인하고 있습니다. 마치 노련한 항해사가 거친 파도를 헤치고 배를 안전하게 목적지까지 이끄는 것처럼, 김 부사장은 케이투스를 성공의 궤도로 올려놓고 있는 것이죠.

'모투스AI', GPU 활용률을 40%에서 70%까지! 마법 같은 비결은?

기업들이 AI 인프라를 구축할 때 가장 어려움을 겪는 부분은 불확실성입니다. 어떤 GPU를 사야 하는지, AI 전문가가 없는데 장애가 발생하면 어떻게 대처해야 하는지, 고가의 자원을 효율적으로 활용할 수 있을지에 대한 현실적인 문제에 직면하게 되는 것이죠. 마치 미지의 세계를 탐험하는 탐험가처럼, 기업들은 AI 인프라 구축이라는 험난한 여정에서 수많은 난관에 부딪히게 됩니다.

특히 여러 대의 GPU 서버를 묶어 운영하는 클러스터 환경에서는 자원 관리가 더욱 복잡해집니다. 어떤 자원이 일하고 쉬는지, 어디에 분배할지를 파악하기가 어렵기 때문입니다. 마치 거대한 오케스트라를 지휘하는 지휘자처럼, AI 관리자는 수많은 GPU 자원을 효율적으로 관리하고 운영해야 하는 어려움을 겪게 됩니다.

케이투스는 이러한 어려움을 해결하기 위해 '모투스AI'라는 AI 개발·운영(MLOps) 솔루션을 개발했습니다. 김 부사장은 "모투스AI는 한정된 고비용의 GPU 자원을 효율적으로 사용하고 관리하는 데 초점을 맞췄다"고 강조합니다. 모투스AI는 통상 40% 언저리인 GPU 활용률을 70% 이상까지 끌어올리는 놀라운 성능을 자랑합니다. 마치 잠자고 있던 거인의 힘을 깨우는 것처럼, 모투스AI는 GPU의 숨겨진 잠재력을 최대한으로 끌어올리는 것이죠.

그렇다면 모투스AI는 어떻게 GPU 활용률을 높일 수 있을까요? 그 핵심 비결은 바로 지능형 자원 최적화에 있습니다. 일반적으로 개발자들은 GPU 자원을 독점적으로 할당받아 사용하는데, 실제 작업이 끝난 후에도 다른 사용자가 해당 자원에 접근할 수 없어 비효율이 발생합니다. 마치 빈 강의실을 계속해서 잠가두는 것처럼, GPU 자원이 낭비되는 상황이 발생하는 것이죠.

모투스AI는 자원 풀링, 스케줄링, 통합 관리, 자동화 장애 발생 시 복구 체계를 통해 이러한 문제를 해결합니다. 마치 스마트 교통 시스템처럼, 모투스AI는 GPU 자원을 효율적으로 관리하고 분배하여 전체적인 활용률을 극대화합니다.

모투스AI, GPU 자원 관리를 넘어 AI 개발 전반을 아우르는 통합 솔루션

모투스AI는 GPU와 중앙처리장치(CPU) 코어, 메모리 등 컴퓨팅 자원을 통합하여 관리합니다. 특히 '탄력적 공유' 기능은 자원을 작업 수에 따라 할당하여 단일 GPU가 최대 64개의 작업을 지원하도록 합니다. 마치 여러 개의 방을 가진 아파트처럼, 하나의 GPU를 여러 개의 작업 공간으로 나누어 사용할 수 있도록 하는 것이죠.

'정교한 공유' 기능은 GPU 메모리를 최소 1기가바이트(GB)로 세분화하고, 이를 기반으로 자원을 나누어 사용자별로 독립적인 환경을 만듭니다. 마치 개인 맞춤형 사무 공간처럼, 각 사용자는 자신에게 필요한 만큼의 GPU 자원을 할당받아 독립적으로 작업을 수행할 수 있습니다.

또한 모투스AI는 엔비디아의 '멀티인스턴스GPU(MIG)' 기능을 활용하여 물리적으로 하나인 GPU를 여러 개의 가상 GPU로 나눌 수 있습니다. 이를 통해 작업 부하 요구 사항에 따라 필요할 때 자원을 할당하고, 사용이 끝나면 자동으로 반납하는 방식으로 효율적인 자원 관리가 가능합니다. 마치 필요할 때만 빌려 쓰는 공유 오피스처럼, GPU 자원을 유연하게 활용할 수 있도록 지원하는 것이죠.

모투스AI는 AI 관련 업무의 모든 과정을 통합 관리하고 자동화합니다. 사용자의 데이터 관리부터 훈련(Training), 추론(Inference), 미세 조정 과정인 파인튜닝(Fine-tuning)까지 개발과 배포의 전 과정을 하나의 통합된 사용자 인터페이스(UI)에서 지원합니다. 마치 원스톱 쇼핑몰처럼, AI 개발에 필요한 모든 것을 한 곳에서 해결할 수 있도록 편리성을 제공하는 것이죠.

GPU 서버를 설치하고 운영 체제(OS)와 드라이버, 네트워크 연결 등을 하는 데 통상 반나절에서 하루 정도가 걸리지만, 모투스AI는 자동 환경 설정 기능으로 AI 모델 학습 준비 시간을 획기적으로 단축합니다. 마치 즉석밥처럼, 간편하게 AI 모델 학습 환경을 구축할 수 있도록 지원하는 것이죠.

장애가 발생해 오랫동안 진행해 온 작업이 한순간에 날아가는 문제도 예방합니다. GPU 서버는 통상 10대 중 1대꼴로 장애가 발생하고, 하루에도 드라이브 충돌 같은 문제가 빈번하게 발생합니다. 한 달을 돌리던 작업이 중간에 장애가 생기면 처음부터 다시 돌려야 하는 치명적인 불상사가 발생할 수 있습니다. 마치 공든 탑이 무너지는 것처럼, 장시간의 노력이 물거품이 되는 상황을 막을 수 있도록 돕는 것이죠.

모투스AI는 중간에 체크포인트를 찍어 작업 진행 상황을 주기적으로 저장하고, 장애가 발생하면 해당 지점에서 복구해 작업을 이어갈 수 있게 해줍니다. 마치 게임에서 세이브 포인트를 저장하는 것처럼, 언제든지 이전 상태로 돌아갈 수 있도록 안전성을 확보하는 것이죠.

통합 솔루션의 경쟁력, 그리고 한국 시장 공략 전략

김 부사장은 "직접 개발한 AI 서버에 전용 솔루션을 통합해 공급하는 업체는 케이투스가 유일하다"고 강조합니다. 통합 솔루션은 초기 구축, 운영 시간을 줄이고 각종 비용을 통합하기 때문에 가격 경쟁력도 확보합니다. 마치 맞춤 정장처럼, 고객의 니즈에 최적화된 솔루션을 제공하여 만족도를 높이는 것이죠.

물론 고객이 필요에 따라 다른 공급업체의 서버에 모투스AI를 적용할 수도 있습니다. 케이투스는 유연한 비즈니스 모델을 통해 고객의 다양한 요구에 부응하고 있습니다. 마치 레고 블록처럼, 고객은 케이투스의 솔루션을 기존 시스템과 자유롭게 결합하여 사용할 수 있습니다.

한국 시장에서 케이투스는 사업 확장을 지속하고 있습니다. 김 부사장은 "한국 고객들은 까다로운 스펙을 요구하는 경향이 있지만, 이에 맞춰주는 유연한 대응으로 빠른 성장을 이뤘다"고 밝혔습니다. 주요 공략 시장은 GPU를 대규모로 활용하지만 관리가 필요한 제조 분야와 AI 전문가가 부족한 학교와 연구 기관, 적은 자원으로 AI 인프라 확장이 급한 스타트업 등입니다. 마치 맞춤형 컨설팅처럼, 케이투스는 각 고객의 상황에 맞는 최적의 솔루션을 제공하여 성공적인 AI 도입을 지원합니다.

아직 수요가 많지 않지만, 우리나라 신경망처리장치(NPU)를 탑재한 AI 서버를 찾는 고객 수요에 대비해 주요 기업들과 검증 작업을 완료했습니다. 현재 국내 팹리스(반도체 설계기업) 딥엑스와 AI 서버 분야에서 협력하고 있습니다. 마치 미래를 예측하는 예언가처럼, 케이투스는 차세대 AI 기술 트렌드를 예측하고 선제적으로 대응하고 있습니다.

김 부사장은 "케이투스는 하드웨어와 소프트웨어, 액체 냉각까지 데이터센터 구축에 필요한 모든 인프라를 제공하는 회사"라며 "모투스AI 트라이얼 버전을 제공하고 있으니, 관심 있는 고객들이 직접 케이투스의 기술력을 경험해 보고 도입을 결정할 수 있도록 적극 지원하겠다"고 밝혔습니다. 마치 맛보기 음식을 제공하는 것처럼, 케이투스는 고객들에게 모투스AI의 뛰어난 성능을 직접 체험해 볼 수 있는 기회를 제공하고 있습니다.

결론적으로, 케이투스의 모투스AI는 AI 인프라 시장의 판도를 바꿀 혁신적인 솔루션으로 평가받고 있습니다. GPU 활용률을 극대화하고, AI 개발 과정을 자동화하며, 장애 발생 시에도 안전하게 작업을 복구할 수 있도록 지원하는 모투스AI는 기업들이 AI 경쟁력을 확보하는 데 필수적인 도구가 될 것입니다. 마치 AI 시대의 만능열쇠처럼, 모투스AI는 기업들이 AI 혁신을 향해 나아가는 데 든든한 조력자가 되어줄 것입니다.