|
브릭섬, 1MW급 NPU 추론 전용 클라우드 "네오클라우드" 추진
네오클라우드는 NPU 기반 인프라에서 LLM(대규모언어모델) 추론을 전용으로 처리하는 클라우드다. 회사는 우선 1MW 규모로 시작해 6MW, 20MW까지 단계적으로 인프라를 확장할 계획이다.
서비스는 두 가지로 제공된다. 엑사원(EXAONE)·솔라(SOLAR)·GLM·미니맥스(MiniMax) 등 오픈소스 모델을 토큰 단위로 제공하는 토큰 API(응용프로그램 프로그래밍 인터페이스) 서비스와 AI 반도체 탑재 고성능 서버를 통째로 임대하는 베어메탈 서비스다.
네오클라우드는 특정 칩 제조사에 종속되지 않는 벤더 중립 설계를 특징으로 한다. 엔비디아 GPU(그래픽처리장치)에 편중된 기존 인프라와 달리 추론 효율이 높은 NPU를 중심으로 이종 가속기를 함께 운영한다. 회사가 자체 개발한 AI 인프라 운영 자동화 플랫폼 클루마(CLUMA)가 서로 다른 칩 위에서 모델 배치, 장애 대응, 자원 스케줄링을 통합 관리한다.
박종찬 브릭섬 대표는 "오픈소스 모델의 성능이 꾸준히 높아지면서 AI 경쟁의 다음 무대는 누가 더 싸고 안정적으로 토큰을 공급하느냐의 싸움"이라며 "네오클라우드는 NPU와 클루마를 결합해 추론 시대에 필요한 인프라를 국내에서 구현하려는 시도"라고 말했다.
브릭섬은 대규모 AI 인프라 운영 경험을 바탕으로 2025년 4월 설립된 광주 소재 딥테크 스타트업이다. AI 인프라 구축·운영과 이종 NPU·GPU 환경용 운영 소프트웨어를 개발·공급하고 있다.
이두리 기자 ldr5683@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
|
|