|
"AI 모델부터 연산까지 최적화"…노타, 하이퍼엑셀과 2년 연속 계약
AI(인공지능) 모델 최적화 기업 노타가 국내 AI 반도체 스타트업 하이퍼엑셀과 LLM(대규모언어모델) 최적화 기술 공급 계약을 추가로 체결했다. 지난해 9월 첫 계약 이후 두 번째 수주다.
노타는 하이퍼엑셀의 LLM 추론 전용 반도체 '베르다(Bertha) LPU'에 적용할 모델 및 연산 최적화 기술을 공급한다고 12일 밝혔다.
하이퍼엑셀은 LLM 추론에 특화된 AI 반도체를 개발하는 스타트업이다. 이번 계약은 베르다에서 구동할 수 있는 LLM의 종류를 늘리고, 다양한 서비스 환경에서 모델을 효율적으로 실행할 수 있도록 지원하기 위해 추진됐다.
노타는 자체 AI 최적화 플랫폼 '넷츠프레소'를 활용해 베르다의 하드웨어 특성에 맞춰 LLM을 최적화할 계획이다. 하이퍼엑셀의 소프트웨어 개발도구(SDK)와 자체 개발 프로그래밍 언어인 '레가토(Legato)'를 기반으로 모델의 연산 처리 방식을 개선한다.
특히 AI 모델이 연산을 처리하는 방식을 하이퍼엑셀의 반도체 구조에 맞게 조정하고, 연산에 사용되는 데이터의 용량을 줄여 메모리 사용 효율을 높일 계획이다. 이를 통해 하이퍼엑셀은 자사 반도체에서 구동할 수 있는 AI 모델의 종류를 늘리고, 다양한 고객사의 AI 서비스 수요에 대응한다는 구상이다.
이번 계약으로 노타는 AI 모델의 크기를 줄이는 기존 경량화 기술을 넘어, 각 반도체의 특성에 맞게 AI 모델의 실행 환경과 연산을 수행하는 프로그램인 '커널'까지 최적화하는 분야로 사업 영역을 확대하게 됐다. 노타는 그동안 국내외 AI 반도체 기업들과 최적화 기술 공급 계약을 체결하며 GPU(그래픽처리장치), CPU(중앙처리장치), NPU(신경망처리장치) 등 다양한 반도체 환경에서 기술을 적용해 왔다.
김주영 하이퍼엑셀 대표는 "LLM 추론 시장이 확대되면서 다양한 모델을 지원하고 실제 서비스 환경에 적용할 수 있는 AI 반도체의 활용성이 중요해지고 있다"며 "노타와의 협력을 통해 베르다 LPU의 모델 지원 범위를 확대하고 제품 경쟁력을 강화하겠다"고 말했다.
채명수 노타 대표는 "AI 반도체 기업의 경쟁력은 하드웨어뿐 아니라 고객이 원하는 AI 모델을 빠르고 효율적으로 실행할 수 있도록 지원하는 소프트웨어 생태계에서도 결정된다"며 "이번 후속 계약을 계기로 글로벌 AI 반도체 기업들과의 협력을 확대하고 소프트웨어 기술 공급 사업을 성장시키겠다"고 밝혔다.
송정현 기자 junghyun792@mt.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
|
|