|
[더벨]제이엘케이, 자체 의료 LLM 플랫폼 인텔 GPU로 검증
의료 인공지능(AI) 전문기업 제이엘케이는 인텔(INTEL)과 협력해 의료 멀티모달 LLM 플랫폼 'JOOMED(주메드)'를 검증한 결과 인텔® 아크™ 프로 B70 GPU 2개를 탑재한 '인텔 LLM Scaler' 기반 XPU 테스트 환경에서 높은 구동 안정성을 입증하고 엔비디아(NVIDIA) A100 80GB PCIe 기반 AI 서버 환경과의 비교 평가에서도 대등한 수준의 분석 성능을 확인했다고 21일 밝혔다.
제이엘케이는 JOOMED 플랫폼을 인텔 GPU 환경에 최적화하기 위한 사전 검증을 수행했다. 이번 검증에서는 인텔 인프라와 NVIDIA AI 서버 환경에 각각 동일한 파라미터의 JOOMED 모델을 적용해 의료영상과 임상 데이터를 통합 분석하는 성능을 다각도로 비교 평가했다.
특히 벤치마크의 객관성과 신뢰성을 확보하기 위해 한국어 거대언어모델 성능 평가 표준인 'K-MMLU-Pro' 벤치마크와 제이엘케이가 자체 보유한 고품질 의료 멀티모달 데이터 100건을 활용했다. 하드웨어 이외의 환경적 변수를 완벽히 통제하고자 모델 아키텍처, 데이터셋, 평가지표 기준을 철저히 단일화해 검증의 정밀도를 높였다.
실제 의료 현장·상용 서비스 도입 가능성을 시험하기 위해 성능 정확도와 비용 효율성을 심층 진단했고 그 결과 인텔과 NVIDIA 기반 시스템 모두 상용화 기준치를 상회하는 고정밀 분석 성능은 충족했다. 다만 단일 연산 성능 면에서는 NVIDIA GPU 인프라가 우위를 보였으나 총소유비용(TCO)을 고려한 비용 대비 성능(Cost-Performance) 관점에서는 인텔 GPU 시스템이 한층 뛰어난 효율성을 입증했다.
제이엘케이는 인텔과의 이번 검증 성과를 기반으로 JOOMED의 서비스 인프라 환경을 다각화하고 의료기관, 기업 고객을 대상으로 한 B2B 비즈니스를 본격 추진할 계획이다. 고객의 인프라 스펙에 맞춰 다양한 AI 반도체 옵션을 제공함으로써 솔루션 도입 문턱을 낮추고 운영 비용 효율성을 대폭 강화한다는 전략이다.
제이엘케이 관계자는 "인텔이 제공한 인프라 환경을 통해 자체 개발 의료 LLM을 낮은 비용으로 안정적으로 운영할 수 있는 시스템을 확보했다"라며 "제한적인 예산으로 운영되는 의료 환경과 예산에 맞는 인프라 통합 서비스를 제공할 수 있게된 만큼 서비스 도입 부담을 낮추고 JOOMED의 활용 범위를 더욱 넓혀 나갈 수 있을 것으로 기대한다"고 말했다.
출처: 제이엘케이
김지원 기자 info@thebell.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
|
|