|
[더벨]모아데이타, "EYE ON AI" 출시
모아데이타는 19일 AI로 AI를 감시할 수 있는 실시간 AI 거버넌스 평가 플랫폼 'EYE ON AI'를 출시했다고 밝혔다. AI 거버넌스는 인공지능 시스템의 설계, 운영, 윤리, 위험 관리 등 AI 전반에 대한 정책과 프로세스를 관리하는 체계다. AI의 신뢰성, 안전성, 투명성을 확보하기 위한 조직적 프레임워크를 의미한다.
이번에 모아데이타가 출시한 'EYE ON AI'는 윤리성, 편향성, 안전성, 규제 준수 여부를 운영 단계에서 상시 점검할 수 있도록 설계됐다. 특히 이 플랫폼은 BDI Agent, RAG Agent, Judge Agent, Persona Engine 등 다중 Agent 구조를 기반으로 한다.
AI의 의도와 결과 간 불일치, 출처 신뢰성, 편향·위험 응답 여부를 자동으로 분석·판단한다. 운영자는 대시보드를 통해 AI 서비스의 현재 상태, 이상 징후, 테스트 결과, 규제 대응 리포트를 하나의 화면에서 확인할 수 있다. 문제 발생 시 즉각적인 대응 근거를 확보할 수 있게 돼 기업은 안전하고 신뢰할 수 있는 책임 있는 AI 서비스 제공한다.
AI 거버넌스 시장은 2025년 0.34억 달러 규모였으며, 2026년 0.44억 달러에서 2031년 1.51억 달러로 성장하고, 예측 기간(2026~2031년) 동안 연평균 성장률(CAGR)은 28.15%로 예상되고 있다(자료출처 : Mordor Intelligence). 또한 전 세계 주요 국가들은 AI 규제를 신설하고 가이드라인을 공개하고 있으며, 최근에는 생성형 인공지능에 대한 규제 및 정책을 구체적으로 제시하고 있다.
한상진 모아데이타 대표는 "AI를 도입하는 것보다 중요한 것은, AI가 지금도 안전하고 책임 있게 작동하고 있는지 증명하는 것"이라며 "본 플랫폼은 AI 거버넌스의 실질적 해법"이라고 말했다.
이어 한 대표는 "글로벌 트랜드로 발전되고 있는 AI 거버넌스 평가 솔루션을 국내 최초로 개발·출시하였다"며 "Agent 기반 평가 기술을 통해 차세대 AI 운영, 감독 인프라를 시장에 제공할 것"이라고 설명했다.
모아데이타는 2014년 설립 당시부터 빅데이터, 인공지능 분야에 집중한 기업이다. 자체 개발한 AI 원천기술인 멀티모달 인공지능 기술을 바탕으로 자동화 패키징 기술, sLLM 기술 등을 보유한 AI 특화 기업으로 꼽힌다.
김인엽 기자 info@thebell.co.kr
Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.
|
|