양사는 18일, 제조·공공·금융 등 생성형 AI 도입이 필요한 고객을 대상으로, 구축형·설비 구독형·SaaS 사업의 공동 개발 및 추진을 위한 파트너십을 체결했다.
이번 파트너십은 'LLM 교체형 생성형 AI 플랫폼 사업'을 위한 협업을 진행하는 국내 최초 사례다. 'LLM 교체형 생성형 AI 플랫폼 사업'이란 유연한 플랫폼을 기반으로 지속적으로 발전하는 LLM들을 비교·분석하여, 특정 LLM에 종속되지 않고 가장 성능이 뛰어난 LLM으로 정기적으로 교체함으로써, 고객사의 안정적인 생성형 AI 서비스 운영을 가능하게 하는 사업이다. 이 사업은 구축형, 설비 구독형, SaaS 상품으로 구성되며, 고객사의 인적 자원 현황과 예산 규모를 고려해 부담 없는 생성형 AI 플랫폼을 제공할 수 있다.
새로운 대규모 언어 모델을 바닥부터 자체 구축하는 것도 가능하지만, 이는 대부분의 기업에 지나치게 큰 부담이 된다. 생성형 AI의 학습과 운영을 위해 막대한 컴퓨팅 파워(GPU 등)가 필요한데, 이는 CAPEX(설비 투자비용) 부담이 크기 때문이다. 보통 기업은 20~30억 원의 예산을 투입해 1년 이상의 시간을 들여 업무용 AI 서비스를 개발하지만, 개발을 완료하더라도 성능 한계로 인해 출시가 지연되거나 중단되는 사례도 발생한다.
이에 반해, 양사가 공급하는 'LLM 교체형 생성형 AI 플랫폼'은 경량화에 성공한 고성능 LLM을 선별하여 제공한다. 예를 들어, GPU A100 한 개로 운영 가능한 3B LLM, H100 한 개로 운영 가능한 7.8B LLM 등을 고객사의 업무 환경에 맞춰 평가 후 설치하는 방식이다. 이후 양사는 새롭게 출시되거나 업데이트 되는 LLM들을 지속적으로 비교·분석하고, 그 결과를 고객사에 제공하여 가장 성능이 뛰어난 LLM으로 교체함으로써 안정적인 서비스 운영을 지원한다.
손원동 이수시스템 대표이사는 "100억 개 이상의 파라미터를 가진 모델은 기업 입장에서 도입이 쉽지 않기 때문에, 경량·소형화된 LLM은 하나의 트렌드가 되고 있다. 스캐터엑스의 빅데이터 플랫폼을 기반으로, LLM 교체가 가능한 전용 어플라이언스(기업용 소프트웨어와 하드웨어 통합 장비) 형태로 구성해 고객사의 생성형 AI 도입을 지원할 것이다. 특히 설비 구독형 상품에 큰 기대를 걸고 있다. 이는 구축형 LLM의 고비용 문제와 개방형 LLM 사용 시 발생하는 보안 문제를 동시에 해결할 수 있는 이상적인 방안이기 때문"이라고 말했다.
강명수 스캐터엑스 대표이사는 "기업들이 LLM 도입을 주저하는 가장 큰 이유는 보안 문제다. 기업 내부에서 직접 운영할 수 있는, 안전하고 고성능의 소형 LLM이 선호될 것이다. 또한 우리는 환각 효과(Hallucination) 문제를 줄이기 위한 RAG(검색 증강 생성) 및 MRC(기계 독해) 기술을 접목해, 고성능 생성형 AI 인프라를 제공할 계획이다. 이수시스템의 주도 아래, 구축형과 SaaS는 물론, 설비 구독형 상품까지 제공함으로써 기업들이 고성능 LLM으로 손쉽게 교체하며 생성형 AI를 안정적으로 활용할 수 있는 환경을 조성할 것"이라고 밝혔다. 정래연기자 fodus0202@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
