업스테이지는 차세대 LLM '솔라 프로' 초기 테스트용 모델인 '솔라 프로 프리뷰' 버전을 오픈소스·무료 응용프로그램인터페이스(API)로 전면 공개한다고 11일 밝혔다.
'솔라 프로'는 오는 11월 출시 예정인 LLM으로, 미리 테스트해 볼 수 있는 프리뷰 버전을 오픈소스로 공개하는 한편, API 호출 비용도 무상으로 지원할 계획이다. 프리뷰 버전은 영어만 지원하며 입력 토큰 수도 4096자로 제한된다. '솔라 프로'는 220억(22B) 매개변수를 갖춰 기존 '솔라 미니'보다 두 배 이상 커지고 성능도 대폭 향상됐다. 깊이확장스케일(DUS) 기술 등 자체 LLM 모델링 방법론을 더욱 고도화해 단 1개의 GPU에서 구동 가능한 수준으로 경량화에 성공했다. 최근 GPU 가격 급등과 수급난 속에 AI 확산에 도움이 될 전망이다.
아울러 인문학뿐만 아니라 과학·기술·공학·수학(STEM) 종합 지식을 평가하는 'MMLU 프로(Pro)', 지시 이행 능력을 평가하는 'IFEval' 등 최신 LLM 벤치마크(성능 평가) 지표에서 솔라 미니보다 평균 51% 이상 향상됐다. 최신 지표인 MMLU 프로는 LLM 답변의 정확도를 사지선다로 평가하는 기존 방식에서 선택지를 10개까지 늘려 정답률을 낮추고, 학부생 수준 이상의 추론을 요구해 난도가 높다.
솔라 프로는 MMLU 프로, IFEval 등 지표에서 마이크로소프트의 '파이-3 미디엄', 메타 '라마 3.1 8B', 미스트랄AI-엔비디아 '네모 12B', 구글 '젬마 2 27B' 등 빅테크의 유사한 사이즈 모델보다 뛰어난 성능을 보여줬다. 매개변수가 3배 이상 큰 '라마 3.1 70B' 등 다중 GPU를 요구하는 모델과 유사한 수준이다. 업스테이지가 소형언어모델(sLLM) 영역에서도 빅테크에 밀리지 않음을 보여준 것이다.
특정 분야에 대한 전문성과 정확한 답변이 요구되는 기업용 AI 시장에서 MMLU 프로, IFEval 등 최신 벤치마크 고득점은 LLM의 실제 문제해결 능력을 가늠하는 중요한 척도다. 솔라 프로는 인간 평균치를 상회하는 방대한 지식과 추론 능력을 기반으로 △문서·보고서 작성 △데이터 분석·관리 △프로젝트 관리 등 업무 영역 전반에서 고성능 AI를 구현하는 수준에 도달한 셈이다.
김성훈 업스테이지 대표는 "자체 기술로 개발한 세계 최고 수준의 LLM 솔라를 통해 글로벌 AI 시장에 도전장을 내민 업스테이지가 더욱 강력한 차기 모델을 야심 차게 준비하고 있다"며 "최소의 인프라 비용으로 업계 최강의 성능을 자랑하는 솔라 프로를 프리뷰 버전을 통해 많이 테스트해보기를 바란다"라고 밝혔다.
