업스테이지, 글로벌 경쟁 우위
300개사 보다 성적 10% 높아
할루시네이션 방지지표 고득점
300개사 보다 성적 10% 높아
할루시네이션 방지지표 고득점
업스테이지는 20일 자사가 메타의 LLM '라마1' 기반으로 개발한 AI모델이 허깅페이스의 '오픈 LLM 리더보드'에서 1위에 올랐다고 밝혔다. 전날 같은 발표에서 2위로 알려졌지만, '라마1' 관련 모델들에 대한 점수를 허깅페이스 측에서 바로잡으면서 전날보다 한 계단 상승하며 메타의 '라마2'도 제쳤다.
허깅페이스는 다양한 언어와 산업에 대한 LLM을 제공하는 글로벌 AI 플랫폼이다. 오픈소스 AI모델들이 성능을 겨루는 오픈 LLM 리더보드에서는 추론과 상식능력뿐 아니라 언어이해능력과 할루시네이션(환각) 방지 등 생성형AI 평가에 필요한 4가지 지표의 평가점수 평균으로 순위가 매겨진다. 이곳에선 파라미터 1000억개 미만 sLLM들의 경쟁이 치열하게 벌어진다.
업스테이지에 따르면 회사가 두 달간 자체 구축해 이달 초 허깅페이스 리더보드에 제출한 AI모델은 경쟁 모델들 대비 평균 10%가량 높은 성적을 거뒀다. 특히 할루시네이션 방지를 위한 지표(TruthfulQA)에서도 우수한 성적을 냈다. '라마2'의 가장 큰 버전(700억개)의 절반에 못 미치는 300억개의 파라미터로도 더 높은 점수가 나왔다.
이렇듯 오픈소스 LLM을 기반으로 경량화된 자체 AI모델을 개발하는 사례가 계속 늘고 있다. 통상 파라미터 규모가 클수록 성능은 올라가지만 학습·운영에 소요되는 컴퓨팅 자원도 증가, 비용 문제가 불거진다. sLLM은 그 대안으로 제시되는 방법 중 하나다.
필요로 하는 특정분야 지식의 추가학습 등 파인튜닝(미세조정)을 거쳐 할루시네이션을 줄이고, 내부 구축이 가능한 규모라면 개인정보·기밀정보 유출 우려도 덜 수 있다. 빅테크들의 초거대AI만큼 범용성을 기대하긴 어렵지만, 보유한 AI역량에 따라 모델 성능을 끌어올리거나 효율적으로 특화시킬 수 있다.
이런 움직임이 본격화된 것은 메타가 지난 2월 '라마'를 처음 선보이며 오픈소스로 공개하면서부터다. 스탠포드대학교가 이를 바탕으로 단지 600달러(약 77만원) 비용을 들여 '알파카'를 내놨다. 이후 데이터브릭스의 '돌리', 갓잇AI의 '엘마', 스태빌리티AI의 '스테이블LM' 등이 연이어 출시됐고, 최근에는 UAE(아랍에미리트) TII(기술혁신연구소)가 자체 개발해 오픈소스로 내놓은 '팰컨'이 관련업계에서 화제가 된 바 있다. 메타는 '라마2'를 상업적 용도로도 사용 가능하도록 제공하며 개방형 접근방식을 밀어붙이고 있다.
국내에서도 바이브컴퍼니의 '바이브GeM', 포티투마루의 'LLM42', 고려대학교의 '구름(KULLM)' 등 다양한 곳에서 오픈소스 기반 sLLM 개발 시도가 이어지고 있다. 코난테크놀로지는 4920억개의 토큰으로 학습된 131억개 파라미터 규모 모델을 내달에, 6000억개의 토큰으로 학습된 400억개 파라미터 규모 모델을 10월에 선보일 예정이다. 또한 스타트업 올거나이즈는 오픈소스 LLM을 활용해 사내 구축형으로 자유롭게 선택하고 활용할 수 있도록 지원하는 '알리LLM옵스' 서비스를 내놓기도 했다.
업스테이지는 자사 AI모델을 바탕으로 이런 '프라이빗AI' 분야를 공략한다는 계획이다. 국내 다양한 산업의 기업들의 요구에 부응하고자 한국어 성능을 높이기 위해 한국어 데이터를 추가 학습시킬 예정이다.
김성훈 업스테이지의 대표는 "업스테이지의 AI 기술력이 지금 가장 치열한 경쟁을 벌이고 있는 생성AI 글로벌 톱 플랫폼의 평가에서도 세계 최고의 성과를 거둬 무척 기쁘다"며 "이번에 입증된 업스테이지의 기술력을 바탕으로 국내 기업은 물론 전세계 모든 기업들이AI를 편리하게 사용할 수 있도록 노력할 것"이라고 말했다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
