중소 오픈소스 VLM...모델 하나만으로 이미지-텍스트 작업 처리
멀티모달 벤치마크 5종도 선봬...한국어 능력 정확한 성능 평가
엔씨소프트가 중소 오픈소스 비전언어모델(VLM) '바르코 비전'과 한국어 멀티모달 벤치마크 5종을 4일 공개했다. 뛰어난 한국어 성능을 갖춘 것이 특징이다.
VLM은 자연어와 이미지를 함께 활용해 입력 값을 넣을 수 있는 언어모델이다. 최근 모달리티 확장 연구에 관심이 높아지며 VLM이 주목받고 있다. 현재 오픈소스로 공개된 대부분의 VLM은 영어와 중국어 기반으로, 한국어 지원 모델은 소수에 불과하다. 국내 기업들은 오픈 AI의 GPT 혹은 앤쓰로픽의 클로드 등 모델의 응용프로그램인터페이스(API)에 의존하고 있다.
엔씨의 '바르코 비전'은 한글, 영어 프롬프트와 함께 이미지 입력 값을 이해할 수 있는 중소형 모델이다. 거대언어모델(LLM)과 유사한 수준의 언어 능력을 보유하고 있다. LLM과 VLM 두 개 모델을 사용하지 않아도 바르코 비전만으로 이미지-텍스트 작업과 텍스트 전용 작업을 모두 처리할 수 있다.
특히 이 모델은 한국어 부문에서 동종 크기 모델 중 1위 성능을 갖췄다.
△글자인식(OCR) △그라운딩 △레퍼링 등 이미지를 인식하고 추론하는 비전 태스크에서도 뛰어난 결과값을 제공한다. 바르코 비전을 활용하면 AI 서비스 개발 기업은 △이미지 인식 및 질의응답 △이미지 설명 △OCR △사물 위치 검출(그라운딩) 기능을 활용한 각종 멀티모달 AI 서비스를 개발할 수 있다.콘텐츠 제작 기업은 이미지 상세 설명을 자동 생성해 콘텐츠 제작 시간을 아끼거나, 이미지 내 텍스트 인식을 통해 보다 많은 자료를 빠르게 수집하는 등 기획 업무에 도움을 받을 수 있다. 멀티모달 AI모델은 엔씨가 개발 중인 '바르코 스튜디오'에도 적용될 예정이다.
엔씨는 이날 한국어 AI 모델 연구 발전에 기여하기 위한 벤치마크 5종도 공개했다. 일반적으로 언어모델의 성능을 평가하기 위해서는 수행능력 판별의 기준점이 되는 벤치마크가 필요한데, 한국어의 경우 멀티모달 벤치마크가 거의 없어 올바른 성능 평가가 어려운 상황이다.
엔씨는 영미권에서 대표적으로 사용되고 있는 객관식 벤치마크 3종(MM벤치, SEED-벤치, MMStar)과 주관식 벤치마크 1종(LLava-in-the-wild)을 기반으로 새로운 한국어 벤치마크 4종을 구축했다. 이와 함께 한국어 문서, 표, 차트에 대한 이해능력을 검증할 수 있는 'K-DTC벤치' 벤치마크 1종도 갖췄다.
이연수 엔씨 리서치본부장은 "이번 기술 공개를 통해 멀티모달 AI 분야에서 선도적인 위치를 확보하고 있음을 증명했다"며 "앞으로 VLM의 접목 분야를 오디오, 비디오까지 확대하고 콘텐츠 제작 지원 기능을 강화하는 등 다양한 산업에서 활용할 수 있게 할 것"이라고 밝혔다. 김영욱기자 wook95@dt.co.kr
