메타플랫폼이 오픈소스 거대언어모델(LLM) 라마3.1을 23일 발표했다. 마크 저커버그 CEO는 여러 평가항목에서 오픈AI의 최신 모델인 GPT-4o(포오), 앤스로픽의 클로드 3.5 소네트를 능가한다고 자신했다.
라마 3.1은 3가지 버전으로 선보였고 가장 큰 버전은 매개변수가 4050억개인 라마3.1 405B이다. 매개변수 80억개인 라마3.1 8B, 매개변수 700개인 라마3.1 70B도 함께 선보였다.오픈소스로 제공돼 누구나 무료로 사용할 수 있다.
메타는 라마3.1을 바탕으로 최근 GPT-4o(포오)를 선보인 챗GPT 개발사 오픈AI, 제미나이로 무장한 구글, 클로드 3.5 소네트의 앤스로픽 등과 더욱 치열한 경쟁이 예상된다. 라마 3.1은 이전 버전보다 더 많은 데이터로 학습돼 성능이 크게 향상됐고, 이에 더 크고 강력한 AI 모델을 활용하고자 하는 기업 등에 도움이 될 수 있다고 메타는 설명했다.
라마를 기반으로 하는 챗봇 '메타 AI'에 접목돼 더 많은 국가와 언어로 메타 AI를 사용할 수 있다. 최신 모델은 또 이용자가 사람의 외모 등을 설명하면 실제 사진처럼 보이는 이미지도 생성한다. 메타는 라마3.1이 AI 모델 평가 테스트인 대규모 다중작업 언어 이해(MMLU)의 여러 평가 항목에서는 오픈AI의 최신 모델인 GPT-4o(포오) 및 앤스로픽의 클로드 3.5 소네트를 능가했다고 강조했다. 메타 디지털 어시스턴트는 라마 최신 버전 기반으로 복잡한 수학 문제에 대답하거나 소프트웨어 코딩 이슈들을 해결할 수 있다고 회사 측은 설명했다.
메타는 이전 모델과 마찬가지로 이번 '라마 3.1'도 누구나 무료로 사용할 수 있도록 오픈 소스로 제공한다고 밝혔다. 오픈AI나 구글이 자사의 AI 모델을 비공개로 유지하고 있는 것과 비교된다. 그러면서 클라우드를 통해 AI 서비스를 제공할 수 있도록 기술기업들과 협력한다. 아마존웹서비스, 마이크로소프트 애저, 구글 클라우드, 데이터브릭스, 델 등이 메타와 손잡고 있다.
메타는 라마 3.1이 오픈AI의 GPT-4o 운영 비용의 약 절반밖에 들지 않으며 많은 개발자가 이용할 수 있도록 20여개 기업과 협력하고 있다고 전했다. 또 현재 상용 중인 AI 칩으로는 가장 최신인 엔비디아의 H100 그래픽처리장치(GPU) 1만6000개를 활용해 훈련됐다고 밝혔다.
H100 칩이 개당 3만∼4만 달러인 점을 감안하면 칩 구매에만 수억 달러가 들었을 것으로 보인다.
