엔비디아가 새 그래픽처리장치(GPU) '블랙웰'을 기반으로 한 차세대 인공지능(AI)칩 'B100'을 공개했다. 이전 세대인 엔비디아의 'H100'보다 최대 25배 적은 비용과 에너지로 조 단위의 초거대언어모델(LLM)에서 실시간 생성형 AI를 구축·실행할 수 있도록 지원하는 게 특징이다.
엔비디아는 18일(현지시간) 미국 캘리포니아주 새너제이 SAP 센터에서 개발자 콘퍼런스 'GTC(GPU Technology Conference) 2024'를 열고 블랙웰 플랫폼을 출시한다고 밝혔다.
블랙웰은 2년 전 선보인 엔비디아 호퍼 아키텍처의 후속 기술이다. 이를 기반으로 한 B100은 연산 처리 속도가 기존 H100보다 2.5배 더 빠르다.
블랙웰은 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원에 입회한 데이비드 헤롤드 블랙웰을 기리기 위해 붙여진 이름이다. 최대 10조 개의 파라미터로 확장되는 모델에 대한 AI 훈련과 실시간 LLM 추론을 지원한다.
파라미터는 생성형 AI가 정보를 학습하고 기억하는 신경 연결 역할을 하는데, 많을수록 AI 성능도 더 뛰어난 것으로 여겨진다. GPT(자동 회귀 언어 모델)-4의 파라미터가 5000억개라고 가정할 경우 블랙웰이 이보다 최대 20배 뛰어난 성능의 AI 모델도 지원할 수 있다는 뜻이다. 사람의 뇌는 약 100조개에 달한다.
이 제품은 대만 반도체 기업 TSMC 공정으로 제조하며 2080억개의 트랜지스터를 탑재했다. H100을 사용할 경우 GPT 훈련에는 90일 동안 8000개의 GPU가 필요하지만 블랙웰 GPU의 경우 같은 기간에 단 2000개의 GPU만 사용하면 된다는 게 회사 측의 설명이다.
엔비디아에 따르면 아마존, 델 테크놀로지스, 구글, 메타, MS(마이크로소프트), 오픈AI, 오라클, 테슬라 등 많은 기업이 블랙웰을 도입할 예정이다.
엔비디아는 블랙웰 GPU 72개와 자체 CPU(중앙처리장치)인 그레이스를 36개 결합한 'GB200 NVL72'라는 컴퓨팅 유닛으로 제공할 계획이다. 이 경우 GB200은 LLM에서 H100 대비 최대 30배의 성능 향상을 제공하며, 비용과 에너지 소비는 최대 25분의 1 수준이다.
엔비디아는 이날 B100의 가격은 공개하지 않았다. 다만 H100이 개당 최대 4만달러에 거래되는 것을 감안할 때 B100은 5만달러 수준이 될 것으로 점쳐진다.
엔비디아는 이날 서로 다른 AI 모델을 서로 연결하고 쉽게 배포할 수 있는 '엔비디아 인퍼런스 마이크로서비스(NIM)'도 발표했다. 이 밖에 자체적으로 직접 훈련시킨 로봇 '오렌지'와 '그레이', 로봇 훈련 을 가능케하는 플랫폼 구축을 위한 '프로젝트 그루트'도 공개했다.
젠슨 황 엔비디아 CEO(최고경영자)는 "지난 30년 동안 딥 러닝, AI와 같은 혁신을 실현하기 위해 가속 컴퓨팅을 추구해 왔다"며 "생성형 AI는 우리 시대를 정의하는 기술로 블랙웰 GPU는 이 새로운 산업 혁명을 구동하는 엔진"이라고 말했다. 그러면서 "세계에서 가장 역동적인 기업들과 협력해 모든 산업에서 AI의 가능성을 실현할 것"이라고 강조했다.윤선영기자 sunnyday72@dt.co.kr
