인공지능(AI) 통합 브랜드 '카나나'를 공개하며 AI 패권 경쟁에 참전한 카카오가 엔비디아와 공조해 관련 생태계를 키운다.
카카오는 AI 기술 개발에 엔비디아 추론 마이크로서비스(NIM)를 활용하고 있다. NIM은 고정밀 가상 세계를 만드는데 도움을 주는 기술이다. 엔비디아의 최신 그래픽처리장치(GPU)인 'GH200'과 텐서RT 거대언어모델(LLM) 라이브러리를 활용해 카카오의 AI 모델 추론 성능을 극대화한다는 전략이다.
타이 맥커처 엔비디아 수석부사장은 23일 경기 용인 카카오 AI캠퍼스에서 열린 '이프 카카오AI 2024' 둘째날 행사에 참여해 '엔비디아 AI 네이티브 컴퍼니'를 주제로 발표했다. 카카오그룹이 AI와 클라우드 기술 성과를 공유하는 이 행사에 외부 인사가 발표자로 나선 것은 처음이다. 맥커처 부사장은 엔비디아의 AI 기술과 전략을 소개하면서 카카오와의 협업에 대한 기대감을 드러냈다.
그는 "엔비디아는 최적의 추론을 지원한다. 최신 GPU인 'GH200'을 카카오에서 사용해 효율적인 추론을 돕고 있다"면서 "데이터센터 디자인과 컨설팅을 제공하고, 엔비디아의 경험을 토대로 기술을 더 빠른 속도로 도입하도록 뒷받침하고 있다"고 설명했다. 카카오는 엔비디아의 최신 AI용 슈퍼칩인 'GH200'을 도입했다. 이전 GPU 'H100'에 비해 1.7배의 메모리 용량과 1.5배의 대역폭을 지원하는 등 성능이 향상됐다.
맥커처 부사장은 "엔비디아와 카카오 간 협력의 미래는 굉장히 밝다. 한국뿐만 아니라 더 큰 AI 생태계를 생각하고 있다"며 "카카오는 AI 공장을 만들고 데이터를 처리하고 정보를 생성한다. 카카오뿐 아니라 카카오뱅크, 카카오모빌리티 등에서 활용될 수 있다. 이는 모든 산업에 큰 영향을 미칠 것"이라고 피력했다.
카카오와 엔비디아의 기술 협력은 하드웨어, 소프트웨어, 애플리케이션 영역을 포함하고 있다. 현재 카카오는 내부 업무 생산성을 향상하고자 AI를 도입하고 있고, AI 서비스와 모델 개발 등 지속적 혁신에 엔비디아와 협력할 계획이다. AI 학습과 개선, 데이터 처리 등 데이터센터 관련 협업도 이어갈 생각이다.
맥커처 부사장은 "엔비디아와 카카오는 AI 생태계 공동 구축, 혁신적인 AI 서비스 개발, 글로벌 경쟁력 강화, 윤리적이고 지속 가능한 기술 개발에 협력할 것"이라고 강조했다.김미경기자 the13ook@dt.co.kr
타이 맥커처 엔비디아 수석 부사장은 23일 경기도 용인시 카카오 AI 캠퍼스에서 열린 '이프 카카오AI 2024' 둘째날 행사에 참여해 '엔비디아 AI 네이티브 컴퍼니'라는 주제로 발표하고 있다. 이프 카카오AI 2024 라이브 갈무리
