회사가 지난해 8월 핫칩스 2024 컨퍼런스에서 처음 선보인 '레니게이드'는 데이터센터용 차세대 인공지능(AI) 추론 가속기다. 대형언어모델(LLM)·멀티모달AI의 효율적인 추론을 위해 설계됐고, 클라우드·온프레미스·하이브리드 등 다양한 환경에 최적화됐다. 회사에 따르면 △수분 내 추론용 프로덕션 환경 배포 △유연한 추론 인프라 규모 조절 △애저 데이터·소프트웨어스택과의 원활한 통합을 지원한다.
퓨리오사AI는 메타 '라마 3.1' 사전 컴파일 모델 기반 응용프로그램인터페이스(API)도 조만간 제공할 계획이다. 이로써 기업고객은 '레니게이드'의 추론 성능을 기존 워크플로우 내에서 즉시 테스트하고 활용할 수 있다. 회사는 향후 다양한 모델 아키텍처 지원도 순차적으로 확대할 예정이다. 현재 국내외 기업고객 대상으로 제품평가를 진행 중이며, TSMC와 협업해 대규모 양산에도 돌입했다고 전했다.
제이크 즈보로프스키 MS 애저플랫폼총괄은 "애저 마켓플레이스는 전 세계 고객이 신뢰할 수 있는 파트너 솔루션을 쉽게 찾고 배포할 수 있는 공간"이라며 "퓨리오사AI의 레니게이드를 이 생태계에 새롭게 맞이하게 돼 기쁘다"고 말했다.
퓨리오사AI 관계자는 "레니게이드의 애저 통합은 누구나 접근 가능한 효율적인 AI 추론 인프라를 제공한다는 당사 비전을 실현하는 중요한 이정표"라며 "스타트업부터 대기업까지 복잡한 AI인프라 없이도 필요한 성능을 쉽고 빠르게 확보할 수 있을 것"이라 했다.팽동현기자 dhp@dt.co.kr
[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
