허깅페이스 허브에서 프렌들리AI의 추론 가속화 인프라 서비스로 모델 배포 가능
프렌들리AI는 생성형 AI 추론 가속화 분야의 선도 기업으로 허깅페이스와 전략적 파트너십을 체결했다고 발표했다.
허깅페이스는 700만 명 이상의 사용자를 보유한 세계 최대 AI 모델 및 데이터셋 플랫폼이다. 이번 파트너십을 통해 프렌들리AI의 엔드포인트가 허깅페이스의 배포 옵션으로 제공되며, 개발자들은 보다 간편하게 AI 모델을 배포하고 운영할 수 있게 됐다. 허깅페이스는 그동안 AWS, Azure, GCP, NVIDIA와 같은 주요 빅테크 기업의 서비스만 배포 옵션으로 제공해왔으나, 프렌들리AI는 국내 최초로 허깅페이스와 전략적 파트너십을 체결하며 업계의 주목을 받고 있다.
생성형 AI 모델의 배포와 운영은 복잡한 인프라 관리와 높은 비용 문제를 동반하지만, 프렌들리AI는 전세계 GPU 기반 모델 API 제공사 중 1위의 처리 속도(Artificial Analysis 벤치마크 결과)를 자랑하는 기술력을 바탕으로 이러한 문제를 해결한다.
특히 '프렌들리 데디케이트 엔드포인트(Friendli Dedicated Endpoints)'는 GPU에 최적화된 추론 엔진을 기반으로 전용 GPU 자원과 자동 리소스 관리를 제공하며, 빠르고 비용 효율적인 추론 서비스를 완전 관리형 형태로 지원한다. 이를 통해 개발자들은 인프라 관리에 대한 부담 없이 생성형 AI 모델을 손쉽게 배포하고 운영할 수 있다.
이번 파트너십은 허깅페이스의 'AI 민주화'라는 비전을 한 단계 더 발전시키는 동시에, 프렌들리AI가 '누구나 생성형 AI 모델의 잠재력을 쉽게 활용할 수 있도록 돕는다'는 기업 사명을 실현하는 데 기여한다. 이를 통해 프렌들리AI는 허깅페이스의 핵심 전략적 파트너로 자리매김하게 되었다.
전병곤 프렌들리AI 대표는 "프렌들리AI와 허깅페이스는 생성형 AI, 나아가 AI 에이전트를 더 많은 개발자들이 쉽게 접근하고 활용할 수 있게 하여, 그 영향력을 확대하겠다는 비전을 공유한다"라며, " 허깅페이스의 개발자 커뮤니티가 우리의 추론 솔루션을 활용해 어떤 혁신을 만들어낼지 기대되며, 앞으로도 허깅페이스와 협력해 더 유용한 기능과 지원을 제공하도록 지속적으로 모색할 것"이라고 말했다.
줄리앙 쇼몽(Julien Chaumond) 허깅페이스의 공동창업자 겸 CTO는 "프렌들리AI는 생성형 AI 추론 가속화의 발전을 선도해 왔다"라며, "이번 파트너십을 통해 허깅페이스 사용자와 프렌들리AI 고객들이 프렌들리AI의 최적화된 AI 인프라와 도구를 활용하여 최신 오픈소스 모델이나 맞춤 생성형 AI 모델을 효율적으로 확장하고 운영할 수 있도록 지원할 것"이라고 밝혔다. 노희근기자 hkr1224@dt.co.kr
허깅페이스는 700만 명 이상의 사용자를 보유한 세계 최대 AI 모델 및 데이터셋 플랫폼이다. 이번 파트너십을 통해 프렌들리AI의 엔드포인트가 허깅페이스의 배포 옵션으로 제공되며, 개발자들은 보다 간편하게 AI 모델을 배포하고 운영할 수 있게 됐다. 허깅페이스는 그동안 AWS, Azure, GCP, NVIDIA와 같은 주요 빅테크 기업의 서비스만 배포 옵션으로 제공해왔으나, 프렌들리AI는 국내 최초로 허깅페이스와 전략적 파트너십을 체결하며 업계의 주목을 받고 있다.
생성형 AI 모델의 배포와 운영은 복잡한 인프라 관리와 높은 비용 문제를 동반하지만, 프렌들리AI는 전세계 GPU 기반 모델 API 제공사 중 1위의 처리 속도(Artificial Analysis 벤치마크 결과)를 자랑하는 기술력을 바탕으로 이러한 문제를 해결한다.
특히 '프렌들리 데디케이트 엔드포인트(Friendli Dedicated Endpoints)'는 GPU에 최적화된 추론 엔진을 기반으로 전용 GPU 자원과 자동 리소스 관리를 제공하며, 빠르고 비용 효율적인 추론 서비스를 완전 관리형 형태로 지원한다. 이를 통해 개발자들은 인프라 관리에 대한 부담 없이 생성형 AI 모델을 손쉽게 배포하고 운영할 수 있다.
이번 파트너십은 허깅페이스의 'AI 민주화'라는 비전을 한 단계 더 발전시키는 동시에, 프렌들리AI가 '누구나 생성형 AI 모델의 잠재력을 쉽게 활용할 수 있도록 돕는다'는 기업 사명을 실현하는 데 기여한다. 이를 통해 프렌들리AI는 허깅페이스의 핵심 전략적 파트너로 자리매김하게 되었다.
전병곤 프렌들리AI 대표는 "프렌들리AI와 허깅페이스는 생성형 AI, 나아가 AI 에이전트를 더 많은 개발자들이 쉽게 접근하고 활용할 수 있게 하여, 그 영향력을 확대하겠다는 비전을 공유한다"라며, " 허깅페이스의 개발자 커뮤니티가 우리의 추론 솔루션을 활용해 어떤 혁신을 만들어낼지 기대되며, 앞으로도 허깅페이스와 협력해 더 유용한 기능과 지원을 제공하도록 지속적으로 모색할 것"이라고 말했다.
줄리앙 쇼몽(Julien Chaumond) 허깅페이스의 공동창업자 겸 CTO는 "프렌들리AI는 생성형 AI 추론 가속화의 발전을 선도해 왔다"라며, "이번 파트너십을 통해 허깅페이스 사용자와 프렌들리AI 고객들이 프렌들리AI의 최적화된 AI 인프라와 도구를 활용하여 최신 오픈소스 모델이나 맞춤 생성형 AI 모델을 효율적으로 확장하고 운영할 수 있도록 지원할 것"이라고 밝혔다. 노희근기자 hkr1224@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
