KT클라우드는 검색증강생성(RAG), AI모델, 추론용 인프라 등 AI 분야에서 검증된 기술력을 갖춘 파트너사들과 협력해 이 사업을 추진, 기업들의 AI 니즈를 엔드투엔드로 충족한다는 구상이다.
이에 따라 고객이 보유한 데이터를 빠르게 정제하고, 경량화된 AI모델과 모듈형 RAG 서비스를 통해 신뢰성 높은 AI시스템을 간편하게 구현하는 서비스를 출시할 계획이다. RAG 구현을 위한 △파싱과 광학문자인식(OCR) 영역에선 폴라리스오피스와 업스테이지 △임베딩 모델 영역에선 업스테이지, △벡터 데이터베이스(DB) 영역은 디노티시아와 협력해 사업 추진을 본격화한다.
AI모델의 경우, 라마4 스카웃, 미스트랄 7B, 솔라 등 다양한 오픈모델을 연계할 예정이다. 또 AI 파운드리의 추론용 인프라 팜에는 엔비디아 그래픽처리장치(GPU)뿐 아니라 KT클라우드와 협력해온 리벨리온의 신경망처리장치(NPU)도 적용한다. 고객이 필요한 업무에 최적화된 AI 모델링을 간편하고 신속하게 구현하고 AI 구축·운영비용을 최적화할 수 있도록 지원한다는 방침이다.
KT클라우드는 'AI 파운드리; 서비스의 정식 출시에 앞서 고객 참여형 파일럿 프로그램을 2분기 내 선보일 예정이다. 업종과 규모에 관계없이 무상으로 해당 프로그램에 참여 가능하다.
공용준 KT클라우드 본부장은 "향후 수준 높은 AI 역량을 보유한 다양한 파트너사들과 협력을 지속 확대하며 고객이 실제로 필요로 하는 AI 서비스를 제공하는 하나의 AI 생태계를 만들어나갈 것"이라 말했다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
