구글클라우드는 지난 5월 프리뷰 버전으로 선보였던 '제미나이 1.5 플래시'를 공식 출시했다. 회사에 따르면 이 모델은 'GPT-3.5 터보' 대비 60배가량 더 긴 100만 토큰의 콘텍스트 윈도우를 제공하며, 1만자 입력 기준 평균 40% 더 빠른 속도를 지원한다. 3만2000자 이상을 입력할 경우 콘텍스트 캐싱 기능으로 입력비용도 최대 4배 절감할 수 있다.
최대 200만 토큰의 콘텍스트 윈도우를 지원하는 '제미나이 1.5 프로'도 정식 버전으로 출시, 다른 모델에서는 처리하기 어려운 다양한 멀티모달 사례를 지원한다. 일반적으로 6분 분량의 동영상을 분석하려면 10만개 이상 토큰이 소요되며, 대규모 코드 베이스의 경우 100만개 이상 토큰이 소요된다.
구글클라우드는 고객이 제미나이 1.5 프로 및 플래시 모델의 방대한 콘텍스트 윈도우를 효율적으로 활용할 수 있도록 해당 모델에 버텍스AI 콘텍스트 캐싱 기능을 프리뷰 버전으로 제공한다. 자주 사용하는 콘텍스트의 캐시 데이터를 활용해 고객이 최대 76%까지 비용을 절감할 수 있도록 지원하며, 콘텍스트 캐싱 API를 제공하는 업체는 현재 구글클라우드가 유일하다고 강조했다.
또한, 일부 고객 대상으로 프로비저닝 처리량을 제공한다. 제미나이 1.5 플래시를 포함한 구글 자체 모델의 사용량을 필요에 맞게 확장할 수 있으며, 모델 성능과 비용 모두에 대해 보장받을 수 있다. 이전 버전보다 40% 이상 빠른 이미지 생성을 지원하는 '이마젠3'도 사전 액세스 권한을 부여받은 일부 고객에게 프리뷰 버전으로 제공된다.
구글클라우드는 지난 5월 버텍스AI의 '그라운딩 위드 구글 서치' 기능 정식 출시에 이어, 기업이 자사 생성형AI 에이전트를 특정 제공 업체의 데이터로 그라운딩 할 수 있는 신규 서비스를 3분기부터 제공할 예정이다. 이를 위해 무디스, 모건스탠리캐피털인터내셔널(MSCI), 톰슨로이터, 줌인포 등과 협력 중이다. 이밖에 금융·의료 등 산업에서 제공된 콘텍스트만으로 정확한 답변이 생성되도록 '그라운딩 위드 하이 피델리티 모드'도 실험적 프리뷰로 선보였다.
구글클라우드는 버텍스AI에서 제공하는 자사 모델과 오픈모델, 타사 모델 제품군을 통해 고객에게 선택권과 혁신을 지원하는 데 최선을 다하고 있다고 설명했다. 최근 앤스로픽 '클로드 3.5 소네트'를 추가했으며, 하반기에는 미스트랄 스몰·라지·코드스트랄도 버텍스AI 모델가든에서 제공 예정이다. 자사 오픈모델인 '젬마2'도 이달부터 버텍스AI를 통해 제공한다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
