챗GPT 전력 소비 기존 예상보다 10배 낮아
질의응답 시 구글 검색과 유사한 전력 소비
긴 입력·이미지 처리 시 전력 소비 급증
질의응답 시 구글 검색과 유사한 전력 소비
긴 입력·이미지 처리 시 전력 소비 급증
그러나 생성형 AI 서비스의 전력 소비량이 기존 예상보다 훨씬 낮다는 분석이 나왔다. 기존에는 생성형 AI를 통해 질문을 하면 답변을 받는 과정에서 기존 인터넷 서비스보다 10배 이상 많은 전력이 소모된다고 알려졌지만 최근 연구에서 이를 반박하는 결과가 나온 것이다.
12일 비영리 AI 연구 단체인 에포크 AI(Epoch AI)는 챗GPT 1회 질문당 전력 소비량이 약 0.3와트시(Wh)로 기존에 널리 알려졌던 3Wh보다 10배 낮은 수준이라고 분석했다. 챗GPT의 전력 소모량이 구글 검색(0.3Wh)과 거의 동일하다는 것이다.
연구진은 "0.3Wh는 LED 전구나 노트북이 몇 분 동안 소비하는 전력보다 적은 수준"이라며 "0.3Wh 또한 보수적으로 추정된 값으로 실제로는 더 적은 전력을 사용할 가능성이 높다. 이전 추정치(3Wh)가 비효율적인 구형 하드웨어를 기준으로 했지만 최신 AI 반도체와 연산 최적화를 고려하면 소비량은 훨씬 낮았다"고 설명했다.
다만 입력과 출력의 길이에 따라 질의응답 과정에서의 전력 소비도 달라질 수 있다. 에포크 AI는 챗GPT가 법률 및 계약서 해석 등 1만개 이상의 입력 토큰을 처리하는 경우 소비 전력은 2.5Wh까지 증가하고 10만개 이상의 토큰이 필요한 긴 입력을 처리하는 경우 최대 40Wh까지 상승할 수 있다고 분석했다.
특히 이미지 생성 AI는 텍스트 생성 AI보다 훨씬 많은 전력을 소모하는 것으로 알려졌다. 이미지 하나를 생성하는 데 필요한 에너지는 스마트폰 한 대를 완전히 충전할 수 있는 수준에 달할 수 있다. 일반적인 텍스트 기반 질의응답보다 연산량이 크게 증가하기 때문이다.
또 AI 모델의 학습 과정에서는 막대한 에너지가 소모된다. 미국의 비영리 연구 기관 랜드(RAND) 보고서에 따르면 2030년까지 AI 학습에 사용되는 전력 소비량이 원자로 8GW 규모에 이를 가능성이 있는 것으로 전망됐다.
AI 모델의 학습과 추론을 처리하는 데이터센터의 전력 수요도 빠르게 증가하고 있다. 2030년까지 전 세계 AI 데이터센터의 전력 수요는 327GW로 증가할 것으로 예상된다. 2022년 기준 전 세계 데이터센터의 총 전력 용량이 88GW에 불과했던 점을 고려하면 AI 확산에 따른 전력 수요 급증이 불가피할 것으로 전망된다.
이에 아마존웹서비스(AWS), 마이크로소프트(MS) 등 글로벌 빅테크 기업을 중심으로 데이터센터 구축에 뭉칫돈을 쏟아붓고 있다. 올해 데이터센터 관련 투자액은 처음으로 500조원을 넘어설 전망이다.
AWS는 미국 내 데이터센터 확장에 박차를 가하고 있다. 오하이오주에 100억달러(약 14조 5280억원) 규모 데이터센터 투자 계획을 발표한 데 이어 조지아주에도 110억달러를 추가로 투입한다고 밝혔다. 이는 지난해 공개한 장기 투자 전략의 연장선으로 AWS는 향후 10년간 데이터센터 인프라에 총 1000억달러 투자를 계획 하고 있다.
MS도 공격적인 투자에 나섰다. 올해 회계연도가 끝나는 6월까지 AI 데이터센터 건설에 800억달러를 투입할 예정이다. 이는 전년 대비 60% 증가한 규모로, 절반 이상이 미국 내 시설 확충에 쓰일 계획이다. 구글과 메타 역시 데이터센터 인프라 구축에 적극적으로 나서고 있다. 구글은 지난해 330억달러, 메타는 270억달러를 데이터센터 확장과 관련된 인프라 구축에 투자한 것으로 나타났다.
에포크 AI는 "생성형 AI의 질의응답 과정에서 전력 소비량이 기존 예상보다 적다는 점은 분명하지만, AI 서비스의 확산과 고도화가 이어질 경우 장기적으로 전력 수요가 증가할 가능성이 크다"며 "보다 효율적인 연산 기술과 전력 공급 방안에 대한 지속적인 연구가 필요하다"고 밝혔다.
유진아기자 gnyu4@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
