구글이 자사 생성형 AI 제미니(Gemini)의 에너지, 탄소, 물 사용량을 처음으로 공개하며 친환경 AI 전략을 가속하고 있다.
구글은 22일(현지시각) 발표한 기술 보고서에서 프롬프트 1회 실행 시 에너지 소비와 배출량, 물 사용량을 수치로 제시하고, 이를 줄이기 위한 하드웨어·소프트웨어 최적화 전략을 공개했다.
프롬프트당 0.24Wh… GPU만 고려한 계산의 2배 이상
구글에 따르면 제미니 앱의 텍스트 프롬프트 1회 실행에는 평균 0.24Wh의 전력, 0.03g의 이산화탄소, 0.26ml의 물이 소모된다. 이는 TV를 약 9초간 시청하는 수준과 맞먹는다. 특히 이 수치는 GPU·TPU 등 연산장치의 ‘활성 소비’만 고려할 경우의 단순 계산(0.10Wh, 0.02gCO₂, 0.12ml)보다 2배 이상 높은 값이다. 구글은 유휴 장비 전력, CPU와 메모리 사용량, 냉각 시스템에 쓰이는 물과 전력까지 포함해 실제 운영 규모에 맞는 총량을 산정했다고 설명했다.
구글은 이러한 포괄적 접근이 업계 전반의 계산법을 통일하고, 실질적 효율 개선을 이끌어낼 수 있다고 강조했다. 또 최근 12개월간 모델 구조 개선과 데이터센터 최적화로 프롬프트당 에너지 소비를 33배, 탄소 배출을 44배 줄였다고 밝혔다.
맞춤형 TPU와 데이터센터 효율… 스코프3는 여전히 과제
효율 개선의 기반은 구글이 말하는 ‘전 과정 최적화’다. 단일 모델이나 칩에만 집중하는 게 아니라, 칩·모델·알고리즘·데이터센터 운영까지 전 계층을 동시에 최적화하는 방식이다. 예컨대 대형 모델 전체를 돌리지 않고 필요한 일부만 가동하는 ‘전문가 혼합(Mixture-of-Experts)’ 구조, 작은 모델이 먼저 예측하고 큰 모델이 검증하는 ‘추측형 디코딩’ 기법 등이 적용됐다.
하드웨어 측면에서는 구글이 직접 설계한 최신 세대 AI 전용 반도체 ‘아이언우드(Ironwood) TPU’가 핵심 역할을 하고 있다. 이 칩은 첫 세대 TPU보다 에너지 효율이 30배 개선됐으며, 범용 CPU 대비 전력 효율성도 크게 높다고 구글은 강조했다.
데이터센터 차원에서도 효율 지표가 강조된다. 구글은 전 세계 데이터센터의 평균 전력사용효율(PUE)을 1.09 수준으로 유지하고 있는데, 업계 평균(1.3~1.5)을 크게 밑도는 수치다. 냉각 과정에서는 지역별 수자원 상황을 평가해 물 사용을 최소화하고, 사용한 물보다 더 많은 양을 되돌려주는 ‘120% 수자원 재충전’ 방식을 적용하고 있다.
다만 AI와 데이터센터 수요 확대는 여전히 부담이다. 구글의 2024 환경보고서에 따르면, 전력 사용량은 전년 대비 27% 늘었다. 스코프1·2 배출은 각각 8%, 11% 줄었지만, 공급망 전반을 포함한 스코프3 배출은 오히려 22% 증가했다. 구글은 2030년까지 운영과 가치사슬 전반에서 넷제로 달성을 목표로, 청정에너지 구매와 차세대 전력망 구축, 탄소 제거 기술을 병행한다는 계획이다.