[르포] "수랭식으로 AIDC 전력 소비 13.9% 줄여"⋯'NHN 팩토리X 서울' 가보니

[아이뉴스24 최효경 기자] 서울 영등포구 양평동에 위치한 인공지능(AI) 데이터센터 'NHN 팩토리X 서울'. 건물 6층 데이터홀 문을 열자 사람 키를 훌쩍 넘긴 검은색 서버 랙이 줄지어 모습을 드러냈다. B200 그래픽처리장치(GPU) 서버 6대가 배치된 랙 위로는 굵은 냉각수 배관이 지나갔고, 뒤편에는 냉매 호스와 전력·통신 케이블이 촘촘히 연결됐다.

수천장의 GPU가 쉼 없이 연산하고 있지만 뜨거운 열기나 귀를 찌르는 굉음은 없었다. 서늘한 바람이 부는 데이터홀에서는 바로 옆 사람의 설명을 알아들을 수 있을 정도로 조용했다. 이일준 NHN클라우드 기술사업부장은 "공랭식 냉각을 사용할 경우 GPU 서버에서 나오는 소음 데시벨이 90(dB)에서 110(dB)에 달한다"며 "이 곳은 직접수랭식(DLC)을 통해 데시벨이 6-70(dB)에 불과한 것"이라고 말했다. 데이터홀이 외부에 공개된 것은 이번이 처음이다. 그만큼 서비스 운영에 핵심적인 공간이란 의미다.

B200 총 7656장⋯"수랭식 냉각으로 전력 효율 약 14% 높여"

18일 방문한 'NHN 팩토리X 서울'에는 엔비디아 B200 GPU 총 7656장이 있다. 한 장에 약 10억원, 한 랙 당 60억원 규모다. NHN클라우드는 건물 3~6층에서 AI 모델 학습과 추론에 필요한 컴퓨팅 자원을 운영한다. 이곳은 지난 해 정부가 발주한 1조 4700억원 규모의 'AI 컴퓨팅 인프라 사업'에서 NHN클라우드가 1조원 규모의 AI 인프라 구축과 운영을 맡으면서 조성됐다.

지난 4월부터 본격 가동된 팩토리X의 핵심 경쟁력은 GPU의 열을 잡는 직접수랭식(DLC) 냉각이다. 서버 내부 GPU와 중앙처리장치(CPU)에 '콜드플레이트'를 맞대고, 그 안으로 냉각수를 순환시켜 열을 직접 빼낸다. 데워진 냉각수는 랙 아래 설치된 냉각수분배장치(CDU)를 거쳐 다시 식혀진다.

수랭식의 효과는 전력 사용량에서 드러난다. 이일준 NHN클라우드 기술사업부장은 "GPU 서버 한 대 전력 기준 공랭식에서는 14.3킬로와트(kW)인 반면, 수랭식의 경우 12.3kW로 낮아진다"며 "공랭식보다 서버 전력 사용량이 약 13.9% 줄어드는 것"이라고 설명했다.

서버 6대가 들어간 랙을 기준으로 하면 차이는 더 커진다. 공랭식 서버 6대의 합산 전력은 85.8kW지만 수랭식은 73.8kW로, 랙 하나당 12kW가 낮아진다.

GPU 온도가 약 70도를 넘어가면 장비가 스스로 연산량을 낮추고, 성능을 줄이는 현상 '스로틀링'이 발생한다. 냉각이 GPU 성능과도 직결되는 이유인 동시에 NHN클라우드의 수랭식 기술이 대규모 GPU 운용에 핵심 경쟁력인 이유다.

하지만 GPU 연산을 멈추게 하는 위험은 열만이 아니다. 이날 공개된 발전기실에는 재난 상황 등 다양한 비상 상황에도 '멈추지 않는 데이터센터'를 구축하기 위한 기술이 구축돼 있다.

발전기실에는 승용차보다 큰 디젤 엔진과 발전 설비가 줄지어 자리 잡고 있다. "무정전전원장치(UPS)와 배터리는 비상 상황 발생 시 몇 분 동안 버티도록 설계됐느냐"는 질문에 김기상 NHN클라우드 전기팀 과장은 "풀 부하 상태에서도 10분 이상 버티도록 설계했다"고 말했다.

이 10분은 정전 이후 데이터센터가 가동될 수 있는 전체 시간이 아니다. 외부 전력이 끊긴 순간부터 비상발전기가 정상적으로 전력을 공급하기까지 공백을 메우는 시간이다. 김 과장은 " 10분 안에 발전기가 정상적으로 돌아가는 것을 주기적으로 테스트하고 있다"고 말했다

팩토리X 서울은 외부 전력을 두 경로로 공급받는다. 한쪽에 문제가 생기면 다른 쪽에서 전력을 받고, 두 경로가 모두 끊기면 UPS 배터리가 즉시 전력 공급을 이어받는다. 비상발전기용 연료는 현재 약 66시간 가동할 수 있는 수준으로 유지하고 있다.

김 과장은 "정전을 감지한 뒤 비상발전기가 기동해 전압을 안정화하는 데 걸리는 시간은 약 10~20초다"라며 "UPS가 확보한 10분 안에 발전기가 전력 공급을 넘겨받는 구조다"고 설명했다.

AI 모델 학습은 한 번 시작하면 일주일에서 한 달 가까이 이어지기도 한다. 연산 도중 전력이나 냉각 설비에 문제가 생기면 그동안 진행한 작업까지 영향을 받을 수 있다. 이에 팩토리X 서울에서는 데이터홀의 물이 GPU의 열을 잡고, 발전기실의 UPS가 발전기 가동 전까지의 공백을 지키며, 총 1조원 규모의 수천개 GPU를 보호·운용하고 있다.

이일준 부장은 "NHN클라우드는 국내 최초 AI 전용 데이터센터인 광주 데이터센터 운영 역량을 바탕으로 팩토리X을 통해 대한민국AI 생태계를 한층 더 발전시키기 위해 노력할 것"이라고 말했다.