AI 데이터센터의 액체 냉각 및 방열 기술 분석

생성적 AI와 다양한 대형 모델은 완전히 새로운 애플리케이션 경험을 제공하며 컴퓨팅 성능에 대한 요구도 높아집니다. 데이터 센터 운영 관리자의 경우 GPU 서버의 전력 밀도가 크게 증가함에 따라 데이터 센터의 냉동 장비 및 기술에 대한 요구 사항이 더 높아졌습니다. 따라서 컴퓨팅 성능 자체에 중점을 두는 것 외에도 데이터 센터의 전력 소비 및 냉각으로 인해 발생하는 다양한 문제에도 더 많은 관심을 기울이고 있습니다.

AI 컴퓨팅 성능에 대한 강력한 수요로 인해 데이터 센터의 GPU 서버 수가 크게 증가하여 전력 소비 문제가 점점 더 두드러지고 있습니다. 우리는 데이터 센터의 공냉식 단일 캐비닛의 최대 총 전력이 15kW라는 것을 알고 있습니다. 동일한 랙업 속도로 GPU 서버의 전력 증가는 단일 캐비닛의 한계에 접근했습니다. 그러나 GPU의 전력 소비는 여전히 지속적으로 증가하고 있습니다. 높은 전력 소비와 고밀도 시나리오에 직면하여 기존 공기 냉각은 확실히 에너지 소비 및 열 방출 요구 사항을 충족할 수 없습니다. 초고에너지 효율과 초고열 밀도를 갖춘 액체 냉각 기술은 지능형 컴퓨팅 센터의 온도 제어 솔루션에 필수적인 옵션이 되었습니다.

기존 공냉식 데이터센터에서는 장비 냉각 및 열 방출을 위한 에너지 소비가 40%에 달하며 열 방출 효율도 높지 않습니다. 제한 사항으로 인해 데이터 센터의 기존 공기 냉각은 일반적으로 8-10kW의 단일 캐비닛 밀도로 설계됩니다. 액체 냉각 기술의 열전도율은 공기의 25배이고 동일한 양의 공기보다 거의 3000배에 달하는 열을 운반하므로 30kW가 넘는 단일 캐비닛 밀도를 쉽게 달성할 수 있습니다. 따라서 많은 공간을 절약하고 단일 데이터 센터에서 캐비닛의 배치 밀도를 더욱 향상시키며 데이터 센터 단위 영역의 활용률을 향상시킬 수 있습니다.
그러나 현재 액체 냉각 산업에는 통일된 기술 및 구축 표준이 없으며, 기존 공냉식 냉각에 비해 액체 냉각 데이터 센터의 건설 비용이 여전히 너무 높습니다. 액체 냉각 기술의 급속한 발전과 통일된 기술 및 건설 표준의 부족으로 인해 향후 관리 및 유지 관리에 심각한 어려움이 발생했습니다.

현재 주요 액체 냉각 기술로는 냉각판 액체 냉각 시스템으로 대표되는 간접 액체 냉각 기술과 침지 액체 냉각 시스템으로 대표되는 직접 액체 냉각 기술이 있습니다. 둘 사이의 방열 설계의 차이로 인해 방열 효율에도 상당한 차이가 있습니다.

간접 열 방출 기술은 CPU, 메모리, GPU, 하드 드라이브 및 냉각판과 같은 기타 매체의 표면에 접촉하고 냉각수의 흐름을 활용하여 열을 제거함으로써 달성됩니다. 냉각판 및 기타 매체 외에도 간접 액체 냉각 기술에는 열 교환기, 파이프라인, 펌프, 냉각수 및 제어 시스템과 같은 구성 요소도 포함됩니다. 냉각판 액체 냉각 시스템은 간접 액체 냉각 기술의 주요 솔루션이 되었습니다. 간접액체냉각기술의 가장 큰 장점은 기존 서버의 형태를 변경할 필요가 없고, 설계 기술 난이도가 낮으며, 구축 난이도가 상대적으로 낮고, 추후 운영 및 유지 관리 난이도가 상대적으로 낮다는 점이다. 또한, 냉각 매체로 에틸렌 글리콜 수용액을 사용하므로 비용이 저렴합니다.
단점은 방열 효율이 상대적으로 낮고, 부품 수가 많기 때문에 고장률이 상대적으로 높다는 점입니다. 현재 냉각판 액체 냉각 시스템은 대부분의 데이터 센터에서 선호되는 솔루션이 되었습니다.

직접 액체 냉각 기술은 CPU, GPU, 마더보드, 메모리 등이 직접 접촉하고 냉각수가 하드웨어 표면을 통해 직접 흘러 열을 흡수하고 제거하는 방식을 말합니다. 현재 직접 액체 냉각 기술에는 침지 액체 냉각 시스템과 분무 액체 냉각 시스템이 포함됩니다. 냉각 매체의 상변화 여부에 따라 단상 침지와 상변화 침지로 나눌 수 있습니다.
간접 방열 기술과 비교하여 직접 액체 냉각 기술은 액체와 열원 사이에 중간 전도성 매체가 없으며 열이 액체에 더 직접적으로 전달될 수 있어 방열 효율이 더 높습니다. 그러나 직접 액체 냉각 기술은 전체 데이터 센터를 재설계하고 전환해야 하기 때문에 배포하기가 더 어렵고 비용도 많이 듭니다. 현재 직접 액체 냉각 기술은 높은 방열 효율이 필요한 시나리오에 주로 사용됩니다.

현재 냉각판 액체 냉각 시스템이 더욱 성숙해짐에 따라 데이터 센터에 먼저 들어가는 주류 액체 냉각 기술이 될 것입니다. 냉판 수냉 기술의 대중화에 영향을 미치는 비용, 운영 및 유지 관리, 안전 등의 문제도 기술 개발과 표준화를 통해 해결될 것입니다.
지속적인 기술 개발로 인해 침수형 액체 냉각 시스템은 고밀도 신규 데이터 센터에도 널리 사용되어 데이터 센터의 열 방출 효율을 더욱 향상시키고 컴퓨팅 성능 수준을 크게 향상시킬 것입니다.