AI 및 열 냉각
AI 애플리케이션은 데이터 센터의 고밀도화를 가속화합니다. AI로 인한 데이터 및 컴퓨팅의 폭발적인 성장과 특히 1선 도시에서 데이터 센터 리소스의 부족이 증가하는 상황에 직면하여 컴퓨터실의 단위 면적당 컴퓨팅 성능, 저장 및 전송 기능을 개선해야만 가능합니다. 데이터센터의 가치가 극대화됩니다. 고성능 컴퓨팅 AI 칩의 도입은 서버 고전력 밀도의 진화 추세를 가속화할 것입니다.
ChatGPT가 인공지능 응용에 대한 새로운 열기를 불러일으키면서 국내외 데이터센터와 클라우드 비즈니스 제조사들이 AI 인프라 구축을 추진하기 시작했고, 전체 서버에서 AI 서버 출하량이 점차 늘어나고 있다. TrendForce 데이터에 따르면 GPGPU를 탑재한 AI 서버의 연간 출하량은 2022년 전체 서버의 약 1%를 차지했습니다. 2023년에는 ChatGPT 등 인공지능 애플리케이션의 지원으로 AI 서버의 출하량이 증가할 것으로 예상됩니다. 전년 대비 8% 증가했습니다. 2022년부터 2026년까지 출하량 CAGR은 10.8%에 이를 것으로 예상됩니다. GPU는 주로 AI 서버에 사용되는데 주로 Nvidia H100, A100, A800(주로 중국으로 출하)을 비롯해 AMD MI250, MI250X 시리즈도 사용되는데, NVIDIA와 AMD의 비율은 약 8:2이다.
4000r/min을 초과하는 팬 속도가 열 저항에 미치는 영향은 제한적입니다. CNKI에 따르면 공냉식 시스템에서는 팬 속도가 1000r/min에서 4000r/min으로 증가하고 대류가 칩 열 방출을 지배합니다. 유량이 증가하면 대류 열전달 계수가 크게 증가합니다. 공기 냉각은 칩 열 방출 문제를 효과적으로 개선할 수 있습니다. 팬 속도가 4000r/min을 초과하면 열 전달 저항의 감소가 상대적으로 완만하고 속도를 높이면 공기와의 열 전달만 향상되어 열 방출 효과가 감소합니다. 칩 레벨 액체 냉각은 미래 개발 추세입니다. 2U의 서버 공간에서 250W는 대략 공기 냉각 및 열 방출의 한계입니다. 4U 이상 공기 냉각은 400-600W에 도달할 수 있습니다. AI 칩의 TDP는 일반적으로 400W를 초과하며 주로 4-8U를 사용합니다. 기존의 공냉식 열 방출은 한계에 도달했습니다. 칩 온도 제어는 최대 온도가 85도를 초과하지 않는 안정적이고 지속적인 작동을 위해 특히 중요합니다. 온도가 너무 높으면 칩이 손상될 수 있습니다. 70-80도 내에서 단일 전자 부품의 온도가 10도 증가할 때마다 시스템 신뢰성이 50% 감소합니다. 따라서 전력 증가의 맥락에서 냉각 시스템은 칩 수준 액체 냉각으로 업그레이드됩니다.
공랭식에 비해 액체 냉각은 고전력 밀도 캐비닛의 열 방출 요구 사항을 충족할 뿐만 아니라 더 낮은 PUE와 더 높은 전력 출력(GUE)을 달성할 수 있습니다. 기존 공냉식과 비교했을 때 냉각판 액체 냉각의 PUE는 일반적으로 1.1배로 GUE가 75% 이상인 반면 침수형 액체 냉각의 PUE는 GUE로 1.0x만큼 낮을 수 있습니다. 80%가 넘는다. 액체 냉각 기술을 동시에 사용하면 IT 장비 팬의 일부 또는 전체를 제거할 수 있습니다. 일반적으로 팬 에너지 소비량은 서버 장비 에너지 소비량으로 계산됩니다. 침수형 액체 냉각의 경우 서버 팬을 제거하면 서버 에너지 소비를 약 4% -15% 줄일 수 있습니다.
현재 냉각판 액체 냉각 기술의 성숙도는 상대적으로 높으며 액체 냉각 기술 경로의 주류입니다. 현재 비율이 80%라고 가정합니다. 앞으로 침지액체냉각 기술이 성숙해짐에 따라 전체 비중은 점차 높아질 것으로 예상된다. 포괄적인 계산을 바탕으로 AI 대형 모델 교육 및 추론을 통해 액체 냉각 시장 규모는 40억 RMB에 달할 것입니다. 모델 매개변수의 증가와 사용 촉진으로 액체 냉각 시장은 향후 4년 동안 연평균 60%의 성장률을 경험할 것입니다.
우리는 AI 빅 모델이 컴퓨팅 전력 수요의 업그레이드를 주도하고, 고전력 밀도 지능형 컴퓨팅 및 슈퍼컴퓨팅 센터의 건설을 주도하며, 액체 냉각 시스템과 같은 지원 시설의 시장 도입을 가속화하고 미래에 이를 것으로 기대합니다. , 신규 데이터센터 건립과 기존 데이터센터의 전환으로 전체 보급률은 급격히 높아질 것으로 예상된다. 현재 액체 냉각 산업은 아직 개발 초기 단계에 있으며 기술 및 생산 능력 면에서 선도적인 레이아웃을 갖춘 제조업체에 대해 낙관적입니다.