비효율적인 데이터 센터가 지속 가능성과 AI 채택을 방해하는 방법

AI 워크로드의 전력 수요는 기업이 직면한 과제를 더욱 악화시킬 뿐이라고 HPE의 지속 가능한 혁신 부문 최고 기술 전문가가 말했습니다.

조직에서는 여전히 데이터 센터 및 IT 요구 사항을 과도하게 프로비저닝하고 있으며, 이는 이러한 시설을 보다 지속 가능하게 운영하려는 노력에 방해가 될 수 있습니다.

예를 들어 HPE(Hewlett Packard Enterprise)의 지속 가능한 혁신 담당 수석 기술 전문가인 John Frey는 ZDNET과의 인터뷰에서 기업이 시스템을 효율적으로 실행하는 기능을 끄는 것은 드문 일이 아니라고 말했습니다. Frey는 HPE가 전력 성능을 최적화하여 가장 효율적인 수준에서 작동하도록 설정된 장치를 배송한다고 설명했습니다. 불행하게도 고객들은 새 제품을 받자마자 기본 설정을 끄는 경우가 많습니다. 시스템이 지연 없이 실행하는 데 필요한 컴퓨팅 성능을 빼앗기지 않을까 걱정하기 때문입니다.

"그래서 우리는 가장 효율적인 방식으로 작동하도록 제품을 설계하고 이를 기본값으로 설정할 수 있습니다. 문제는 어떻게 고객이 그런 식으로 작동하도록 할 수 있느냐 하는 것입니다."라고 Frey는 ZDNET에 설명했습니다. HPE Discover 2024의 내용입니다.

Frey는 대부분의 경우 기업이 데이터 센터와 IT 인프라를 30% 활용률로 운영하며 이러한 시스템이 계속해서 원활하게 작동하는 것에 대한 불안감을 완화하기 위해 과잉 프로비저닝을 선택한다고 지적했습니다. 이러한 기업은 결국 극도로 효율적이지만 비효율적으로 사용되는 하드웨어 스택을 갖게 된다고 그는 말했습니다. 그는 HPE의 노력 중 상당 부분이 고객이 자사 제품을 보다 효율적으로 사용할 수 있도록 돕는 데 집중하고 있으며, 이를 통해 이러한 시스템에 전력을 공급하는 데 필요한 에너지를 줄일 수 있다고 덧붙였습니다.

Frey는 고객 교육과 사고방식의 변화가 전반적인 지속 가능성 노력을 추진하는 데 큰 역할을 한다고 말했습니다. HPE는 고객에게 변화를 안내하는 채택 프레임워크를 포함하여 백서와 사례 연구를 제공합니다.

Frey는 측정항목과 분석이 비용, 위험 감소, 탄력성 향상, 탄소 배출 감소, 사이버 보안 이점 등 비즈니스 수익을 정량화하는 역할도 한다고 지적했습니다.

이러한 운영 표준 중 일부를 규제하고 의무화하면 채택을 촉진하는 데 도움이 될 수 있지만 이러한 표준은 업계 및 사용자 커뮤니티와 협력하여 출시되어야 한다고 Frey는 말했습니다. 이를 통해 다른 영역의 성과 저하와 같은 의도하지 않은 결과가 발생하지 않도록 할 수 있습니다. 그러한 의도하지 않은 결과를 초래하는 정책은 기업이 규제 국가 밖으로 작업 부하를 이동하도록 강요할 수 있으며 이는 정부가 이러한 명령을 설정하는 데 원하는 것이 아니라고 그는 덧붙였습니다.

보다 지속 가능한 데이터 센터를 구축하는 데 있어 주요 장벽에 대한 질문에 Frey는 특히 인공 지능(AI) 워크로드가 급증할 것으로 예상되는 가운데 일률적인 전략은 더 이상 효과가 없다고 지적했습니다. AI 애플리케이션을 구동하는 시설에는 이러한 컴퓨팅 집약적 환경의 에너지 효율성을 유지하거나 개선하기 위해 액체 냉각이 필요할 가능성이 높습니다. 반면에 주변 공기를 두드리는 것만으로도 보다 일반적인 용도의 애플리케이션을 실행하는 데이터 센터 내부를 냉각시키는 데 충분할 수 있다고 Frey는 설명했습니다.

열대 기후에 대한 싱가포르의 데이터 센터 운영 표준과 같이 더 높은 온도를 해결하려는 노력도 기존 워크로드에 더 적합하다고 Frey는 말했습니다. 기업이 AI를 채택하여 더 높은 랙 전력 밀도를 향해 나아가면서 액체 냉각 환경으로 전환해야 할 가능성이 높다고 그는 지적했습니다.

Frey는 더 새롭고 강력한 프로세서가 더 많은 작업을 처리할 수 있기 때문에 더 많은 열을 발생시키기 때문에 대부분의 데이터 센터 운영자가 같은 방향으로 움직일 것이라고 믿습니다.

평균 IT 랙은 3~5kW에서 실행되었습니다. 그는 지난 10년 동안 주류 컴퓨팅 워크로드의 경우 20kW 이상으로 증가했다고 말했습니다. AI 워크로드를 실행하거나 모델을 교육하는 랙의 경우 전력 요구 사항이 더욱 높아져 랙당 50kW 이상에 도달합니다. 주변 공기만으로는 이러한 환경을 냉각하기에 충분하지 않으므로 액체 냉각이 필요하다고 Frey는 말했습니다.

실제로 기술 연구 및 자문 회사인 Omdia에 따르면 액체 냉각에 대한 수요로 인해 데이터 센터 열 관리 시장이 76억 7천만 달러에 이르렀습니다. AI의 채택과 발전에 힘입어 2028년에는 연평균 18.4%의 복합 성장률로 증가해 168억 달러에 이를 것으로 예상됩니다.

특히 액체 냉각은 중국과 북미에서 상당한 성장을 보였다고 Omdia는 말했습니다. 연구 회사는 "AI의 영향력 증가와 지속 가능성 요구 사항으로 인해 데이터 센터 열 관리가 발전하고 있습니다"라고 말했습니다. "강한 성장 전망에도 불구하고 업계는 액체 냉각의 공급망 제약과 지속 가능한 관행 수용으로 인해 어려움에 직면해 있습니다."

Omdia는 AI에 최적화된 냉각 시스템, 전략적 공급업체 파트너십, 에너지 효율적이고 환경 친화적인 솔루션에 대한 지속적인 노력의 통합이 업계 발전을 형성할 것이라고 덧붙였습니다.