데이터센터 액체냉각, 내 AI가 빨라지는 건 아니다
LG CNS와 네이버클라우드가 8월 26일 삼송 데이터센터에 GPU 칩을 직접 식히는 액체냉각을 구축한다고 밝혔다. 이는 랙당 200kW를 넘어선 GPU 발열을 잡아 성능이 깎이지 않게 하는 기반 공사이지, 곧바로 챗봇 응답이 빨라지거나 요금이 내려간다는 뜻은 아니다. 구축·실증이 2027년으로 예정된 만큼, 지금 체감할 변화와 시간이 더 필요한 변화를 나눠서 볼 필요가 있다.
이번 발표가 풀려는 건 '속도'가 아니라 '열'이다
LG CNS와 네이버클라우드가 8월 26일 경기 삼송 데이터센터에 액체냉각을 구축한다고 발표했다. 핵심은 냉각 방식의 교체다. 지금까지 데이터센터는 대부분 공기로 서버를 식혀 왔는데, 이 방식으로는 랙 하나당 20~30kW 정도를 감당한다.
문제는 생성형 AI를 돌리는 최신 GPU 서버다. 이 장비들은 랙당 200kW를 넘어선다. 기존 공랭식으로 감당하던 수준의 예닐곱 배다. 공기로는 이 열을 빼낼 수 없다는 게 이번 투자의 출발점이다.
발열을 방치하면 성능이 깎인다
Photo by Thomas Foster on Unsplash
GPU는 권장 운영 온도가 60도 안팎이다. 고부하로 돌리면 온도가 80도를 넘고 100도 이상까지 오르기도 한다. 이때 칩은 스스로를 보호하려고 연산을 줄인다. 스로틀링이라고 부르는 현상인데, ZDNet코리아는 이렇게 깎인 상태를 두고 "AI 연산 성능이 반토막 나는 셈"이라고 표현했다.
그래서 냉각은 속도를 '더하는' 기술이 아니라, 열 때문에 깎이는 성능을 '지키는' 기술에 가깝다. 콜드플레이트라는 냉각판을 GPU 칩에 직접 붙여 열을 흡수하는 이번 직접 칩 냉각(DTC) 방식도 목적은 같다. 칩을 제 온도에서 돌게 해 원래 성능이 나오게 하는 것이다.
냉각 자체의 효율도 개선된다. 냉각업체 엠키스코어의 김종훈 연구소장은 액체냉각이 공랭 대비 냉각 비용을 최대 94%까지 줄이고 서버 소비 전력도 약 13% 낮출 수 있다고 설명했다. 다만 이 수치는 데이터센터 운영비 이야기이지, 사용자 요금과 곧장 연결되는 값은 아니다.
그래서 내 AI는 언제 빨라지나
인프라 투자가 서비스 체감으로 이어지려면 몇 단계를 거친다. 이번 건은 아직 '구축과 실증' 단계이고, 완료 목표가 2027년이다. 실증에서 안정성을 확인한 뒤에야 실제 서비스에 얹힌다. 발표가 곧 서비스 반영은 아니라는 뜻이다.
체감 성능은 냉각 하나로 정해지지도 않는다. 응답 속도는 GPU 성능뿐 아니라 이용자가 몰리는 시간대, 모델 크기, 네트워크까지 얽혀 있다. 냉각은 그중 '하드웨어가 제 성능을 내는' 조건을 받쳐줄 뿐이다.
지금 기대할 것과 아직 아닌 것
지금 시점에서 나눠보면 이렇다.
기대해도 되는 쪽은 서비스의 '안정성'과 '용량 여지'다. 고밀도 GPU를 열 문제로 못 켜던 상황이 풀리면, 사업자는 더 무거운 모델을 더 많이 돌릴 여건을 갖춘다. 성수기에 응답이 밀리거나 대기가 걸리던 병목이 완화될 토대가 되는 것이다.
아직 기대하기 이른 쪽은 '당장의 속도'와 '요금 인하'다. 이번 발표 어디에도 응답 속도가 몇 %, 요금이 얼마 내려간다는 약속은 없다. 액체냉각 시장이 2026년 40억 달러대에서 2033년 270억 달러대로 커진다는 전망처럼 방향은 뚜렷하지만, 내 화면 속 챗봇이 그 덕을 보는 시점은 별개다.
정리하면, 이번 소식은 AI 서비스가 굴러갈 '바닥'을 다지는 공사에 가깝다. 지금 쓰는 서비스가 느리다면 그건 대개 냉각이 아니라 다른 이유이고, 액체냉각의 효과는 2027년 실증 이후 서비스가 어떻게 바뀌는지를 지켜봐야 확인된다.