엔비디아 실적 좋아도 AI 대기가 안 풀리는 이유

실적 숫자가 말해주는 것과 말해주지 않는 것

엔비디아는 2027 회계연도 2분기(2026년 5~7월) 매출 962억 달러를 기록했다. 아시아투데이와 아주경제 등이 전한 발표 내용을 보면 1년 전보다 106%, 직전 분기보다 18% 늘어난 수치이고, 시장 전망치였던 921억 달러를 40억 달러 넘게 웃돌아 13분기 연속 최대 실적을 새로 썼다.

중요한 건 이 성장의 대부분이 어디서 나왔는가다. 데이터센터 부문이 890억 달러로 전체 매출의 92%를 차지했다. 챗봇 응답을 만들고 코드 어시스턴트를 돌리는 바로 그 서버용 칩이다. 잘 팔린다는 건 좋은 소식이지만, 정확히 말하면 만드는 족족 팔려나가는 공급 부족의 신호이기도 하다. 재고가 쌓여 할인하는 상황이 아니다.

팔린 GPU가 내 화면의 응답이 되기까지

Photo by Matthew Henry on Unsplash

GPU가 출하됐다고 해서 그만큼의 연산이 곧바로 가동되는 것은 아니다. 칩은 데이터센터에 설치되고, 전력이 연결되고, 냉각이 갖춰져야 비로소 실제 서비스에 투입된다. 지금 이 마지막 단계가 막혀 있다.

머니투데이 보도에 따르면 올여름 미국 PJM 관할 구역의 전력 수요는 166.3GW로 20년 만에 최고 기록을 갈아치웠다. 원전 94기 전체 발전용량(97GW)에 육박하는 규모다. 골드만삭스는 미국 데이터센터의 전력 수요가 2025년 31GW에서 2027년 66GW로 두 배 이상 늘 것으로 봤다. 칩은 있는데 꽂을 자리와 돌릴 전기가 부족하다는 뜻이다.

왜 시차가 이렇게 긴가

병목은 두 겹이다. 하나는 방금 말한 전력과 완공, 다른 하나는 메모리다. 아시아투데이가 전한 업계 전망을 보면 HBM을 비롯한 메모리 공급 부족은 2028년까지 이어질 것으로 예상된다. 전력 쪽도 원전과 소형모듈원자로(SMR)가 본격 가동되는 2028년 이후에야 숨통이 트인다는 분석이 많다.

그래서 이번 실적 서프라이즈를 '이제 서버가 넉넉해지겠구나'로 읽으면 곤란하다. 오히려 수요가 공급을 이렇게까지 앞지르고 있다는 증거에 가깝다. 실무자 입장에서 체감하는 접속 지연이나 사용량 제한은 이 수급 격차가 사용자에게 전가된 결과다.

그래서 대기는 언제 풀리나

솔직히 말하면 특정 시점을 못 박을 근거는 아직 없다. 공급 자체는 분명히 늘고 있지만, 그 증가분이 전력과 완공 병목을 통과해 실제 가용 연산으로 바뀌는 속도는 지역별 인허가와 인프라 사정에 좌우된다. 데이터센터 완공이 지연되면 GPU 재고가 창고에 쌓일 수도 있는데, 이건 서비스 여유가 늘어난다는 뜻이 아니라 오히려 공급망이 꼬였다는 신호다.

확실한 건 하나다. 실적 발표만 보고 몇 달 안에 지연이 눈에 띄게 줄 거라 기대하는 건 근거가 약하다.

장애가 잦을 때 실무자가 할 수 있는 것

개선 시점을 기다리는 대신, 지연과 제한을 전제로 작업 방식을 설계하는 편이 현실적이다.

• 공급자를 하나로 묶지 않는다. 같은 작업을 처리할 대체 모델이나 다른 제공사 API를 미리 연결해 두고, 한쪽이 막히면 자동으로 넘어가게 한다.
• 재시도에 지수 백오프를 건다. 실패하자마자 곧바로 다시 던지면 혼잡을 키운다. 간격을 점점 벌리는 방식이 서로에게 낫다.
• 급하지 않은 대량 작업은 오프피크로 미룬다. 실시간이 필요 없는 요약·분류·배치 처리는 사용량이 몰리는 낮 시간대를 피한다.
• 경량·로컬 모델을 후보로 둔다. 모든 작업에 최상위 모델이 필요하지는 않다. 간단한 분류나 초안은 작은 모델이나 온디바이스로 돌리면 외부 서비스 의존도를 낮출 수 있다.

정리하면, 엔비디아의 기록적인 실적은 AI 인프라 수요가 얼마나 뜨거운지를 보여주는 지표이지 내 서비스가 곧 쾌적해진다는 예고가 아니다. 당분간은 지연을 견디는 쪽에 무게를 두는 게 안전하다.

출처

1. AI 투자 정점론 밀어낸 엔비디아, 삼전닉스 HBM 호황 지속 전망
2. 엔비디아 실적 발표, 어닝 서프라이즈보다 주목할 점은
3. 美 전력난이 흔드는 삼전닉스 주가?…병목이 된 '전력 인프라'