메모리값 급등기, 팀 AI 도입 전 점검할 것들
AI 데이터센터 수요가 급증하며 범용 D램 계약가격이 2026년 1분기 90% 넘게 오르고 공급 부족이 2027년까지 전망되면서, AI 도구의 가격과 가용성이 함께 흔들리고 있다. 이 변화는 API·SaaS 사용형이냐 클라우드·GPU 예약형이냐에 따라 다르게 작동하고, 가격 위험과 용량 위험으로 나눠 봐야 한다. 도입을 확정하기 전 가격 인상 조건, 용량 보장, 계약 기간, 예산 민감도를 공급사에 확인하는 것이 점검 포인트다.
지금 인프라에서 벌어지는 일
AI 도구 도입을 올해 예산으로 계획한다면, '작년 단가'와 '필요할 때 언제든 쓸 수 있다'는 두 전제부터 다시 봐야 한다. AI 인프라 수요가 그 전제를 흔들고 있기 때문이다.
신호는 숫자로 나온다. AMD의 2026년 3분기 데이터센터 매출은 1년 전보다 97% 늘었다. 이 수요는 메모리로 번진다. 트렌드포스 집계에서 범용 D램 계약가격은 2026년 1분기에 전분기 대비 90~95%, 2분기에 다시 58~63% 올랐다. 카운터포인트리서치는 전체 메모리 매출에서 서버용이 차지하는 비중이 2025년 37%에서 2026년 56%로 커진다고 봤다.
공급은 수요를 못 따라간다. IDC는 2026년 D램 공급 증가율을 16%로 추정했는데, AI 데이터센터 수요를 따라잡기엔 부족하다는 평가다. 여러 기관은 이 수급 불균형이 2027년까지 이어진다고 본다. 다만 상승 폭 전망은 기관마다 갈린다. 가트너는 2026년 연간 47% 상승을 내다봤다.
더 직접적인 변수는 따로 있다. 메모리 제조사가 AI 서버용 고용량 제품을 먼저 배정하면서 다른 고객이 뒤로 밀렸다는 분석이다. 이 '우선순위 밀림'이 팀 단위 구매에 체감되는 부분이다.
우리 팀 비용은 어디로 연결되나
Photo by Domaintechnik on Unsplash
도입 형태에 따라 노출되는 위험이 다르다. 두 가지로 나눠 보면 정리가 쉽다.
첫째, API·SaaS 사용형이다. 챗봇, 코드 보조도구, 문서 요약 API처럼 쓴 만큼 내는 방식이다. 하드웨어는 공급사가 갖고 있으니 우리 쪽 위험은 단가 인상, 호출 한도(rate limit), 그리고 공급사의 용량 배급이다. 실제로 수요가 몰린 일부 서비스가 신규 사용을 조이거나 특정 기능을 일시 중단한 사례가 보도됐다.
둘째, 클라우드·GPU 예약형이다. 모델을 직접 돌리려고 GPU 인스턴스나 전용 용량을 예약하는 방식이다. 여기선 서버 메모리 단가 상승이 인프라 비용에 바로 얹힌다. 일부 클라우드 사업자가 GPU 사용료를 올리고 최소 계약 기간을 늘렸다는 보도도 나왔다.
두 형태가 완전히 분리되지는 않는다. API·SaaS 사용형이라도 공급사의 인프라 비용이 오르면 그 부담은 결국 사용 단가나 요금제 개편으로 흘러나온다. 직접 하드웨어를 빌리지 않을 뿐, 뒤에서 같은 압력을 받는 셈이다. 그래서 '우리는 API만 쓰니 상관없다'는 가정은 위험하다.
가격 위험과 용량 위험은 다르다
이 둘을 섞어 보면 판단이 흐려진다.
가격 위험은 '같은 것을 더 비싸게' 쓰는 문제다. 예산을 늘리거나 사용량을 줄이면 대응된다. 용량 위험은 '돈을 내도 못 쓰는' 문제다. GPU 대기열, 지역별 재고 부족, 신규 가입 제한이 여기 속한다. 마이크로소프트 애저 쪽에서 GPU 대기가 2026년 말까지 이어질 수 있다는 언급이 나온 것도 이 유형이다.
확정과 전망도 구분해야 한다. 가격이 오른 것은 사실이고, 앞으로 얼마나 더 오를지는 전망이다. 전망치는 기관마다 크게 다르므로 한 수치를 기준선으로 고정하지 않는 편이 안전하다.
계약·예산 단계 점검 질문
도입을 확정하기 전에 다음을 공급사와 내부에 물어보자.
- 가격 인상 조건: 계약 기간 중 단가를 올릴 수 있는가. 올린다면 통지 기간과 상한이 있는가.
- 용량 보장: 우리가 쓰려는 지역·모델·GPU가 지금 실제로 가용한가. 대기열이나 할당 제한이 있는가.
- 사용량 한도: 분당·일당 호출 한도와 초과 시 처리 방식은 무엇인가.
- 계약 기간과 해지: 최소 약정 기간이 늘지 않았는가. 중도 해지나 감액 조건은 어떤가.
- 예산 민감도: 단가가 30%, 50% 오르면 월 비용이 얼마가 되나. 그 선에서도 쓸 가치가 있나.
- 대체 경로: 한 공급사가 막히면 바꿔 탈 대안이 있는가. 데이터와 프롬프트는 옮길 수 있는가.
핵심은 하나다. 올해의 AI 도입은 좋은 도구를 고르는 일만이 아니라, 오른 가격과 빠듯한 용량 속에서 확보 가능한 조건을 고르는 일이기도 하다. 계약서의 가격·용량 조항을 기능 설명만큼 꼼꼼히 보는 편이 낫다.