로컬 AI 이미지 GPU, VRAM부터 따져라
로컬 AI 이미지 생성용 GPU는 성능 점수보다 VRAM 용량이 무엇을 돌릴 수 있는지를 먼저 결정한다. 최신 Flux 모델까지 쓰려면 16GB가 현실적 하한선이며, 전력은 카드와 CPU를 합산해 순간 스파이크까지 여유를 둬야 한다. 구매 전 돌릴 모델, PSU 용량, 케이스 통풍, 소프트웨어 호환성 네 가지를 스스로 점검하면 된다.
무엇을 돌릴지가 GPU를 결정한다
로컬에서 AI 이미지를 만들 GPU를 고른다면 먼저 볼 것은 성능 점수가 아니라 VRAM 용량이다. 이미지 생성 모델은 통째로 그래픽카드 메모리에 올라가야 제 속도가 난다. 모델이 VRAM에 다 못 들어가면 데이터가 느린 시스템 RAM으로 넘치거나 아예 메모리 부족 오류로 멈춘다.
그래서 순서가 중요하다. 어떤 모델을 쓸지 정하고, 그 모델이 요구하는 VRAM을 확인한 뒤, 발열과 전력, 소프트웨어 호환성을 차례로 점검하는 방식이 낭비가 적다.
1순위: VRAM 용량은 모델이 정한다
Photo by Joseph Greve on Unsplash
돌리려는 모델에 따라 필요한 메모리 차이가 크다. 아래는 로컬 구동 시 대략적인 VRAM 기준이다.
| 모델 | 최소 | 여유 있게 |
|---|---|---|
| SD 1.5 | 4GB | 6GB |
| SDXL | 8GB | 12GB |
| Flux.1 (FP8) | 16GB | 24GB |
| SD 3.5 Large | 18GB | 24GB |
가벼운 SD 1.5는 4GB로도 돌아가고, SDXL은 8GB가 최소지만 1024x1024 해상도를 안정적으로 뽑으려면 12GB는 있어야 한다. 문제는 요즘 많이 쓰는 Flux다. Flux.1 Dev는 원본(FP16)이 33GB를 요구해 소비자용 카드로는 감당이 안 된다. 다만 FP8로 낮추면 약 17GB, GGUF 양자화 버전은 12GB 안팎까지 내려온다. 화질을 조금 양보하는 대신 16GB 카드에서도 Flux를 돌릴 수 있다는 뜻이다.
결론은 단순하다. 최신 모델까지 쓸 생각이라면 16GB가 현실적인 하한선이고, 영상 생성이나 여러 모델을 동시에 다룰 계획이면 24GB를 노리는 게 안전하다.
2순위: 발열과 전력, 카드만 보면 안 된다
VRAM이 맞아도 전원이 못 받쳐주면 시스템이 꺼진다. 주요 카드의 소비 전력을 보면 RTX 4090은 450W, RTX 5090은 575W, AMD RX 7900 XTX는 355W다. 여기서 놓치기 쉬운 게 두 가지다.
첫째, 전원 용량은 그래픽카드 혼자가 아니라 CPU까지 합쳐 계산해야 한다. 제조사 권장 PSU가 850W부터 1200W까지 벌어지는 이유가 여기 있다. 같은 RX 7900 XTX라도 라이젠5·7 조합이면 850W, 스레드리퍼 같은 고성능 CPU와 묶으면 1200W를 권한다.
둘째, 최신 고성능 카드는 표시된 소비 전력보다 순간적으로 훨씬 높은 전류를 끌어당긴다. 575W로 적힌 RTX 5090이 순간 스파이크에서는 650W를 넘기기도 한다. PSU를 딱 맞게 사면 이 순간 부하에서 시스템이 튕길 수 있으니, 정격보다 여유를 두는 편이 낫다. 이미지 생성은 GPU를 길게 100%로 쓰는 작업이라 발열 배출이 되는 케이스 환경인지도 함께 봐야 한다.
3순위: 소프트웨어 호환성이 실사용을 가른다
카드가 좋아도 쓰려는 툴이 안 돌면 소용없다. NVIDIA의 CUDA는 사실상 표준이라, ComfyUI든 PyTorch든 대부분의 튜토리얼과 확장이 NVIDIA를 전제로 만들어져 있다. 처음 세팅하는 사람에게는 마찰이 가장 적은 길이다.
AMD도 많이 따라왔다. ROCm이 이제 PyTorch, ComfyUI, LM Studio 등을 기본 지원한다. 다만 대가가 있다. 같은 급 NVIDIA 카드보다 20~40% 낮은 성능을 감수해야 하고, 커뮤니티가 만든 커스텀 노드에서 호환 문제가 종종 생긴다. 게다가 ROCm은 윈도우에서 그대로 돌지 않아 WSL2 환경을 거쳐야 한다. 윈도우에서 AMD로 바로 쓰려면 ComfyUI의 DirectML 백엔드를 써야 하는데, 성능과 안정성 면에서 최선은 아니다.
정리하면 이렇다. 문제 없이 바로 쓰고 싶으면 NVIDIA, 같은 값에 더 큰 VRAM을 원하고 리눅스나 WSL2 세팅을 감수할 수 있으면 AMD가 선택지가 된다.
사기 전에 스스로 확인할 것
- 돌릴 모델을 먼저 정했는가. SDXL까지면 12GB, Flux까지면 16GB 이상.
- 현재 PSU 용량이 그래픽카드와 CPU 합산에 순간 스파이크 여유까지 감당하는가.
- 케이스 크기와 통풍이 카드 길이와 발열을 받아주는가.
- 쓰려는 툴이 NVIDIA 전용 기능에 의존하는가. AMD라면 WSL2 세팅을 감당할 수 있는가.
이 네 가지가 정리되면 예산 안에서 VRAM이 가장 큰 카드를 고르는 것이 대체로 후회가 적다. 성능 벤치마크 숫자보다, 내가 돌릴 모델이 그 카드에 올라가느냐가 먼저다.