#로컬AI

2개의 글

AMD GPU로 로컬 AI, OS와 지원 카드부터

AMD는 2026년 3분기 데이터센터 매출이 1년 전보다 97% 늘며 AI 반도체 기업으로 주목받고 있지만, 그 성과가 집에서 쓰는 라데온 그래픽카드의 로컬 AI 호환성을 곧바로 보장하지는 않는다. 올해 ROCm 7.2로 최신 RX 9070 계열은 윈도우와 리눅스 모두 공식 지원을 받게 됐으나 구형 RX 7900 계열은 리눅스 위주이고, 도구마다 지원 방식이 갈린다. 카드를 사거나 설치하기 전에 그래픽카드 아키텍처, 운영체제, 쓰려는 도구의 백엔드, VRAM 용량을 순서대로 확인하면 헛돈을 줄일 수 있다.

AI 활용2026. 11. 05.

해커도 쓰는 로컬AI, 올라마·GPT4All 뭐길래

보안 기업 지니언스는 북한 해킹조직 김수키의 공격 인프라에서 올라마와 GPT4All 같은 로컬 AI 도구의 흔적을 발견했다. 이 도구들은 인터넷 연결 없이 내 PC에서 직접 AI 모델을 돌려 대화 내용을 외부로 보내지 않는 것이 핵심이다. 이 글은 두 도구가 실제로 무엇이고 클라우드 챗봇과 어떻게 다른지, 그리고 직접 써보려면 어디서 시작하면 되는지 설명한다.

2026. 08. 13.