국정원 AI 점검, 우리 팀 체크리스트로

점검이 실제로 본 세 가지

국정원이 2026년 공공기관 AI 시스템을 처음으로 레드티밍 방식으로 점검했다. 공격자 입장에서 안전장치를 우회하고 비공개 정보를 끌어내 보는 방식이다. 올해 2~4월 실태조사 대상 290개 기관, AI 시스템 770개 중 92%가 별도 보안조치 없이 쓰고 있었다.

점검 영역은 AI 모델, 서버와 통신구간, 벡터 데이터베이스, 접근권한, 파일 업로드 과정, 입출력 필터였다. 이 중 소규모 팀이 당장 손댈 수 있는 건 뒤의 세 가지, 즉 접근권한(계정), 파일 업로드(올리는 자료), 외부 연결이다. 모델이나 서버 내부는 도구 제공사 몫이지만, 누가 무엇을 올리고 어디에 연결하는지는 팀이 직접 정한다.

계정: 세션과 공유 아이디

Photo by Bluestonex on Unsplash

점검에서 드러난 문제 중 하나가 세션 관리였다. 대화를 구분하는 식별값을 바꾸자 다른 사용자의 대화를 열람하거나 변조할 수 있었다. 팀 단위로 옮기면 이렇게 된다. 하나의 유료 계정을 여러 명이 돌려 쓰면 대화 기록, 업로드한 파일, 연결된 외부 서비스가 한곳에 섞인다.

실제 사고도 계정에서 시작된다. 더존비즈온 침해는 직원의 VPN 계정을 통한 무단 접근에서 비롯됐다. 계약이 끝난 고객사 데이터까지 백업 서버에 남아 영향권에 들었다. 지웠다고 생각한 자료가 어딘가 남아 있는 구조다.

팀 기준으로 확인할 것은 두 가지다. 공유 아이디 대신 개인별 계정을 쓰는가. 그리고 퇴사자나 이탈한 외주 인력의 접근이 실제로 차단됐는가.

업로드: 무엇을 올리고 있나

파일 업로드도 점검 대상이었다. 공공기관 사례에서는 파일 형식 검사가 허술해 확장자만 바꾼 악성파일이 올라갔다. 팀에서 더 흔한 위험은 반대 방향이다. 민감한 자료를 무심코 올리는 쪽이다.

실태조사에서 33%의 기관이 AI로 민감·기밀정보를 처리했고, 76%는 학습데이터 처리를 외부에 맡겼다. 올린 자료가 모델 학습에 쓰이거나 외부로 넘어갈 수 있다는 뜻이다.

기준을 미리 정해두면 판단이 빨라진다. 고객 개인정보, 계약서 원본, 미공개 재무자료, 내부 인사정보는 업로드 전에 한 번 멈춘다. 꼭 올려야 한다면 이름과 계좌번호 같은 식별정보를 지운 뒤 올린다. 반대로 공개된 자료나 이미 외부에 나간 문서는 그대로 써도 된다.

외부 연결: 데이터가 어디로 가나

AI 도구를 캘린더, 메일, 문서 저장소에 연결하면 편하지만, 연결하는 순간 그 도구가 해당 데이터를 읽을 권한을 갖는다. 국정원이 단일 안전장치에 기대지 말고 필터·가드레일·접근통제를 겹쳐 쓰라고 권고한 이유도 한 겹이 뚫리면 전체가 열리기 때문이다.

연결을 추가할 때 두 가지를 확인한다. 이 연결이 지금 업무에 실제로 필요한가. 그리고 제공사가 입력한 데이터를 학습에 쓰는지, 설정에서 끌 수 있는지다. 업무용 요금제는 대체로 학습 사용을 기본으로 끄거나 끌 수 있는 선택지를 준다.

하루 안에 해보는 점검 순서

거창한 보안 체계가 아니라 순서대로 확인만 해도 대부분의 구멍은 좁혀진다.

순서	확인	조치
1	공유 계정 여부	개인 계정으로 전환
2	접근 권한 목록	퇴사자·외주 인력 제거
3	학습 데이터 사용 설정	업무 자료는 학습 끄기
4	외부 연결 목록	안 쓰는 연결 해제

마지막으로 업로드 기준 한 줄을 팀에 공유한다. "고객·계약·재무·인사 자료는 올리기 전 확인"이면 충분하다. 국정원은 공공기관용 자체 점검 가이드라인을 2026년 12월 배포할 예정이라, 공식 기준이 나오면 이 순서에 덧붙이면 된다. 그 전까지는 계정·업로드·연결 세 축만 잡아도 무방비 상태에서는 벗어난다.

출처

1. 국정원, 공공기관 AI 시스템 레드티밍 점검 결과 (CSK 2026)
2. 국정원, 국가·공공기관에 AI 시스템 자체점검·보안강화 당부
3. 계약 종료 고객사도 긴장… 더존비즈온發 정보 유출 비상