AI 도입 전, 데이터·권한·로그 3단계 점검법

금감원이 "CEO 책임"을 꺼낸 이유

2026년 11월 3일 이찬진 금융감독원장은 잇따른 해킹 사고를 두고 보안 관리 부실에 대해 CEO 책임까지 묻겠다고 밝혔다. 금감원은 전자금융거래법 개정을 추진하며 기본적인 통제가 없거나 알려진 취약점을 방치해 사고가 나면 매출액의 최대 3%까지 과징금을 매기는 방안을 담았다. 법 개정 전이라도 사고 여부에 따라 감독분담금을 차등 부과하는 안을 검토한다.

직접 겨냥한 대상은 금융회사지만 신호는 더 넓다. 금감원이 555개 금융사를 긴급 점검했더니 130곳에서 248건의 미흡 사항이 나왔고, 16개 회사에서 약 10만 건의 개인정보가 유출된 것으로 확인됐다. 고객 정보를 다루며 AI 같은 외부 서비스를 끌어다 쓰는 기업이라면, 사고 책임을 조직 윗선에 묻는 흐름을 남의 일로 보기 어렵다.

AI 도구는 이 지점에서 특히 까다롭다. 사내 데이터가 외부 모델로 흘러가고, 그 입력값이 다시 학습에 쓰일 수 있기 때문이다. 아래 세 축을 순서대로 점검하면 도입 전 큰 구멍은 대부분 막힌다.

1단계: 데이터가 어디로 나가는지 먼저 본다

Photo by Albert Stoynov on Unsplash

가장 먼저 확인할 것은 "우리가 넣은 내용이 어디에 저장되고 모델 학습에 쓰이는가"다. 개인정보보호위원회도 생성형 AI 서비스에서 이용자의 질문과 답변이 다시 학습용 데이터셋으로 쓰일 수 있다고 지적했다. 무료·개인용 요금제는 입력값을 학습에 쓰는 경우가 많고, 기업용 요금제는 학습 미사용을 계약으로 보장하는 경우가 많다. 계약서와 설정 화면에서 '학습에 사용 안 함' 옵션을 확인하고 꺼둔다.

다음은 데이터 분류다. 사내 정보를 공개·내부·기밀·개인정보로 나누고 각 등급을 AI에 입력해도 되는지 기준을 정한다. 주민번호·계좌·고객 명단 같은 민감정보는 아예 입력 금지로 두는 편이 안전하다. 가능하면 입력 단계에서 민감정보를 걸러내는 DLP 도구나 사내 AI 게이트웨이를 함께 둔다.

2단계: 누가 어디까지 쓸 수 있는지 정한다

권한을 열어둔 채 도입하면 통제는 사실상 없는 것과 같다. 역할 기반 접근 제어(RBAC)로 직무별 접근 범위를 나누고, 민감한 기능에는 다단계 인증(MFA)을 건다.

실무에서 더 큰 위험은 '섀도우 AI'다. 직원이 개인 계정으로 외부 AI에 사내 자료를 붙여넣어도 회사가 파악조차 못 하면 막을 수 없다. 허용 도구 목록을 공지하고 업무용 계정으로만 쓰도록 통로를 하나로 모은다. AI 에이전트는 사내 DB 읽기만 허용할지 외부 시스템 조작까지 줄지를 기능별로 끊어 부여한다.

3단계: 기록이 남아야 사고에 대응한다

로그는 사고가 났을 때 "무엇이 어디로 누구를 통해 나갔는지"를 재구성하는 유일한 근거다. 최소한 누가 어떤 서비스에 접속해 무엇을 입력하고 어떤 출력을 받았는지는 남겨야 한다. 보존 기간을 정하고 이상 징후를 주기적으로 볼 담당을 지정한다. 기록이 없으면 책임 소재를 가리기 전에 원인부터 알 수 없다.

경영진에 올릴 최소 체크리스트

보고는 길 필요가 없다. 다음 다섯 줄이면 의사결정에 충분하다.

• 도입할 AI 서비스와 요금제, 입력값 학습 사용 여부(계약서 근거)
• 입력 금지로 지정한 데이터 등급과 민감정보 차단 수단
• 접근 권한 부여 기준(RBAC)과 MFA 적용 범위
• 섀도우 AI 차단 방식과 허용 도구 목록
• 로그 보존 기간과 점검·사고 대응 담당자

세 축 가운데 하나라도 비어 있다면 도입을 미루는 편이 낫다. 책임을 조직 상층부로 끌어올리는 지금, "누가 결정했고 무엇을 점검했는가"를 문서로 남기는 것 자체가 가장 확실한 방어다.

출처

1. 해킹 땐 CEO 문책…금융권 보안 예산·인력 확대 나선다
2. 개인정보위, 생성형 AI 확산 맞춰 '개인정보 처리방침 작성지침' 개정