AI 챗봇에 올리면 안 되는 정보와 끄는 설정
빗썸 해킹처럼 개인정보 유출이 잇따르면서, AI 챗봇에 올린 정보도 학습에 쓰이거나 어딘가 남을 수 있다는 점이 다시 주목받는다. 한번 입력한 데이터는 나중에 골라 지우기 어려워, 올리면 안 되는 정보를 먼저 거르는 것이 끄는 설정보다 확실한 방어선이다. ChatGPT·Gemini·Claude의 학습·기록 설정 위치와 소급 적용 여부를 각 앱에서 직접 확인하고, 민감정보는 가린 뒤 쓰는 습관을 점검해 두자.
유출 사고가 알려준 한 가지
빗썸 해킹으로 임직원 정보에 이어 고객 정보까지 새어 나갔다는 소식이 전해졌다. 보도에 따르면 고객 수천 명의 정보가 영향을 받았고, 그중 수백 건은 암호화되지 않은 상태로 노출됐다. 그러자 곧바로 직원을 사칭하거나 보상을 미끼로 접근하는 2차 피해가 우려된다는 경고가 나왔다.
이 사건의 교훈은 단순하다. 한번 내 손을 떠난 정보는 어디까지 흘러가는지 통제하기 어렵다는 것이다. AI 챗봇도 예외가 아니다. 캡처 한 장, 문서 한 건을 아무 생각 없이 올리는 순간 그 내용이 어딘가에 남고, 경우에 따라 모델 학습에까지 쓰일 수 있다.
올리기 전에 거르는 정보들
Photo by Tech Daily on Unsplash
가장 먼저 할 일은 설정을 바꾸는 게 아니라, 애초에 올리지 말아야 할 정보를 머릿속에서 분류해 두는 것이다. 다음 항목은 챗봇 입력창에 넣지 않는 편이 안전하다.
- 주민등록번호, 신분증·여권 사진
- 계좌번호, 카드번호, 보안카드·OTP
- 각종 비밀번호와 로그인 인증정보
- 병원 기록 같은 건강·의료 정보
- 나와 상관없는 타인의 개인정보
- 회사 기밀이나 공개되지 않은 내부 문서
이 분류가 중요한 이유가 있다. 한 보안 가이드의 지적처럼, 이미 학습에 쓰인 데이터를 나중에 골라내 지우는 건 기술적으로 쉽지 않다. 끄는 설정보다 안 올리는 습관이 더 확실한 방어선인 셈이다.
서비스별 학습·기록 설정
그다음은 쓰고 있는 챗봇의 데이터 설정을 확인하는 순서다. 서비스마다 위치와 기본값이 다르다.
ChatGPT는 설정의 데이터 제어 메뉴에서 '모두를 위한 모델 개선'을 끌 수 있다. 개인 플랜은 이 항목이 기본으로 켜져 있다. 한 가지 주의할 점은, 꺼도 소급 적용은 되지 않아 이미 쓰인 데이터가 되돌려지지는 않고 이후 신규 대화만 학습에서 빠진다는 것이다. 또 대화 기록 저장과 학습 사용은 별개 항목이라, 기록은 남기되 학습만 끄는 조합도 가능하다.
Gemini는 'Gemini 앱 활동'을 끄면 채팅이 검토·학습에 쓰이지 않는다고 구글은 설명한다. 다만 활동을 끄면 대화 기록이 저장되지 않고, 드라이브·Gmail 같은 연동 기능 일부도 함께 막힐 수 있다.
Claude는 2025년 9월 말 약관이 바뀌면서 개인 플랜 대화가 기본적으로 학습에 쓰이는 쪽으로 바뀌었다. 설정의 개인정보 메뉴에서 'Help improve Claude' 항목을 끄면 된다. 기업·교육·API 이용은 이 변경에서 빠진다.
세 서비스 모두 메뉴 명칭과 경로가 수시로 바뀐다. 마지막 확인은 각 앱의 설정 화면에서 직접 하는 게 맞다.
그래도 가리고 쓰는 습관
설정을 다 바꿨더라도 민감한 내용을 그대로 올리는 건 권하지 않는다. 몇 가지 습관이면 대부분 가려진다.
숫자나 이름이 꼭 필요하면 실제 값 대신 가명이나 ○○로 바꿔 넣는다. 계약서나 명세서를 캡처할 때는 이름·번호가 담긴 테두리를 가린 뒤 올린다. 한 번 쓰고 말 민감한 작업이라면 기록에 남지 않는 임시 채팅을 쓴다. 회사 업무라면 승인된 도구만 쓰는 게 가장 안전하다.
정리하면 이렇다. 올리면 안 되는 정보를 먼저 거르고, 쓰는 서비스의 학습·기록 설정을 끄고, 그래도 남는 민감정보는 가린다. 유출은 남이 만드는 사고지만, 무엇을 넘겼는지는 내가 정할 수 있는 영역이다.