AI 도입 전, 감수할 위험과 막을 위험 가르기
샘 올트먼은 AI의 혜택을 위해 일부 위험을 감수해야 한다고 말했지만, 그 논리는 사회 규모의 것이라 업무에 그대로 적용하기 어렵다. 팀 단위에서 감수해도 되는 위험은 학습 곡선과 검수로 걸러지는 사소한 오류뿐이고, 기밀 전송·검증 없는 반영·불명확한 책임은 한 번만 터져도 되돌리기 어렵다. 데이터 입력 범위, 결과 검수, 책임 소재 순으로 도입 전 점검표를 세워두는 편이 안전하다.
올트먼의 "위험 감수"를 업무에 그대로 옮기면 안 된다
샘 올트먼 오픈AI CEO는 2026년 10월 한 인터뷰에서 "세상은 이 기술의 혜택을 위해 일부 나쁜 일이 벌어지는 것을 받아들여야 한다"고 말했다. 그가 선을 긋는 지점은 "정말 파국적인 위험"이다. 그 아래라면 혜택이 훨씬 크다는 계산이다.
이 말은 문명 규모의 논리다. 사회 전체로 보면 맞을 수 있다. 하지만 AI 도구를 막 들이려는 팀장이나 1인 사업자에게 이 셈법을 그대로 가져오면 곤란하다. 당신 사업에서 '파국'은 범용 인공지능이 아니라, 고객 명단 유출 한 건이나 보고서에 들어간 틀린 숫자 하나일 수 있기 때문이다.
그래서 필요한 것은 "위험을 감수할 것인가"가 아니라 "어떤 위험은 감수하고 어떤 위험은 절대 감수하지 않을 것인가"를 당신 규모에 맞게 다시 긋는 일이다.
감수해도 되는 위험과 안 되는 위험
Bia Limova
감수해도 되는 쪽은 분명하다. 도구에 익숙해지는 학습 곡선, 초안 작성을 AI에 맡기는 것, 검수 과정에서 걸러지는 사소한 오류 정도다. 이런 위험은 생산성이라는 대가로 충분히 상쇄된다.
반대로 감수하면 안 되는 위험이 있다. 기밀과 개인정보가 외부로 나가는 것, 검증 없이 AI 답변을 그대로 의사결정에 넣는 것, 문제가 생겼을 때 책임질 사람이 없는 상태다. 이 셋은 한 번만 터져도 되돌리기 어렵다. 점검은 이 순서로 한다.
점검 1 — 무엇을 입력하고 무엇을 넣지 않을 것인가
클라우드 기반 AI는 입력한 데이터를 외부 서버로 보내는 구조다. 특히 ChatGPT 무료 버전은 입력 내용이 기본적으로 모델 학습에 쓰이고, Plus·Team은 기본 꺼짐, 기업용(Enterprise)은 학습에서 제외된다. 어떤 요금제를 쓰는지, 학습 설정이 어떤지부터 확인해야 한다.
입력 금지 목록은 정해두는 편이 안전하다. 고객 개인정보, 공개되지 않은 재무 자료, 소스코드, 인사 정보, 계약서는 어떤 AI에도 넣지 않는 것이 원칙이다. 한 기업에서는 사내 사용을 허용한 지 20일 만에 직원들이 설비 계측 자료와 수율, 회의록을 입력해 외부로 새어 나간 사례가 보고됐다.
점검 2 — 결과를 어디까지 믿을 것인가
생성형 AI는 모르는 것을 "모른다"고 하기보다 그럴듯한 답을 지어내는 경향이 있다. 문장이 매끄러워 의심 없이 받아들이기 쉽다는 점이 오히려 위험하다.
그래서 숫자, 인용, 출처, 법 조항처럼 사실로 다뤄질 내용은 반드시 원본과 대조한다. 외부로 나가거나 의사결정에 들어가는 산출물은 사람이 한 번 검토하고 승인하는 단계를 두는 편이 좋다. AI를 '초안 작성자'로 쓰되 '최종 승인자'로 쓰지 않는 선이다.
점검 3 — 문제가 생기면 누가 책임지나
마지막은 책임 소재다. AI가 만든 결과라도 그 결과에 대한 책임은 사람과 회사에 남는다. 개인정보가 섞여 나와 개인정보보호법을 어기면 그 부담은 AI 회사가 아니라 그것을 쓴 조직이 진다.
도입 전에 누가 검토하고 누가 최종 승인하는지를 미리 정해두면, 사고가 났을 때 책임이 공중에 뜨는 일을 막을 수 있다. 올트먼의 말처럼 혜택을 위해 위험을 감수하더라도, 그 위험의 경계는 사업을 운영하는 사람이 직접 그어야 한다.