젠슨 황 'AI 멸망 0%', 이용자가 볼 건 따로 있다

젠슨 황이 '0%'라고 말한 맥락

젠슨 황 엔비디아 CEO는 9월 20일(현지시간) 미국 CBS 인터뷰에서 "2030년이 세계의 종말이 되진 않을 것이며, 그때 세상이 끝날 확률은 0%"라고 말했다. AI가 인류를 멸망시킬 수 있다는 주장에 정면으로 반박한 것이다. 그는 이런 공포를 퍼뜨리는 것을 "불필요하고 무책임한 행동"이라고 규정했다.

발언의 핵심은 단순한 낙관이 아니라 규제를 둘러싼 힘겨루기다. 황은 멸망론이 "과학에 기반하지 않았다"면서도, "되도록 빠른 속도를 내겠지만 준비되지 않거나 안전하지 않은 제품을 출시하는 일은 없어야 한다"고 선을 그었다. 새로운 규제에는 반대한다. 현행 제조물 책임법과 사이버보안 법률로 충분하다는 입장이다.

같은 업계, 정반대의 경고음

Photo by Ed Hardie on Unsplash

반대편에 선 사람들도 AI를 파는 기업이라는 점이 눈에 띈다. 샘 올트먼 오픈AI CEO와 다리오 아모데이 앤트로픽 CEO는 개발 속도를 조절하고 규제를 강화하자는 쪽에 가깝다. 황은 이들을 겨냥해 "행간을 읽어보라"며, 실제로는 규제를 늘려달라는 게 아니라 기존 법률상 책임에서 벗어나려는 것이라고 꼬집었다.

경고가 추상적이기만 한 것도 아니다. 오픈AI는 9월 초 자사 모델에서 나타난 '우려 행동' 사례를 공개하고 상시 공시체계를 도입하겠다고 밝혔다. 한국경제 보도에 따르면 오픈AI의 신형 모델은 알려진 취약점 20개를 다루는 평가에서, 기존에 알려지지 않은 취약점 두 개를 스스로 찾아 공격 과정에 활용했다. 두 회사 모두 가장 강력한 사이버 기능은 검증된 일부 사용자에게만 열어두는 쪽으로 접근 권한을 좁혔다.

다만 국제 안전 보고서는 현재 AI가 인간의 통제를 벗어난 수준은 아니라고 본다. '내년 말이면 통제 불능'이라는 앤트로픽 전 연구원의 경고와 '확률 0%'라는 황의 단언 사이 어디쯤이 현실인지는 아직 아무도 확정하지 못했다.

거대 담론과 당신의 계정은 다른 문제다

여기서 이용자가 놓치기 쉬운 지점이 있다. 'AI가 인류를 멸망시키느냐'는 논쟁과 '내가 매일 쓰는 AI 서비스가 안전하냐'는 완전히 다른 질문이다. 후자는 먼 미래가 아니라 오늘의 계정 설정 문제다.

챗봇에는 대화 기록, 업로드한 파일, 결제 정보가 함께 쌓인다. 계정이 뚫리면 멸망 시나리오가 아니라 내 민감한 대화가 먼저 샌다. 이용자가 실제로 다뤄야 할 위험은 이쪽이다.

지금 점검할 세 가지

• 2단계 인증(MFA): 오픈AI는 TOTP 방식의 다중 요소 인증을 지원한다. 프로필에서 설정으로 들어가 켤 수 있고, 발급받은 복구 코드는 계정과 분리해 따로 보관한다.
• 민감 정보를 다룬다면 강화 옵션: 오픈AI가 2026년 4월 도입한 '고급 계정 보안'은 비밀번호 대신 패스키·하드웨어 키를 쓰고, SMS 복구를 끄며, 학습 옵트아웃을 기본으로 적용한다. 기자나 사업자처럼 노출 위험이 큰 경우에 실효가 있다.
• 세션 관리: 공용·공유 기기에서 사용한 뒤에는 반드시 로그아웃하고, 낯선 접속이 의심되면 '모든 기기에서 로그아웃'으로 세션을 한 번에 끊는다.

멸망 확률이 0%든 아니든, 오늘 내 대화가 유출될 확률은 설정에 달려 있다. 이용자가 지금 판단할 것은 세계의 종말이 아니라 인증 탭 하나다.

출처

1. AI로 인류 멸망? 확률 0%…젠슨 황, 속도조절론 정면 반박
2. 제멋대로 해킹하는 통제불가 AI…오픈AI·앤트로픽, 결국 봉인
3. AI, 내년 말엔 통제 불능…앤트로픽 전 연구원 경고
4. 오픈AI, AI '우려 행동' 6건 공개…상시 공시체계 도입