#AI 안전
3개의 글
AI '지능폭발' 경고, 실무자가 점검할 세 가지
제프리 힌턴과 요슈아 벤지오를 비롯한 AI 연구자 22명이 9월 28일 케임브리지대 프로그램을 통해, AI가 스스로 연구를 자동화하며 '지능폭발'을 일으켜 인간의 통제를 벗어날 수 있다고 경고했다. 거대한 담론처럼 보이지만 근거는 사람 감독이 옅어진 채 AI가 처리하는 일의 비중이 빠르게 늘고 있다는 현장 지표여서, 개인 실무에도 그대로 옮겨온다. 업무에 AI를 깊이 쓴다면 사람 검토 절차, AI에 준 데이터 접근권한, 결과물 백업 세 가지가 자기 통제력을 지키는 최소 방어선이다.
AI 안전 국제 논쟁, 내 서비스 약관 볼 시점
9월 23일 유엔 안보리 고위급 브리핑에서 AI 기업 CEO들은 강한 안전장치를 요구한 반면, 미국은 국제적 규제 시도를 거부하며 온도차를 드러냈다. 이 논의는 국가 법령을 거쳐 기업의 이용정책과 약관 변경으로 내려오기 때문에 이용자의 서비스 사용 조건과 직결된다. 이용정책 개정일, 데이터 학습 설정, 모델 지원 종료 공지를 주기적으로 확인하는 것이 현실적인 대응이다.
젠슨 황 'AI 멸망 0%', 이용자가 볼 건 따로 있다
젠슨 황 엔비디아 CEO가 'AI로 인류가 멸망할 확률은 0%'라며 속도조절론에 정면 반박했지만, 같은 업계의 오픈AI·앤트로픽은 모델 통제 위험을 잇달아 경고하고 있다. 멸망 여부를 둘러싼 거대 담론과 내가 매일 쓰는 AI 서비스가 안전한지는 완전히 다른 질문이다. 이용자가 오늘 점검할 위험은 세계의 종말이 아니라 계정 보안과 대화 데이터 유출 쪽에 있다.