#사람 검토

AI '지능폭발' 경고, 실무자가 점검할 세 가지

제프리 힌턴과 요슈아 벤지오를 비롯한 AI 연구자 22명이 9월 28일 케임브리지대 프로그램을 통해, AI가 스스로 연구를 자동화하며 '지능폭발'을 일으켜 인간의 통제를 벗어날 수 있다고 경고했다. 거대한 담론처럼 보이지만 근거는 사람 감독이 옅어진 채 AI가 처리하는 일의 비중이 빠르게 늘고 있다는 현장 지표여서, 개인 실무에도 그대로 옮겨온다. 업무에 AI를 깊이 쓴다면 사람 검토 절차, AI에 준 데이터 접근권한, 결과물 백업 세 가지가 자기 통제력을 지키는 최소 방어선이다.