#AI 리스크
2개의 글
AI 오작동, 쓰는 팀은 무엇을 기록해야 하나
미국 뉴욕과 일리노이가 대형 AI 개발사에 중대 사고 72시간 내 신고를 의무화하면서, AI 사고 대응이 개발사만의 일이 아니게 됐다. 서비스를 쓰는 기업도 오작동을 표준 양식으로 기록하고 개발사와 공유할 준비가 필요해졌다. 서비스를 고를 때 신고 창구와 데이터 처리 범위 같은 안전 공개 항목을 체크리스트로 확인하면 책임 다툼의 위험을 줄일 수 있다.
AI '지능폭발' 경고, 실무자가 점검할 세 가지
제프리 힌턴과 요슈아 벤지오를 비롯한 AI 연구자 22명이 9월 28일 케임브리지대 프로그램을 통해, AI가 스스로 연구를 자동화하며 '지능폭발'을 일으켜 인간의 통제를 벗어날 수 있다고 경고했다. 거대한 담론처럼 보이지만 근거는 사람 감독이 옅어진 채 AI가 처리하는 일의 비중이 빠르게 늘고 있다는 현장 지표여서, 개인 실무에도 그대로 옮겨온다. 업무에 AI를 깊이 쓴다면 사람 검토 절차, AI에 준 데이터 접근권한, 결과물 백업 세 가지가 자기 통제력을 지키는 최소 방어선이다.