#왜 자꾸 지어낼까
1개의 글
AI 할루시네이션, 왜 생기고 어떻게 줄일까
AI가 사실이 아닌 내용을 자신 있게 만들어 내는 할루시네이션은 단순한 버그가 아니라 확률적 언어모델의 성질에서 비롯된다. 오픈AI 연구는 훈련과 평가가 '모른다'보다 '추측'을 보상하기 때문이라고 설명하며, 원리상 완전히 없앨 수는 없다고 본다. 웹 검색 근거 활용, 출처 직접 확인, 불확실성 표현 요청, 교차 검증 같은 습관으로 오류를 크게 줄일 수 있다.
1개의 글
AI가 사실이 아닌 내용을 자신 있게 만들어 내는 할루시네이션은 단순한 버그가 아니라 확률적 언어모델의 성질에서 비롯된다. 오픈AI 연구는 훈련과 평가가 '모른다'보다 '추측'을 보상하기 때문이라고 설명하며, 원리상 완전히 없앨 수는 없다고 본다. 웹 검색 근거 활용, 출처 직접 확인, 불확실성 표현 요청, 교차 검증 같은 습관으로 오류를 크게 줄일 수 있다.