AI 광고 속 '초지능', 어디까지 믿어야 하나
미국에서 초지능 개발을 금지하는 법안이 9월 상원에 발의되면서 '초지능'은 아직 존재하지 않는 규제 논의의 대상이 됐다. 서비스 광고에 쓰이는 초지능·에이전트 같은 말은 이 정책상 정의와 무관한 마케팅 표현일 때가 많다. 도구를 고를 때는 명칭이 아니라 실제 동작과 결과 검증 가능성으로 판단해야 한다.
'초지능'은 지금 규제 대상으로 오른 단어다
AI 서비스 광고에서 '초지능'이라는 표현을 점점 자주 본다. 그런데 이 단어는 마케팅 이전에 정책 용어가 됐다. 미국에서 버니 샌더스 상원의원과 그레그 카사르 하원의원이 초지능 개발을 금지하는 법안을 9월 23일 상원에 냈다.
법안이 정의한 초지능은 소박한 수준이 아니다. "대부분의 영역에서 인간의 인지 능력을 능가하거나, 인류를 무력화할 수 있는 AI"를 가리킨다. 위반 시 최대 20년 징역을 두는 등 처벌 수위도 핵무기 개발에 견줄 만큼 무겁게 잡았다. 다만 이건 발의된 법안이지 이미 시행되는 규제는 아니다.
앞서 2025년 10월에는 미래생명연구소가 안전과 통제가 과학적으로 합의되기 전까지 초지능 개발을 멈추자는 성명을 냈고, 제프리 힌턴과 요슈아 벤지오, 스티브 워즈니악 등 수천 명이 서명했다.
여기서 알 수 있는 건 하나다. 초지능은 지금 '아직 존재하지 않고, 만들면 금지하자'는 논의의 대상이라는 점이다.
광고 문구가 뜻하는 것과 뜻하지 않는 것
Solen Feyissa
그렇다면 어떤 서비스가 '초지능급'이라고 광고한다면, 그 말은 방금 설명한 정책상의 초지능과는 관련이 없다. 인간을 대부분의 영역에서 능가하는 시스템은 아직 나오지 않았고, 나온다면 규제부터 논의되는 물건이다.
'에이전트'나 '자율'도 비슷하게 넓게 쓰인다. 어떤 서비스는 실제로 여러 단계를 스스로 처리하지만, 어떤 서비스는 정해진 순서를 따라가는 자동화에 이 이름을 붙인다. 둘 다 '에이전트'라고 부르니 이름만으로는 구분이 안 된다.
예를 들어 "AI 에이전트가 알아서 메일을 처리한다"는 문구는, 실제로는 사용자가 미리 정한 규칙대로 분류만 하는 기능일 수도 있고, 내용을 읽고 답장 초안까지 쓰는 기능일 수도 있다. 같은 한 문장 안에 성능 차이가 몇 배씩 숨어 있다.
그래서 판단의 기준을 명칭이 아니라 동작으로 옮기는 게 핵심이다. '초지능'이라는 단어가 있는지가 아니라, 이 도구가 내 업무의 어떤 단계를 어디까지 대신하는지를 봐야 한다.
체험 전에 던져볼 질문
무료 체험을 켜기 전에 다음을 확인하면 과장 문구에 시간을 덜 뺏긴다.
- 이 도구가 대신하는 작업이 구체적으로 무엇인가. "생산성 향상" 같은 문구 말고, 어떤 입력을 받아 어떤 결과를 내는지 한 문장으로 설명되는가.
- 그 결과를 사람이 검증할 수 있는가. 근거나 출처, 중간 과정을 보여주는지 확인한다. 검증할 수 없는 자동 결과는 업무에 쓰기 위험하다.
- 내 데이터가 어디로 가고 학습에 쓰이는가. 업무 문서를 다룬다면 이 항목이 기능보다 먼저다.
- 실패했을 때 어떻게 되는가. 잘못된 결과를 사람이 되돌릴 수 있는 구조인지, 아니면 그대로 실행되는지 본다.
- 데모가 아니라 내 실제 업무 데이터로 시험해봤는가. 잘 다듬어진 예시는 대부분 잘 돌아간다.
정리하면 광고의 형용사는 기능이 아니다. 초지능이든 에이전트든, 그 도구가 내 일의 어느 지점을 맡고 결과를 어떻게 검증하게 해주는지로 판단하면, 이름이 화려한 서비스와 실제로 쓸 만한 서비스를 나눠 볼 수 있다.