AI 안전 국제 논쟁, 내 서비스 약관 볼 시점
9월 23일 유엔 안보리 고위급 브리핑에서 AI 기업 CEO들은 강한 안전장치를 요구한 반면, 미국은 국제적 규제 시도를 거부하며 온도차를 드러냈다. 이 논의는 국가 법령을 거쳐 기업의 이용정책과 약관 변경으로 내려오기 때문에 이용자의 서비스 사용 조건과 직결된다. 이용정책 개정일, 데이터 학습 설정, 모델 지원 종료 공지를 주기적으로 확인하는 것이 현실적인 대응이다.
안보리에 모인 AI 경영진, 규제를 요구한 쪽은 기업이었다
9월 23일 유엔 안전보장이사회는 인공지능을 주제로 고위급 브리핑을 열었다. 9월 순회 의장국인 프랑스가 소집했고, 장노엘 바로 프랑스 외무장관이 회의를 주재했다. 이 자리에 샘 올트먼 오픈AI CEO가 직접 참석했고, 다리오 아모데이 앤트로픽 CEO와 클레망 들랑그 허깅페이스 CEO는 화상으로 연결됐다.
눈에 띄는 대목은 발언의 방향이다. 유엔 독립 과학패널 공동의장인 요슈아 벤지오는 첨단 AI 개발을 "모두가 지는 경쟁"이라고 표현하며 오용, 권력 집중, 통제 상실을 세 가지 위협으로 꼽았다. 아모데이는 AI를 이용한 생물무기 개발 금지와 위험을 시험하는 평가 체계 도입을 제안했다. 규제를 밀어붙인 쪽이 정부가 아니라 기업 경영진이었다는 점이 이번 회의의 특징이다.
정상들 사이의 온도차
Photo by Brett Jordan on Unsplash
정부 지도자들의 입장은 갈렸다. 트럼프 미국 대통령은 AI를 통제하려는 국제적 시도를 전면 거부한다고 밝혔다. 반면 구테흐스 유엔 사무총장은 책임성 없는 기술이 위험하다며 다자간 위험관리 체계를 주문했고, 마크롱 프랑스 대통령은 미국과 중국을 제외한 나라들이 뭉쳐야 한다고 말했다. 중국은 유엔이 중심이 된 국제 표준을 지지하는 쪽이다.
축은 둘로 정리된다. 하나는 규제 찬반을 둘러싼 국가 간 대립, 다른 하나는 빠른 개발과 안전장치 사이의 긴장이다. 기업이 스스로 규칙을 요구하는 장면은 이 긴장이 이미 서비스 설계 단계까지 들어와 있다는 신호로 읽을 수 있다.
이 논의가 내 서비스 약관까지 오는 길
국제회의의 선언은 그 자체로 법이 아니다. 다만 경로는 있다. 각국이 합의한 원칙은 자국 법령과 가이드라인으로 옮겨지고, 기업은 이를 이용정책과 이용약관, 모델 안전 문서에 반영한다. 앤트로픽의 책임 확장 정책이나 오픈AI의 이용정책처럼, 어떤 용도를 금지하고 어떤 기능을 언제 여는지가 이런 문서에서 바뀐다.
이번 브리핑에서 들랑그 허깅페이스 CEO는 자사가 2026년 자율 에이전트의 사이버공격 사례를 처음으로 공개했다고 밝혔다. 사고 공개가 규범으로 자리 잡으면 이용자가 받는 안전 공지와 기능 제한 안내도 그만큼 늘어난다. 국제 무대의 요구가 추상적 원칙에 그치지 않고 서비스의 구체적 조항으로 옮겨간다는 뜻이다.
이용자가 체감하는 변화는 대체로 세 가지다. 특정 용도의 사용 제한, 데이터 학습·보관 방식 변경, 그리고 오래된 모델의 지원 종료다. 국제 논의가 격해질수록 이 세 항목이 조용히 업데이트될 가능성이 커진다.
주기적으로 확인하면 좋은 것
약관 전문을 매번 읽을 필요는 없다. 바뀌는 지점만 짚으면 된다.
- 이용정책·약관 최종 개정일: 페이지 하단이나 변경 이력에 날짜가 있다. 마지막으로 본 날짜와 비교한다.
- 데이터 학습 설정: 내 입력이 모델 학습에 쓰이는지, 끄는 옵션이 있는지 계정 설정에서 확인한다.
- 모델 지원 일정: 업무 자동화에 특정 모델을 걸어 뒀다면 지원 종료·교체 공지를 받는지 본다.
- 요금·사용량 정책: 무료 한도나 기능 접근 조건이 조정되는 경우가 있다.
새 기능이 나올 때보다 정책이 바뀔 때 업무 흐름이 더 크게 흔들린다. 국제 무대의 논쟁은 멀어 보여도 결국 계정 설정 화면의 한 줄로 돌아온다. 분기에 한 번 정도 자주 쓰는 서비스의 정책 페이지를 확인 목록에 넣어두는 편이 현실적이다.