Oracle이 2026년 11월 17일 공개한 Java4Shell(CVE-2026-114938)은 Java 17 이상과 AVX-512 VBMI 지원 x86 CPU라는 두 조건이 동시에 맞을 때만 인증 없이 원격 코드 실행이 가능하다. 자바를 쓴다고 전부 위험한 것이 아니라 의존성·CPU·버전 세 가지를 좁혀 가면 패치 대상인지 스스로 가릴 수 있다는 뜻이다. 자신의 서버 CPU가 AVX-512 VBMI를 지원하는지, 실행 중인 자바 버전이 영향 범위인지부터 확인하라.
Java4Shell(CVE-2026-114938)이 공개되자 "자바 서비스는 전부 뚫린다"는 식의 불안이 퍼졌다. 사실은 다르다. 이 취약점이 실제로 작동하려면 두 조건이 동시에 맞아야 한다. Java 17 이상(17·21·25·27 계열)을 쓰고, 동시에 AVX-512 VBMI 명령어를 지원하는 x86-64 인텔·AMD CPU 위에서 돌아가야 한다. 둘 중 하나라도 어긋나면 이 버그의 취약 코드는 실행되지 않는다.
Oracle은 2026년 11월 17일 이 문제를 포함한 Java SE 보안 패치를 공개했다. 심각도는 CVSS 4.0 기준 9.2점으로 '치명적' 등급이고, 조건이 맞으면 인증 없이 원격에서 코드를 실행할 수 있다. 원인은 자바가 Base64 데이터를 디코딩할 때 특정 CPU 명령어 경로에서 메모리가 손상되는 버그다. 그래서 CPU와 버전이 판정의 핵심이 된다.
아래는 소규모 팀이 자력으로 해당 여부를 가릴 수 있는 순서다. 의존성 목록 점검, 버전·CPU 확인, 패치 또는 완화 순으로 좁혀 간다.
Photo by Jake Walker on Unsplash
가장 흔한 실수는 OS에 설치된 자바만 확인하고 끝내는 것이다. 실제 위험은 애플리케이션과 컨테이너 안에 번들된 JVM에서 나온다. 개인정보보호위원회는 점검 대상으로 OS 설치 자바뿐 아니라 Docker 등 컨테이너와 응용프로그램 내장 자바를 함께 꼽으며 Jenkins, Elasticsearch, Jira, Confluence를 예시로 들었다.
그래서 먼저 "우리 서비스가 직접 쓰는 자바"와 "우리가 띄운 도구가 품고 있는 자바"를 나눠서 목록으로 적는 편이 낫다. CI 서버, 사내 위키, 검색 엔진, 인증 서버처럼 직접 짠 코드가 아니어도 자바로 돌아가는 구성 요소가 여기에 들어간다. 외부에 포트가 열려 있고 인증 전에 입력을 받는 서비스일수록 우선순위가 높다.
목록을 만들었다면 버전 대조에 앞서 CPU를 먼저 본다. CPU 조건이 빠지면 버전이 맞아도 취약하지 않으므로, 한 줄로 후보를 대폭 줄일 수 있다.
리눅스에서는 다음을 실행한다.
grep -om1 -E 'avx512[_]?vbmi' /proc/cpuinfo
출력이 비어 있으면 그 서버는 AVX-512 VBMI를 지원하지 않아 영향권 밖이다. avx512vbmi 또는 avx512_vbmi가 찍히면 잠재 대상이다. ARM64 환경에서 돌아가는 자바 런타임도 영향을 받지 않는다.
버전은 셸에서 java -version을 치기보다, 실제로 돌고 있는 프로세스를 봐야 한다. 서비스가 쓰는 자바와 터미널 PATH의 자바가 다를 수 있어서다. Datadog 보안팀은 프로세스 ID를 확인한 뒤 jcmd <PID> VM.version으로 실행 중인 런타임의 버전을 보라고 권한다. 영향 범위는 Java 17.0.6 이상부터 이번 패치 직전 빌드까지다. 다만 하한 버전 표기는 자료마다 조금씩 달라서, 애매하면 사용하는 배포판 벤더의 권고문을 그대로 따르는 쪽이 안전하다.
참고로 표준 Java 8과 11은 영향을 받지 않는다. 코드 경로상 Base64.getDecoder()와 getUrlDecoder()가 취약하고 getMimeDecoder()는 이 경로를 피해 간다는 분석도 있지만, 운영 입장에서는 버전·CPU 조건이 1차 판정 기준이다.
조건이 맞아떨어졌다면 결론은 간단하다. 벤더가 내놓은 수정 빌드로 올리는 것이다. Oracle Java SE 기준 수정 버전은 17.0.21.1, 21.0.13.1, 25.0.5.1, 27.0.1.1이다. 배포판을 쓴다면 Amazon Corretto는 17.0.21.1.2 등으로, Azul Zulu는 11월 업데이트로 같은 문제를 고쳤다. 컨테이너라면 베이스 이미지를 갱신하고 애플리케이션 이미지를 다시 빌드·배포한 뒤 자바 프로세스를 재시작해야 반영된다.
패치를 당장 적용하기 어려운 경우에만 임시 완화를 건다. JVM 옵션으로 -XX:-UseBASE64Intrinsics를 주면 문제가 된 Base64 경로만 좁게 끄고, -XX:UseAVX=2를 주면 x86에서 AVX-512 실행 자체를 막는다. 두 옵션 모두 벤더가 공식 검증한 완화책이 아니라 패치 전까지 버티는 임시 수단이다. 특히 -XX:UseAVX=2는 ARM64에서는 인식되지 않아 서비스가 아예 뜨지 않을 수 있으니 x86 배포에만 적용해야 한다.
적용했으면 반영됐는지 확인한다. jcmd <PID> VM.flags -all 결과에 UseBASE64Intrinsics = false 또는 UseAVX = 2가 보이면 걸린 것이다. 웹방화벽이 있다면 공급사가 이번 취약점용 탐지 규칙을 제공하는지도 확인할 수 있는데, 이 역시 근본 해결이 아니라 패치까지의 울타리로 본다.
이번 취약점은 범위가 넓어 보이지만 판정 기준은 좁다. 자바 의존성을 빠짐없이 센 뒤, CPU 한 줄 확인으로 후보를 줄이고, 남은 대상만 실행 중 버전을 대조하면 된다. 외부에 노출된 서비스이고 CPU·버전 조건이 모두 맞는다면 우선 패치 대상이다. 공식 패치 적용이 늦어질 때만 JVM 옵션으로 다리를 놓고, 반드시 반영 여부까지 확인한다. 국내에서도 과기정통부와 KISA가 인터넷 공개 서비스와 핵심 업무 시스템을 우선 점검하라고 권고한 만큼, 보호나라 보안공지에서 자신의 환경에 맞는 최신 안내를 함께 확인해 두는 편이 좋다.