복세편살 개발라이프
프로그래밍 & IT › Infra

Java4Shell(CVE-2026-114938) 정리: 영향 범위와 패치 전 WAF 임시 방어

· 읽는 시간 5분

목차
  1. 3줄 요약
  2. 무엇이 바뀌었나
  3. 운영 관점에서 볼 점
  4. 적용해 보려면
  5. 정리
  6. 참고 자료

3줄 요약

  • OpenJDK의 Base64 디코더에서 원격 코드 실행으로 이어질 수 있는 메모리 손상 취약점 Java4Shell(CVE-2026-114938)이 2026년 11월 17일 공개되었고, CVSS 4.0 기준 9.2점(Critical)입니다 [1].
  • 유일한 완전한 해결책은 Java 런타임 업데이트이며, 컨테이너 이미지나 애플리케이션에 번들된 JDK까지 바꾸고 서비스를 재시작해야 합니다 [1].
  • 당장 패치가 어렵다면 JVM 시작 플래그로 취약 경로를 끄거나, Cloudflare WAF 관리형 규칙으로 노출을 줄일 수 있습니다 [1].

무엇이 바뀌었나

보안 연구 회사 Calif가 OpenJDK Base64 디코더의 취약점을 공개했고, 같은 날 21:00 UTC에 OpenJDK는 보안 권고를, Oracle은 2026년 11월 Critical Patch Update로 패치 빌드를 내놓았습니다 [1].

문제는 인트린직(intrinsic, 자주 쓰는 코드를 CPU 전용 기계어로 바꿔 빠르게 실행하는 기능)에 있습니다. 지원되는 x86-64 프로세서에서 Base64 인트린직은 AVX-512 명령으로 한 번에 64바이트를 처리하는데, 입력 끝부분을 다루는 수작업 어셈블리에 버그가 있습니다 [1]. 정상 Base64라면 나올 수 없는 위치에 패딩 문자(=)가 오면 출력 길이가 음수로 계산되고, 이것이 64바이트 전체 쓰기로 바뀝니다 [1]. 예를 들어 64자 뒤에 =가 하나 붙은 65자 입력이면 50바이트 출력 배열 끝을 넘어 62바이트를 덮어씁니다 [1].

중요한 점은 Java가 결국 입력을 거부하고 예외를 던지더라도 그 전에 이미 인접 메모리가 손상된다는 것입니다 [1]. 즉 애플리케이션 자체의 입력 검증으로는 막을 수 없습니다 [1]. 가장 단순한 트리거는 A 64개와 =이며, OpenJDK 17에서는 빠른 경로 임계값이 높아 128자 뒤에 =가 필요하다고 합니다 [1].

Calif는 이 덮어쓰기를 Heartbleed와 비슷한 힙 메모리 유출과 원격 코드 실행으로 발전시켰습니다 [1]. 기본 설정의 Keycloak, Jira, Confluence, JFrog Artifactory, Jenkins, PingFederate에서는 인증 전 원격 코드 실행을, Kafka, Solr, Elasticsearch, Gerrit, Spinnaker에서는 인증 후 원격 코드 실행을 시연했습니다 [1].

운영 관점에서 볼 점

공격 난이도와 속도: 덮어쓰는 바이트는 대부분 고정값이고 공격자는 쓰기 위치만 제어할 수 있어, 대상 애플리케이션마다 별도의 익스플로잇 체인이 필요합니다 [1]. 다만 Calif는 AI 에이전트의 도움으로 첫 로컬 익스플로잇을 약 3시간 만에 만들었다고 밝혔고, Cloudflare는 다른 공격자들도 빠르게 체인을 만들 것으로 예상합니다 [1].

영향 범위 파악: Cloudflare 글에는 영향을 받는 조건 목록이 있다고 되어 있으나, 제공된 자료에서는 그 세부 조건이 확인되지 않습니다 [1]. 확실한 것은 많은 애플리케이션이 자체 Java 런타임을 번들하고 컨테이너 이미지는 고정된 JDK를 담고 있어, 시스템 Java 패키지만 올려서는 이런 사본이 갱신되지 않는다는 점입니다 [1]. 이미 실행 중인 JVM도 교체되지 않으므로 업데이트한 서비스는 모두 재시작해야 합니다 [1].

WAF의 한계: 이 취약점은 외부로 나가는 TLS 응답처럼 WAF가 보지 못하는 경로로도 도달할 수 있어, WAF는 패치를 대신하지 못합니다 [1].

성능 비용: 아래 완화 플래그는 Base64를 대량으로 디코딩하는 워크로드에서 성능을 떨어뜨릴 수 있습니다 [1].

적용해 보려면

  1. 런타임 전수 조사와 패치: 호스트의 시스템 JDK뿐 아니라 애플리케이션 번들 JDK, 컨테이너 이미지 안의 JDK를 모두 찾아 패치 빌드로 교체하고 재시작합니다 [1].
  2. 즉시 패치가 어려우면 JVM 플래그 적용: Calif가 문서화한 두 가지 시작 플래그로 취약 코드 경로를 제거할 수 있습니다 [1].
code
-XX:-UseBASE64Intrinsics
-XX:UseAVX=2

첫 번째는 하드웨어 가속 Base64 인코딩·디코딩을 끄고, 두 번째는 AVX-512를 끕니다 [1]. -XX:UseAVX=2는 x86-64 호스트에만 넣어야 하며, ARM의 OpenJDK는 이 플래그를 인식하지 못해 기동에 실패합니다 [1]. 두 플래그 모두 재시작이 필요하고 시간을 버는 수단일 뿐입니다 [1]. 3. Cloudflare WAF 관리형 규칙 점검: Pro, Business, Enterprise 플랜에서 Cloudflare Managed Ruleset(Ruleset ID efb7b8c949ac4650a09736fc376e9aee)에 새 규칙이 추가되었습니다 [1]. 일부 정상 토큰 형식이 공격처럼 보일 수 있어 기본 동작은 Log입니다 [1]. Security Events에서 매칭된 요청을 검토하고, 정상 트래픽에 영향이 없음을 확인한 뒤 Block으로 바꾸면 됩니다 [1]. 4. 추가 계층 활용: Business·Enterprise 플랜은 WAF attack score가 요청마다 원격 코드 실행 페이로드 가능성을 머신러닝으로 점수화해 시그니처 규칙이 놓치는 변형을 잡는 데 도움을 준다고 합니다 [1]. 규칙 변경은 WAF changelog에서 추적할 수 있습니다 [1].

정리

Java4Shell은 애플리케이션 검증보다 앞선 디코더 내부에서 메모리가 손상되기 때문에 코드 레벨 방어가 통하지 않는 취약점입니다 [1]. 우선순위는 번들·컨테이너 JDK를 포함한 런타임 전수 패치와 재시작이고, 그 사이에는 아키텍처를 확인한 JVM 플래그 적용과 WAF 규칙의 Log→Block 전환으로 노출을 줄이는 것이 현실적인 순서입니다 [1]. Cloudflare는 자사 인프라에서 악용 징후는 아직 보지 못했다고 밝혔습니다 [1].

참고 자료

  1. How Cloudflare WAF helps protect against Java4Shell (CVE-2026-114938) · Cloudflare, 2026-11-18

#Java4Shell#CVE-2026-114938#OpenJDK#Cloudflare WAF#Base64#JVM