GC 튜닝 기본

1) JVM의 주요 default 설정

1. 서버용 머신 : G1GC가 사용, 그 외 : Serial Collector 사용

2. Initial heap size (JVM이 시작할 때 바로 확보하는 heap 크기) : RAM의 1/64

3. maximum heap size (JVM heap의 최대 크기) : RAM의 1/4

4. minimum heap size (JVM heap의 최소 크기) : 디폴트 값 설정이 약간 복잡하게 결정됨

 

 

=> 서버 애플리케이션의 경우 이 세가지 값을 동일하게 맞춤 

5. 최대 GC thread 수 : heap size와 이용 가능한 CPU resources에 의해 결정됨

6. JIT 컴파일러 : C1과 C2를 사용하는 tiered compiler 사용

 

 

실행 중인 자바 프로세스의 JVM 기본 옵션 보기 

jps -l # 현재 실행중인 자바 프로세스 ID 리스트

jcmd 프로세스아이디 VM.flags # 기본적으로 설정된 VM Option

 

2) 튜닝 대상 

최대 일시 중지 시간(Maximum Pause-Time Goal) : -XX:MaxGCPauseMillis=밀리초

 - 일시 중지 시간 :  가비지 컬렉터가 애플리케이션을 중지하고 더 이상 사용되지 않는 공간을 회수하는 데 걸리는 시간 

- pause time이 아무리 길어도 `maximum pause-time goal`보다는 적어야 한다 
- GC는 pause time에 대한 가중평균과 분산을 계산해서 이 둘의 합을 maximum pause-time 으로 설정
- maximum pause-time goal의 디폴트 값은 collector마다 다름

 

>> heap size나 gc 관련 여러 파라미터들을 조정하여 pause time을 nnn milliseconds보다 작게 유지하려고 시도 

 

Q. 일시 중지 시간을 줄이고 싶어+힙 관점에서는 어떻게 조절해야 하는가

힙 사이즈 줄이기 (탐색해야하는 힙내 데이터가 줄어들음) 

 

처리량 목표(Throughput Goal)  : -XX:GCTimeRatio=nnn

- GC time과 application time을 비교해서 특정 비율을 맞춘다 

- `-XX:GCTimeRatio=nnn`로 지정. `GC Time Ratio = 1/(1+nnn)`로 목표를 설정한다 

 

Q. throughput goal이 충족되지 않음

힙 사이즈 늘이기 

 

풋프린트 (Minimum Footprint Goal)

- 처리량 및 최대 일시 중지 시간 목표가 충족되면, 두 목표 중 하나(대기 처리량 목표)를 더 이상 충족할 수 없을 때까지 힙 크기를 줄인다

(불필요하게 점유하는 메모리를 줄여서 다른 프로세스들도 메모리를 사용할 수 있게 해준다)

- 가비지 컬렉터가 사용할 수 있는 최소 및 최대 힙 크기는 다음을 사용하여 설정할 수 있다 

 

-Xms=<nnn>  : 최소 힙 크기 

-Xmx=<mmm> : 최대 힙 크기 

 

 

Q. 서버 애플리케이션은 최소 힙 = 최대 힙 . 왜 ?

런타임 중 힙 크기 변화를 막아서 GC 안정성과 성능을 확보하기 위해

 

 

서버는:

• 항상 트래픽 있음
• latency 민감 (특히 API)
• 예측 가능한 성능 중요

👉 힙이 늘어나면:

• GC pause 시간 증가
• 요청 지연 발생
• tail latency 튐 (이게 제일 위험)

 

3) 힙 사이즈 튜닝을 어떻게 해야 하는가 

throughput goal을 잡고 max heap size를 잡는다 (swap 없이)

그럼에도 목표를 달성하지 못하면 RAM 이 이 throughput 을 감당하지 못하는 것이다 

달성했는데 pause time이 너무 길면 maximum pause-time goal 을 지정한다 

(단, throughput goal과 maximum pause-time goal은 트레이드 오프 관계이기 때문에 적당한 타협이 필요하다)

서버 애플리케이션은 동일하게 설정한다