Tomcat Clustering (톰캣 클러스터링)
Tomcat 클러스터링은 여러 대의 Tomcat 서버를 함께 동작시켜 고가용성과 확장성을 제공하는 기술입니다. 클러스터링을 구성하면 트래픽 분산과 장애 대응을 위해 여러 서버가 협력하여 웹 애플리케이션을 처리할 수 있습니다.
- `server.xml`에서 기본적인 클러스터 설정:
<!-- Connector 설정 -->
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443"
URIEncoding="UTF-8"
enableLookups="false"
maxThreads="200"
minSpareThreads="10"
maxSpareThreads="100"
acceptCount="100"
disableUploadTimeout="true"
enableLookups="false" />
<!-- Engine 설정 -->
<Engine name="Catalina" defaultHost="localhost">
<!-- Cluster 설정 -->
<Cluster className="org.apache.catalina.ha.tcp.SimpleTcpCluster">
<Manager className="org.apache.catalina.ha.session.DeltaManager"
expireSessionsOnShutdown="false"
notifyListenersOnReplication="true" />
<!-- 세션 복제 설정 -->
<Channel className="org.apache.catalina.tribes.group.GroupChannel">
<Membership className="org.apache.catalina.tribes.membership.McastService"
address="228.0.0.4"
port="45564"
frequency="500"
dropTime="3000" />
<Receiver className="org.apache.catalina.tribes.transport.nio.NioReceiver"
address="auto"
port="4000"
selectorTimeout="5000"
maxThreads="6" />
<Sender className="org.apache.catalina.tribes.transport.ReplicationTransmitter">
<Transport className="org.apache.catalina.tribes.transport.nio.PooledParallelSender" />
</Sender>
<Interceptor className="org.apache.catalina.tribes.group.interceptors.TcpFailureDetector" />
<Interceptor className="org.apache.catalina.tribes.group.interceptors.MessageDispatch15Interceptor" />
</Channel>
<Valve className="org.apache.catalina.ha.tcp.ReplicationValve"
filter="" />
<ClusterListener className="org.apache.catalina.ha.session.ClusterSessionListener" />
</Cluster>
<!-- Host 설정 -->
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="localhost_access_log" suffix=".txt"
pattern="%h %l %u %t "%r" %s %b" />
</Host>
</Engine>
- 로드 밸런서 구성:
클러스터링을 위해 로드 밸런서를 설정합니다. 로드 밸런서는 들어오는 요청을 여러 대의 Tomcat 서버로 분산하는 역할을 수행합니다. 일반적으로 Apache HTTP Server나 Nginx와 같은 웹 서버를 로드 밸런서로 사용합니다.
세션 복제 설정과 캐시 설정은 클러스터 내의 Tomcat 서버에서도 동일하게 구성해주어야 합니다. 이 부분은 아래 세션복제 설정과 캐시 설정을 각각 설명할 때 하도록 하겠습니다.
nginx:
http {
...
# 로드 밸런서 설정
upstream tomcat_cluster {
server tomcat-server1:8080;
server tomcat-server2:8080;
# 필요한 만큼 Tomcat 서버를 추가합니다.
}
# 세션 복제 설정
# sticky: 세션 고정을 위해 사용 클라이언트와 연결된 Tomcat 서버가 변경되더라도 동일한 세션을 유지할 수 있도록 합니다.
# sticky_header: 세션 식별을 위한 헤더를 설정. 클라이언트의 세션 ID를 사용하여 세션을 고정시킵니다.
# upstream_session_cookie: 세션 식별에 사용될 쿠키를 지정.
sticky;
sticky_header X-Session-ID;
upstream_session_cookie session_id;
# 캐시 설정
# proxy_cache_path: 프록시 서버의 캐시 디렉토리와 설정을 정의.
# proxy_cache_key: 캐시 키를 지정.
# proxy_cache: 캐시를 사용할지 여부를 설정.
# proxy_cache_valid: 캐시의 유효 기간을 정의.
# proxy_cache_use_stale: 캐시 사용 중에 오류가 발생할 경우 오래된 캐시를 사용할지를 설정.
proxy_cache_path /path/to/cache levels=1:2 keys_zone=my_cache:10m max_size=10g inactive=60m;
proxy_cache_key "$scheme$request_method$host$request_uri";
server {
listen 80;
server_name example.com;
location / {
proxy_pass http://tomcat_cluster;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
# 세션 복제 헤더 설정
proxy_set_header X-Session-ID $http_cookie;
# 캐시 설정
proxy_cache my_cache;
proxy_cache_valid 200 304 10m;
proxy_cache_valid any 5m;
proxy_cache_use_stale error timeout updating http_500 http_502 http_503 http_504;
}
}
...
}
- 세션 복제 설정:
클러스터 내의 서버들은 세션 정보를 공유하기 위해 세션 복제를 설정합니다. 세션 복제는 각 서버에서 생성된 세션 데이터를 다른 서버들과 동기화하여 일관성을 유지합니다. 이를 위해 요소를 사용하여 세션 관리자를 설정하고, 데이터를 공유할 위치를 지정합니다.
- 캐시 설정:
클러스터링 환경에서는 캐시 설정을 최적화하여 성능을 향상시킵니다. 정적 콘텐츠나 데이터베이스 쿼리 결과와 같이 자주 사용되는 데이터를 캐싱하여 중복된 작업을 피하고 응답 시간을 단축시킵니다.
캐시 설정은 Tomcat의 `context.xml` 파일에 추가해주어야 합니다.
<Context>
...
<!-- 캐시 설정 -->
<Resources cachingAllowed="true" cacheMaxSize="100000" cacheObjectMaxSize="1000">
...
</Resources>
...
</Context>
- 멀티캐스트 또는 유니캐스트 설정:
클러스터 내의 서버들은 상호간의 통신을 위해 멀티캐스트나 유니캐스트 방식을 사용합니다. 멀티캐스트는 네트워크에서 멀티캐스트 그룹으로 메시지를 보내는 방식이며, 유니캐스트는 각 서버에 직접 메시지를 전송하는 방식입니다. 사용하는 네트워크 환경에 맞게 적절한 설정을 선택합니다.
- 공유 리소스 설정:
클러스터링된 서버들이 공유하는 리소스를 설정합니다. 예를 들어, 공유 디렉토리를 설정하여 파일 업로드나 파일 다운로드 시에 서버 간에 리소스를 공유할 수 있도록 합니다.
- <Host> 요소 내에 <Context> 요소를 추가하여 공유 리소스 경로 지정
- 클러스터 내에서 공유할 디렉터리: `/shared`로 설정
<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
<Context path="/shared" docBase="/shared" />
...
</Host>