CS/network

Load Balancing(로드 밸런싱)

superbono 2021. 5. 9. 17:02

* Load Balancing? 

https://codeburst.io/load-balancers-an-analogy-cc64d9430db0

Load Balancing(로드 밸런싱, 부하 분산)은 컴퓨터 네트워크 기술의 일종으로 여러 개의 컴퓨터 자원들에게 작업을 나누는 것을 의미한다. 이 때 컴퓨터 자원은 CPU, Storage, Server 등이 될 수 있다. 로드 밸런싱을 통해 가용성 및 응답 시간을 최적화할 수 있다. 또한 인터넷 서비스에 로드밸런싱을 적용하면 내부 네트워크 구조를 숨길 수 있으므로 크래킹을 막을 수 있는 보안적 이점을 얻을 수 있다. 

 

* Load Balancer?

서버에 가해지는 부하(Load)를 분산(Balancing)해주는 장치 또는 기술을 통칭한다. 한 대의 서버로 부하가 집중되지 않도록 트래픽을 분산 관리해주어 각각의 서버가 최적의 퍼포먼스를 보일 수 있도록 해준다. 

 

* 트래픽 증가에 대처할 수 있는 2가지 방법

https://codopia.wordpress.com/2017/10/28/capacity-planning-and-scaling-the-azure-function-apps/

- Scale-up

Scale-up의 경우 자원의 성능 자체를 올리는 것을 의미한다. 예를 들어 CPU라면 i3 -> i5 -> i7으로 올리는 경우, 서버라면 100의 트래픽을 감당할 수 있는 것을 200, 300으로 올리는 등 자원의 성능을 확장하는 것이다.

 

- Scale-out

Scale-out은 자원의 수를 늘리는 것이다. Scale-up의 경우, 성능을 올렸지만 Scale-out은 자원의 수를 늘린다. 그래서 만약 CPU라면 i3 CPU를 3,4개씩 여러개 다는 멀티  프로세서가 되고 서버라면 그냥 동일한 트래픽을 감당할 수 있는 다중 서버가 될 것이다. 이 때 병렬적으로 자원을 연결했으니 앞으로 load를 어떻게 분산할것인지를 결정할 load balancing이 필요하다. 

 

* Load Balancing Algorithm

- Round Robin (라운드 로빈)

들어온 요청을 순서대로 돌아가며 배정한다. 여러 개의 자원이 동일한 성능(스펙)이고, 서버와의 연결(세션)이 오래 지속되지 않을 경우에 적합한 방식이다.

- Weighted Round Robin (가중 라운드 로빈)

각각의 자원(서버)마다 가중치를 매긴다. 가중치가 높은(트래픽 처리 능력이 높은) 서버에 우선적으로 클라이언트 요청을 배분한다. 그냥 Round Robin 방식이 여러 개의 서버가 동일한 성능일 때 쓰이는 방식이라면 Weighted Round Robin은 서버의 성능이 다를 때 사용된다. 예를 들어 A라는 서버가 5라는 가중치를 갖고 B라는 서버가 2라는 가중치를 갖는다면, 로드밸런서는 가중 라운드 로빈 방식으로 A 서버에 5개 B 서버에 2개의 요청을 전달한다.

- IP Hash (IP 해시)

클라이언트의 IP 주소를 특정 서버로 매핑하여 요청을 처리한다. 클라이언트의 IP를 해싱(Hashing, 임의의 길이를 지닌 데이터를 고정된 길이로 매핑하는 것)하여 부하를 밸런싱한다. 사용자가 항상 똑같은 서버로 연결되는 것을 보장한다. 

- Least Connection (최소 연결)

클라이언트의 요청이 들어온 시점에 가장 적은 연결 상태인 서버에서 트래픽을 분배한다. 세션이 자주 길어지거나, 서버에서버에 트래픽을 분배하는 것이 일정하지 않을 때 적합하다.

- Least Response Time (최소 응답 시간)

가장 적은 연결 상태와 가장 짧은 응답시간을 보이는 서버에 우선적으로 부하를 분배하는 방식이다.

 

* L4 Load Balacer와 L7 Load Balancer

L4 로드 밸런서와 L7 로드 밸런서가 가장 많이 활용되는데 L4 로드 밸런서부터 포트 정보를 바탕으로 로드를 분산하는 것이 가능하기 때문이다.

https://freeloadbalancer.com/load-balancing-layer-4-and-layer-7/

- L4 Load Balancer

L4 Load Balancer는 포트 정보와 TCP, UDP 등과 같은 Transport layer(L4) 프로토콜의 정보를 바탕으로 라운드 로빈과 같은 로드 밸런싱 알고리즘을 주로 사용하여 부하를 분산한다. 

 

- L7 Load Balancer

L7 Load Balancer는 HTTP, FTP, SMTP과 같은 Application Layer(L7) 프로토콜을 활용하여 로드를 분산한다. 따라서 HTTP 헤더, 쿠키 등과 같은 사용자의 요청을 기준으로 특정 서버에 트래픽을 분산하는 것이 가능하다. 패킷의 내용을 확인하고 내용에 따라 로드를 특정 서버에 분배하는 것이 가능하기 때문에 URL에 따라 부하를 분산시키거나, HTTP 헤더의 쿠키값에 따라 부하를 분산하는 등 클라이언트의 요청을 세분화하여 서버에 전달하는 것이 가능해진다. L7 로드밸런서의 경우 특정한 패턴을 지닌 바이러스를 감지해 네트워크를 보호할 수 있으며, DoS/DDoS와 같은 비정상적인 트래픽을 필터링할 수 있어 네트워크 보안적 이점을 취할 수도 있다.

 

https://post.naver.com/viewer/postView.nhn?volumeNo=27046347&memberNo=2521903



출처 - post.naver.com/viewer/postView.nhn?volumeNo=27046347&memberNo=2521903

 

로드밸런서(Load Balancer)의 개념과 특징

[BY 가비아] 현대의 모든 정보는 인터넷을 통해 연결되어있습니다. 인터넷의 발달은 데이터 통신을 보다...

m.post.naver.com

https://freeloadbalancer.com/load-balancing-layer-4-and-layer-7/

https://codopia.wordpress.com/2017/10/28/capacity-planning-and-scaling-the-azure-function-apps/

https://codeburst.io/load-balancers-an-analogy-cc64d9430db0

 

 

 

'CS > network' 카테고리의 다른 글

Network Layer의 Protocols  (0) 2021.06.23
슬라이딩 윈도우 프로토콜  (0) 2021.05.11
URI와 URL, URN  (0) 2021.05.08
TCP vs UDP  (0) 2021.05.07
TCP 3 way handshake  (0) 2021.05.02