저는 한동안 주로 Python과 JavaScript로 코딩을 해왔습니다. 저는 웹 앱과 스크립트를 구축하고 심지어 기계 학습도 해봤습니다. 그러나 나는 좀 더 낮은 수준의 시스템과 네트워킹에 손을 더럽힐 수 있는 것을 원했습니다. Go는 해당 업무에 완벽한 언어인 것 같았습니다.

그래서 저는 로드밸런서를 구축하기로 결정했습니다. 트래픽 관리 방법, 다중 연결 처리 방법, Go의 동시성 기능에 대해 자세히 알아볼 수 있는 기회였습니다. 제가 어떻게 했는지 분석해 보겠습니다.

숙제

코드 작성에 뛰어들기 전에 공부를 좀 해야 했어요. 컴퓨터가 인터넷에서 사용하는 언어와 서로를 찾는 방법 등 컴퓨터가 서로 어떻게 대화하는지 이해해야 했습니다. 누가 어떤 일을 하는지 등 컴퓨터 간에 작업을 공유하는 다양한 방법도 살펴봤습니다.

그런 다음 작업 공간을 설정했습니다. 나는 올바른 도구를 얻었고 내 컴퓨터가 사용할 준비가 되었는지 확인했습니다. 뭔가 멋진 것을 만들기 전에 작업장을 준비하는 것과 같았습니다.

왜 로드 밸런서인가?

자, 현실화해 보겠습니다. 왜 로드 밸런서에 신경을 쓰나요? 귀하의 웹사이트가 매우 인기 있는 피자 가게라고 상상해 보십시오. 당신은 그것을 죽이고 있어요, 그렇죠? 그런데 갑자기 마을 사람들 모두가 당신의 피자를 원합니다. 기본적으로 온라인 오븐인 웹사이트가 과열되기 시작합니다. 주문이 쌓이고 고객이 화를 내며 결국 반죽 더미가 쌓이게 됩니다(비유적으로 말하면).

여기서 로드 밸런서가 필요합니다. 이는 매우 똑똑한 피자 배달원을 고용하는 것과 같습니다. 이 사람은 어떤 오븐(또는 서버)이 무료인지 항상 찾고 있습니다. 주문(혹은 요청)이 들어오면 재빠르게 용량이 가장 많은 오븐으로 넘겨준다. 이렇게 하면 오븐(또는 서버)이 과로하지 않고 모두가 제 시간에 피자(또는 웹사이트 콘텐츠)를 받을 수 있습니다.

간단히 말하면 로드 밸런서는 웹 사이트의 교통 경찰과 같습니다. 상황이 좋지 않은 경우에도 모든 것이 원활하게 실행되도록 합니다.

그런데 왜 구축해야 할까요? 시중에는 로드 밸런서가 많이 있습니다. 그렇죠? 글쎄, 그들이 내부적으로 어떻게 작동하는지 이해하는 것은 판도를 바꿀 수 있습니다. 또한 직접 구축하는 것은 네트워킹, 동시성 및 시스템 설계에 대해 배울 수 있는 좋은 방법입니다. 그것은 단지 자동차를 운전하는 것이 아니라 자신의 차를 만드는 것과 같습니다. 관련된 엔지니어링에 대해 더 깊이 감사하게 됩니다.

폭풍 전의 침묵: REST API 구축

로드 밸런서를 시작하기 전에 트래픽을 분산할 서비스가 필요했습니다. 상태 확인 및 더미 워크로드를 위한 기본 엔드포인트가 포함된 간단한 REST API를 만들었습니다. 이는 로드 밸런서의 테스트베드 역할을 했습니다.

Go의 net/http 패키지를 사용하면 API 자체를 구축하는 것이 매우 간단했습니다. 상태 확인 및 기본 작업에 대한 엔드포인트를 정의했습니다. 상태 확인 엔드포인트는 서버의 상태를 나타내는 간단한 상태를 반환한 반면, 다른 엔드포인트는 워크로드를 시뮬레이션하기 위해 몇 가지 더미 계산을 수행했습니다.

그러나 이러한 백엔드 서비스의 안정성을 보장하는 것이 중요했습니다. 상태를 모니터링하기 위해 기본적인 상태 점검을 구현했습니다. 여기에는 정기적으로 상태 확인 엔드포인트에 요청을 보내고 서버가 특정 기간 내에 응답하지 못한 경우 서버를 비정상으로 표시하는 작업이 포함되었습니다.

제발: 로드 밸런서 구축

다음 단계는 실제 로드 밸런서를 구축하는 것이었습니다. 여기에는 몇 가지 주요 구성 요소가 포함되었습니다. 첫째, 사용 가능한 모든 서버를 추적할 수 있는 방법이 필요했습니다. 주소, 상태 등 각 서버에 대한 정보를 저장하기 위해 레지스트리를 만들었습니다. 이번 프로젝트에서는 단순한 인메모리 구조를 사용했지만, 프로덕션 환경에서는 etcd와 같은 분산 시스템이 더 적합할 것 같습니다.

로드밸런서의 핵심은 트래픽을 분산하는데 사용되는 알고리즘입니다. 기본적인 라운드 로빈 접근 방식으로 시작했지만 특정 요구 사항에 따라 최소 연결 또는 가중치 라운드 로빈과 같은 더 복잡한 전략을 구현할 수 있습니다.

들어오는 연결을 처리하기 위해 Go의 net 패키지를 사용하여 리스너 소켓을 만들었습니다. 들어오는 각 연결은 별도의 고루틴에 의해 처리되어 동시 처리가 가능합니다. 이는 많은 양의 트래픽을 효율적으로 처리하는 데 매우 중요했습니다.

백엔드 서버의 가용성을 보장하는 것이 최우선 과제였습니다. 서버 상태를 모니터링하기 위해 기본 상태 점검을 구현했습니다. 서버가 비정상인 것으로 확인되면 로드 밸런서의 순환에서 제거되었습니다. 그러나 프로덕션 환경의 경우 활성 프로브 또는 로드 기반 검사와 같은 보다 정교한 상태 검사가 필요한 경우가 많습니다.

강력한 로드 밸런서를 구축하는 것은 성능, 확장성, 내결함성과 같은 요소를 신중하게 고려하는 복잡한 작업입니다. 이 프로젝트는 탄탄한 기반을 제공했지만 프로덕션 등급 로드 밸런서는 일반적으로 추가 기능과 최적화가 필요합니다.

그럼, 다음은 무엇입니까?

이 로드 밸런서를 구축하는 것은 퍼즐을 맞추는 것과 같았습니다. 분명 수건을 던지고 싶을 때도 있었지만, 모든 것이 하나로 합쳐지는 것을 보는 만족감은 그만한 가치가 있었습니다.

저는 다중 연결과 백그라운드 작업을 처리하는 데 필수적인 Go의 동시성 기능에 대해 많은 것을 배웠습니다. 리소스를 효율적으로 관리하는 방법을 이해하는 것도 중요한 내용이었습니다. 또한 네트워킹 개념과 탄력적인 시스템을 구축하는 방법을 확실히 이해했습니다.

이 로드 밸런서는 좋은 출발점이기는 하지만 아직 갈 길이 멉니다. 더 발전된 로드 밸런싱 알고리즘을 탐색하고, 고정 세션과 같은 기능을 구현하고, 서비스 검색 시스템과 통합하고 싶습니다.

로드 밸런싱이나 Go에 대해 더 자세히 알아보고 싶다면 한번 시도해 보시기 바랍니다. 힘들지만 보람있는 여행입니다. 아래 댓글로 자유롭게 경험을 공유하거나 질문을 남겨주세요.