요즘에는 특히 마이크로서비스 환경에서 작업하는 경우 애플리케이션이 다른 애플리케이션에 의존하는 것이 매우 일반적입니다. 애플리케이션에서 오류 보고를 시작하는 것은 매우 흔한 일이며 조사 중에 파트너 팀이나 공급업체의 일부 API가 다운된 것을 발견했습니다.

애플리케이션의 탄력성을 높이는 좋은 방법은 더 이상 사용되지 않는 상태의 애플리케이션과의 통신을 끊는 것입니다. 다른 분야를 살펴보면 전기공학에서 차단기(Circuit Breaker)의 개념을 흡수합니다. 그 안에 장비 또는 회로 차단기가 배치되어 장애가 발생하면 자동으로 꺼집니다. 이는 전기 네트워크가 불안정해지기 시작하면 스스로 꺼지는 회로 차단기가 있는 우리 가정에서 매우 흔히 발생합니다.

컴퓨팅에서 회로 차단기는 중간 상태도 정의하므로 조금 더 복잡합니다. 아래 그림은 회로 차단기의 작동 방식을 더 잘 설명합니다.

마지막으로 상태는 다음과 같습니다.

• open: 애플리케이션 간 통신이 없습니다. 이 상태에 도달하면 타이머가 재설정 서비스 시간을 허용하기 시작합니다. 타이머가 끝나면 반개방으로 전환됩니다.
• 닫힘: 애플리케이션 간에 통신이 있습니다. 요청이 실패할 때마다 카운터가 업데이트됩니다. 실패 한계에 도달하면 회로를 개방으로 전환합니다.
• 반개방(half-open): 통신이 완전히 흐를 때까지의 회복 상태. 여기에는 각 요청마다 성공 카운터가 업데이트됩니다. 이상적인 성공 횟수에 도달하면 회로를 닫습니다. 요청이 실패하면 다시 개방형으로 전환됩니다.

정말 멋지죠? 하지만 개념을 더 잘 예시하기 위해 실제로 해보는 것은 어떨까요?

먼저 서비스 A를 구축해 보겠습니다. 요청 수신을 담당합니다. 즉, 애플리케이션이 의존하는 서비스, 공급자의 서비스 등이 됩니다. 더 쉽게 하기 위해 항상 200을 반환하는 /success와 항상 500을 반환하는 /failure라는 두 개의 엔드포인트를 노출합니다.

package main

import (
    "fmt"
    "log"
    "net/http"
)

func main() {
    http.HandleFunc("/success", func(w http.ResponseWriter, r *http.Request) { 
    w.WriteHeader(http.StatusOK) })
    http.HandleFunc("/failure", func(w http.ResponseWriter, r *http.Request) { 
    w.WriteHeader(http.StatusInternalServerError) })

    fmt.Println("Server is running at http://localhost:8080")
    log.Fatal(http.ListenAndServe(":8080", nil))
}

서비스 B는 서비스 A에 전화를 걸 책임이 있습니다. 서비스 B는 회로 차단기를 구축합니다. 다행스럽게도 Go 커뮤니티에는 이미 패턴을 구현하는 gobreaker 라이브러리가 있습니다! 먼저 차단기의 속성을 정의합니다.

var st gobreaker.Settings
st.Name = "Circuit Breaker PoC"
st.Timeout = time.Second * 5
st.MaxRequests = 2
st.ReadyToTrip = func(counts gobreaker.Counts) bool {
    return counts.ConsecutiveFailures >= 1
}

라이브러리를 사용하면 더 많은 항목을 맞춤설정할 수 있지만 다음 세 가지에 중점을 둘 것입니다.

• 타임아웃: 회로가 열린 상태로 유지되는 시간입니다. 우리의 경우에는 시간을 5초로 설정했습니다.
• MaxRequests: 종료되기 전 성공한 요청 수입니다. 이 예에서는 이를 2개의 요청으로 정의합니다.
• ReadyToTrip: 닫힌 상태에서 열린 상태로 전환하는 조건을 정의합니다. 일을 더 쉽게 하기 위해 한 번의 실패로 충분하다고 가정해 보겠습니다.

그런 다음 차단기를 초기화하고 요청을 보낼 수 있습니다.

cb := gobreaker.NewCircuitBreaker[int](st)

url := "http://localhost:8080/success"
cb.Execute(func() (int, error) { return Get(url) })
fmt.Println("Circuit Breaker state:", cb.State()) // closed!

url = "http://localhost:8080/failure"
cb.Execute(func() (int, error) { return Get(url) })
fmt.Println("Circuit Breaker state:", cb.State()) // open!

time.Sleep(time.Second * 6)
url = "http://localhost:8080/success"
cb.Execute(func() (int, error) { return Get(url) })
fmt.Println("Circuit Breaker state:", cb.State()) // half-open!

url = "http://localhost:8080/success"
cb.Execute(func() (int, error) { return Get(url) })
fmt.Println("Circuit Breaker state:", cb.State()) // closed!

gobreaker가 함수 주위의 래퍼 역할을 한다는 것을 알 수 있습니다. 함수가 오류를 반환하면 오류 수가 증가하고, 그렇지 않은 경우 성공 횟수가 늘어납니다. 그럼 이 함수를 정의해 봅시다:

func Get(url string) (int, error) {
    r, _ := http.Get(url)

    if r.StatusCode != http.StatusOK {
        return r.StatusCode, fmt.Errorf("failed to get %s", url)
    }

    return r.StatusCode, nil
}

그리고 회로 차단기를 사용한 Go 서비스도 있습니다! 이 패턴을 사용하면 서비스의 복원력과 내결함성을 높일 수 있습니다. 라이브러리를 사용하면 복잡성이 완전히 추상화되어 이를 일상 생활에 통합하는 과정이 매우 간단하다는 것을 알 수 있습니다. 전체 개념 증명 코드를 보려면 여기로 이동하세요.

다른 탄력성 패턴이 궁금하신 분들을 위해 Elton Minetto가 해당 주제에 대한 훌륭한 게시물을 게시했습니다!

이 게시물에 대한 의견을 댓글로 남겨주세요. 질문이 있습니다. 이전에 회로 차단기를 사용해 본 적이 있나요? 아, 제 개인 블로그에서도 저를 만나보실 수 있어요!