[2주차 질문 - 추호성]

[HoSungChoo]

4장

토큰 버킷 알고리즘을 설명할 때, "짧은 시간에 집중되는 트래픽(burst of traffic)도 처리 가능하다" 라는 문구가 있다. 이는 정확히 어떤 것을 의미하는지 ?

누출 버킷 알고리즘을 설명할 때, "트래픽 버스트가 있는 경우, 최신 요청들이 버려질 수 있다" 라는 문구가 있는데, 이는 다른 알고리즘에서도 마찬가지 아닌가? 당연한걸 왜 써놓은걸까

처리율 제한 장치에서 캐시를 이용할 때, 캐시 정책이 구체적으로 어떻게 작동하는가?

경쟁 조건을 해결하기 위해 루아 스크립트, 정렬 집합 을 이용한다고 하는데, 구체적으로 어떤 개념인가?

레디스는 싱글 스레드인가?

싱글 스레드와 멀티 스레드의 정의가 무엇인가?

싱글 스레드 환경에서 경쟁 조건을 생각해야 할 이유가 있나?

성능 최적화 기능에서 최종 일관성 모델이 무엇인가?

API 서버에도 OSI 계층을 논할 수 있나? 그렇다면 미들웨어는 어떤 계층에 존재하는 것인가? 혹시 우리가 배우고 있는 서버는 애플리케이션 계층에 속하는건가?

5장

가상 노드를 관리하는 데이터 구조가 어떻게 되는가?

가상 노드를 키의 분포를 기반으로 생성하면, 적은 가상 노드로도 안정 해시를 효율적으로 관리할 수 있지 않는가?

[HoSungChoo]

토큰 버킷 알고리즘을 설명할 때, "짧은 시간에 집중되는 트래픽(burst of traffic)도 처리 가능하다" 라는 문구가 있다. 이는 정확히 어떤 것을 의미하는지 ?

---

고정 윈도우 카운팅 알고리즘의 경우 기준치 이상의 요청을 수용하는 상황이 나오는 반면, 토큰 버킷 알고리즘의 경우 기준치 이상의 요청을 수용하지 않는다.(기준치 이상의 수용 스펙이 필요하지 않다는 뜻)

이는 짧은 시간에 집중되는 트래픽에 대해 대응할 수 있음을 의미한다.

추가+) 시스템이 단순해서 견고하다는 건가?

[HoSungChoo]

누출 버킷 알고리즘을 설명할 때, "트래픽 버스트가 있는 경우, 최신 요청들이 버려질 수 있다" 라는 문구가 있는데, 이는 다른 알고리즘에서도 마찬가지 아닌가? 당연한걸 왜 써놓은걸까

---

모르겠다

[HoSungChoo]

처리율 제한 장치에서 캐시를 이용할 때, 캐시 정책이 구체적으로 어떻게 작동하는가?

---

정책보다는 캐시 알고리즘이 더 어울린다. 처리율 제한 장치에서 캐시는 COUNTER를 담당한다. INCR 명령어를 통해 카운터를 1 올려주며, 카운터의 타임아웃값을 정해준다.

예를 들어, 1분 동안 5번의 로그인만 가능하도록 정책을 구상한 뒤 처음으로 로그인하면, 1분이라는 만료시간을 가진 캐시가 생성되며, 로그인을 진행할 때 마다 카운터가 하나씩 증가한다. 카운터가 5를 넘길 경우, 에러를 반환한다.

[HoSungChoo]

경쟁 조건에 따른 정합성 문제를 해결하기 위해 루아 스크립트, 정렬 집합 을 이용한다고 하는데, 구체적으로 어떤 개념인가?

---

루아 스크립트는 가볍고 빠른 임베디드 스크립트 언어다. 루아 스크립트를 이용하여 레디스에서 발생할 수 있는 경쟁 상태 문제를 해결할 수 있다. 루아 스크립트는 여러 개의 레디스 명령어를 원자적으로 실행시켜주며, 서버 간 네트워크 비용을 줄일 수 있다는 장점을 가진다.

정렬 집합(ZSET)을 이용해 정합성 문제를 해결할 수 있다. 레디스의 싱글 스레드 구조를 기반한 원자성을 이용한다. 타임스탬프를 기반으로 정렬한 뒤, 순서대로 실행하며 정합성을 해결한다.

[HoSungChoo]

레디스는 싱글 스레드인가?

---

레디스는 기본적으로 싱글 스레드로 처리한다. 그러나 6.0 버전 이후엔 다음과 같은 부분에 멀티 스레드가 적용된다.

• 클라이언트가 전송한 명령을 네트워크를 통해 읽어서 파싱하는 부분

• 처리된 결과를 네트워크를 통해 클라이언트로 전달되는 부분

즉, 기본적인 작동 로직은 싱글 스레드를 기반으로 하며, 입출력 관련 부분만 멀티 스레드가 적용된다. 레디스 스레드 정보

[HoSungChoo]

싱글 스레드와 멀티 스레드의 정의가 무엇인가?

---

싱글 스레드와 멀티 스레드의 차이는 스레드의 개수다. 즉, 멀티 스레드 환경에서는 여러 개의 작업을 스레드가 각각 맡을 수 있다. 그러나 이것은 스레드가 일을 동시에 처리한다는 뜻은 아니다. 단일 CPU 환경에서는 문맥 교환을 활용하며 스레드가 하나씩 하나씩 작업을 하게 된다. 따라서, 멀티 스레드 환경에서는 작업이 동시에 처리된다고 생각하면 안된다.

멀티 스레드의 가장 큰 특징은 비동기가 가능하다는 점이라고 생각한다. 외부 API 호출 및 계산(예를 들어, IO 작업)과 같은 작업은 작업 내내 CPU가 필요하진 않다. 멀티 스레드 환경에서는 CPU가 필요하지 않은 시점에 다른 스레드를 동작시키고, 다시 CPU가 필요해진 시점에 해당 일을 맡아서 처리하는 방식으로 작업 효율을 늘릴 수 있다.

[HoSungChoo]

싱글 스레드 환경에서 경쟁 조건을 생각해야 할 이유가 있나?

---

싱글 스레드 환경은 각 명령어 자체에 대해서는 원자적으로 수행하지만, 여러 명령어를 조합하거나 여러 클라이언트가 동시 접근하면 경쟁 상태가 발생할 수 있다. 따라서, 이를 LUA 스크립트를 이용하여 하나의 트랜잭션으로 묶는 등 일관성을 위한 조치를 실행해야 한다.

[HoSungChoo]

성능 최적화 기능에서 최종 일관성 모델이 무엇인가?

---

분산 시스템에서 특정 시점 이후에 모든 노드의 데이터가 결국 일관된 상태가 됨을 보장하는 모델이다. 데이터를 즉시 동기화하는 강한 일관성 모델과는 달리, 일시적으로 데이터가 불일치할 수 있지만, 일정 시간이 지나면 모든 노드가 동일한 데이터 상태로 수렴하는 것을 목표로 한다.

성능 개선과 일관성 유지의 트레이드오프에서 성능 개선을 택한 경우며, DNS 서버, SNS 시스템, NoSQL과 같은 예시가 존재한다.

[HoSungChoo]

API 서버에도 OSI 계층을 논할 수 있나? 그렇다면 미들웨어는 어떤 계층에 존재하는 것인가? 우리가 배우고 있는 서버는 애플리케이션 계층에 속하는건가?

---

모르겠음. 스프링 서버 자체는 API 통신 역할을 수행하기 때문에 애플리케이션 계층임을 추측함

[HoSungChoo]

가상 노드를 관리하는 데이터 구조가 어떻게 되는가?

---

궁금한데 찾아봐도 안나옴..

[HoSungChoo]

가상 노드를 키의 분포를 기반으로 생성하면, 적은 가상 노드로도 안정 해시를 효율적으로 관리할 수 있지 않는가?

---

이렇다 할 문서가 없음