그냥 기억하기 싫어서 기록하는 블로그

  • 홈
  • 태그
  • 방명록

Sticky 1

partition.assignment.strategy 설정을 이용한 Consumer autoscaling 최적화

현재 제가 근무하는 회사는 모든 서비스를 마이크로서비스 아키텍처(MSA)로 동작하기 위해 Kubernetes 환경에서 운영하고 있습니다. 이러한 환경에서는 Horizontal Pod Autoscaler(HPA)를 사용하여, Consumer 애플리케이션이 일정 리소스를 초과하여 사용할 경우, 이를 감지하고 자동으로 스케일아웃(Scale Out)을 진행하여 최대 파티션 개수만큼 늘어날 수 있도록 설정하였으며 반대로 리소스 사용량이 감소하면, 스케일인(Scale In)을 통해 리소스 소비를 최소화하도록 조정하였습니다. 그러나, HPA로 인하여 Kafka 컨슈머의 스케일아웃(Scale Out) 또는 스케일인(Scale In)이 빈번히 발생하면, 파티션 할당(Partition Assignment) 과정에서 부하가..

Kafka/kafka 기본 2024.03.07
이전
1
다음
더보기
프로필사진

그냥 기억하기 싫어서 기록하는 블로그

그냥 기억하기 싫어서 기록하는 블로그

  • 분류 전체보기
    • DevOps
    • Go언어
    • Elasticsearch
    • Opensearch
    • Kafka
      • kafka 기본
      • Strimzi
    • Prometheus
    • git & github
    • ETC
    • 나의생각
    • AI

Tag

elasticsearch, kubernetes, Docker, git, Aggregation, vscode, ubuntu, operator, Index, prometheus, aggs, go, Kafka, Golang, install, Strimzi, Snapshot, helm, OpenSearch, es,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/02   »
일 월 화 수 목 금 토
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28

방문자수Total

  • Today :
  • Yesterday :

Copyright © AXZ Corp. All rights reserved.

티스토리툴바