CPU 2

로그 모니터링 개발 기록 03. 검색엔진의 성능 최적화

2021년 11월부터 현재(24년 1월)까지 약 2년동안 와탭 로그 모니터링을 개발하면서 배우고 느꼈던 것들을 정리하고 있습니다. 검색 엔진의 저장 구조, 조회 구조 다음으로 성능 최적화를 다루고 있습니다. 이번 글에서는 가장 아쉬움이 많이 남는 기능인 동시에, 가장 성능 개선이 많이 진행된 기능인 ‘임의의 문자열로 검색하기’에 대해서 이야기를 해보겠습니다. 들어가며 엄청나게 많은 문서 속에서 임의의 문자열이 등장하는 단 하나의 문서를 찾으려면 어떻게 해야할까요? 첫 번째 방법은 모든 키워드에 대해서 색인을 생성하는 것입니다. 검색엔진의 저장 구조 이해하기를 읽어주신 분이라면 ‘색인’은 특정 단어로 직접 이동할 수 있는 자료구조라는 것과 Inverted Index, SSTable을 사용해서 개념적으로 어..

문제의 원인은 집 밖에 있었다

저는 사내에서 로그 모니터링 서비스를 만들고 있습니다. 어떤걸 만들고 있는지는 아래의 문서에서 확인하실 수 있습니다. https://www.whatap.io/ko/log-monitoring/ 로그 모니터링 | 와탭 와탭 로그 익스텐션은 다른 모니터링 서비스와 이용 할 때 부가 기능으로 사용하는 로그 모니터링 입니다. 와탭의 application, server, kubernetes 모니터링을 이용하고 있다면 Log 기능 활성화만으로 시 www.whatap.io 본 문서에서는 '문제의 원인은 집밖에 있었다'라는 주제로 이야기를 풀어보려고 합니다. (보안에 문제가 없는 선에서 이야기해야해서 생각보다 싱겁게 끝날 수 있습니다) 어느 날, 운영 환경에서 아래와 같은 현상이 발생했습니다. 약 오전 10시 13분부터..