메세지큐 - 카프카에 대해서
2024. 10. 27. 19:43
글또
아파치 카프카란 무엇인가?한마디로 말 하자면 Data inMotion platform이라고 말할수 있습니다. 즉, 움직이는 데이터를 처리하는 플랫폼이라고 하면서 또 다른 말로 하자면 Event Streaming Platform 이라고 합니다.실시간으로 흐르는 이벤트를 받아서 데이터가 필요한곳으로 데이터를 전송해주는것! Event는 비지니스 상에서 흐르는 모든 일들을 (Data)을 의미합니다. 예시로는우리가 웹 상에서 클릭송금청구서 발행위치정보택시 GPS, 배달 기사분들의 실시간 위치센서의 온도/압력 데이터이러한 Event의 특징은 BigData의 특징을 가지고있습니다.비지니스 모든 영역에서 광범위하게 발생대용량의 데이터가 발생끝임없이 데이터가 들어오기 때문에 event stream 이라고 부르고있습니다..
아파치 스톰 과 아파치 카프카
2024. 7. 16. 20:59
잡담
안녕하세요, 요즘 야근에 푹 빠져 살고있어서 오랜만에 글을 적습니다.예전부터 늘 공유하고 싶었던 아파치 스톰과 카프카의 장단점에 대해 적어보도록하겠습니다.저는 FDS(이상거래방지 시스템) 과 관련된 솔루션 회사에 근무를 하고 있고,제가 오기전부터 대용량 처리를 위한 파이프라인의 한 축을 카프카 아닌 스톰을 데이터 스트림의 실시간 처리를 위해 채택을 했습니다.이런식으로 데이터가 오갈때 log 를 수집하기도 하며 룰탐지를 통해서 미리 예방할수도 있습니다. 요즘은 금감원에서 더더욱 책임을 은행에 묻고 있어서 더 견고하게 만들어야하는 경우가 생기고있습니다.왜 카프카 가 아닌 스톰을 했는지 알지는 못하여서 둘의 차이점을 살펴보면서 왜 도입하게 되었는지 알아보도록하겠습니다.먼저, 대용량 처리에 필수적인 요소인..