[ 一日30分 인생승리의 학습법] [Elasticsearch] 기본 개념잡기 

 

 

1. Elasticsearch란?

Elasticsearch는 Apache Lucene( 아파치 루씬 ) 기반의 Java 오픈소스 분산 검색 엔진입니다.

Elasticsearch를 통해 루씬 라이브러리를 단독으로 사용할 수 있게 되었으며, 방대한 양의 데이터를 신속하게, 거의 실시간( NRT, Near Real Time )으로 저장, 검색, 분석할 수 있습니다.

 

Elasticsearch는 검색을 위해 단독으로 사용되기도 하며, ELK( Elasticsearch / Logstatsh / Kibana )스택으로 사용되기도 합니다.

ELK 스택이란 다음과 같습니다.

  • Logstash
    • 다양한 소스( DB, csv파일 등 )의 로그 또는 트랜잭션 데이터를 수집, 집계, 파싱하여 Elasticsearch로 전달
  • Elasticsearch
    • Logstash로부터 받은 데이터를 검색 및 집계를 하여 필요한 관심 있는 정보를 획득
  • Kibana
    • Elasticsearch의 빠른 검색을 통해 데이터를 시각화 및 모니터링
 

출처 : https://www.edureka.co/blog/elk-stack-tutorial/

 

이제부터 Elasticsearch와 관련된 용어와 특징들에 대해 알아보겠습니다.

 

 

 

 

2. Elasticsearch와 관계형 DB 비교

흔히 사용하고 있는 관계형 DB는 Elasticsearch에서 각각 다음과 같이 대응시킬 수 있습니다.

출처: https://www.slideshare.net/deview/2d1elasticsearch

 

RDBMS를 다루셨던 분들이라면 Elasticsearch에서 사용하는 용어들이 조금 낯설지만 예제를 몇 번 따라해보시면 금방 적응하실 것이라 생각됩니다.

그래도 용어가 낯설기 때문에 다음으로 용어 정리를 해보도록 하겠습니다.

 

 

 

 

3. Elasticsearch 아키텍쳐 / 용어 정리

Elasticsearch에서 사용하는 대부분의 개념은 RDBMS에도 존재하는 개념들입니다.

아래의 사진은 Elasticsearch Architecture이며, 앞으로 설명할 용어들의 구조입니다.

 

출처 : https://github.com/exo-archives/exo-es-search

 

1) 클러스터( cluseter )

클러스터란 Elasticsearch에서 가장 큰 시스템 단위를 의미하며, 최소 하나 이상의 노드로 이루어진 노드들의 집합입니다.

서로 다른 클러스터는 데이터의 접근, 교환을 할 수 없는 독립적인 시스템으로 유지되며,

여러 대의 서버가 하나의 클러스터를 구성할 수 있고, 한 서버에 여러 개의 클러스터가 존재할수도 있습니다.

 

 

 

2) 노드( node )

Elasticsearch를 구성하는 하나의 단위 프로세스를 의미합니다.

그 역할에 따라 Master-eligible, Data, Ingest, Tribe 노드로 구분할 수 있습니다.

아래는 각 노드들에 대한 설명인데, 제가 Elasticsearch에 대한 깊이가 없어서 공식 문서의 설명들을 정리만 해보았습니다.

 

master-eligible node 링크 )

클러스터를 제어하는 마스터로 선택할 수 있는 노드를 말합니다.

여기서 master 노드가 하는 역할은 다음과 같습니다.

  • 인덱스 생성, 삭제
  • 클러스더 노드들의 추적, 관리
  • 데이터 입력 시 어느 샤드에 할당할 것인지

 

Data node 링크 )

데이터와 관련된 CRUD 작업과 관련있는 노드입니다.

이 노드는 CPU, 메모리 등 자원을 많이 소모하므로 모니터링이 필요하며, master 노드와 분리되는 것이 좋습니다.

 

Ingest node 링크 )

데이터를 변환하는 등 사전 처리 파이프라인을 실행하는 역할을 합니다.

 

Coordination only node 링크 )

data node와 master-eligible node의 일을 대신하는 이 노드는 대규모 클러스터에서 큰 이점이 있습니다.

즉 로드밸런서와 비슷한 역할을 한다고 보시면 됩니다.

 

 

 

3) 인덱스( index ) / 샤드( Shard ) / 복제( Replica )

Elasticsearch에서 index는 RDBMS에서 database와 대응하는 개념입니다.

또한 shard와 replica는 Elasticsearch에만 존재하는 개념이 아니라, 분산 데이터베이스 시스템에도 존재하는 개념입니다.

 

샤딩( sharding )은 데이터를 분산해서 저장하는 방법을 의미합니다.

즉, Elasticsearch에서 스케일 아웃을 위해 index를 여러 shard로 쪼갠 것입니다.

기본적으로 1개가 존재하며, 검색 성능 향상을 위해 클러스터의 샤드 갯수를 조정하는 튜닝을 하기도 합니다.

 

replica는 또 다른 형태의 shard라고 할 수 있습니다.

노드를 손실했을 경우 데이터의 신뢰성을 위해 샤드들을 복제하는 것이죠.

따라서 replica는 서로 다른 노드에 존재할 것을 권장합니다.

아래 사진에서 보는 바와 같이 Replica1은 Node2에 존재하는 것을 확인할 수 있습니다.
 

출처 : https://stackoverflow.com/questions/19838825/what-are-elasticsearch-indices#answer-19839840

 

 

 
 
4. Elasticsearch 특징
Elasticsearch는 다음과 같은 특징이 있습니다.
  • Scale out
    • 샤드를 통해 규모가 수평적으로 늘어날 수 있음
  • 고가용성
    • Replica를 통해 데이터의 안정성을 보장
  • Schema Free
    • Json 문서를 통해 데이터 검색을 수행하므로 스키마 개념이 없음
  • Restful
    • 데이터 CURD 작업은 HTTP Restful API를 통해 수행하며, 각각 다음과 같이 대응합니다.
    • Data CRUD

       Elasticsearch Restful

       SELECT

       GET 

       INSERT 

      PUT

       UPDATE

      POST

       DELETE

       DELETE

 

 
 
 
5. 간단한 예제
Elasticsearch를 사용하는 간단한 예제를 다뤄보도록 하겠습니다.
이 예제는 Restful API로 document를 추가하고 조회하는 예제이며, 맛보기용에 불과합니다.
이후의 글에서 자세히 알아보도록 하겠습니다.
 
Elasticsearch CRUD작업은 특징에서 살펴본 바와 같이 API를 호출해서 이루어지며,
curl로 데이터를 넘겨줄 수도 있지만, json 파일을 저장해서 데이터를 넘길 수도 있고, json 포맷으로 queryDSL을 작성해서 API를 호출할 수도 있습니다.
 
 
1) documnet 생성
# curl -XPOST 'localhost:9200/victolee/blog/1?pretty' -d '{"postName" : "elasticsearch", "category" : "IT"}' -H 'Content-Type: application/json'
  • -d 옵션
    • 추가할 데이터를 json 포맷으로 전달합니다.
  • -H 옵션
    • 헤더를 명시합니다. 예제에서는 json으로 전달하기 위해서 application/json으로 작성했습니다.
  • ?pretty
    • 결과를 예쁘게 보여주도록 요청

이렇게 curl 요청을 하면, victolee 인덱스에, blog 타입으로 id 값이 1인 document가 저장됩니다.

 

 
 
 
2) documnet 조회
# curl -XGET 'localhost:9200/victolee/blog/1?pretty'
document를 조회하는 API 입니다.
 

 
Elasticsearch를 잘 다루기 위해서는 Elasticsearch에서 제공하는 API를 알아둘 필요가 있으며,
queryDSL을 통해 쿼리를 작성해 원하는 방식대로 다양하게 조회할 수 있어야 합니다.
 
 
 
 
6. 역색인
그런데 Elasticsearch는 왜 빠를까요??
그 이유는 inverted index( 역색인 )에 있습니다.
 
먼저 index와 inverted index의 차이에 대해 알아보겠습니다.
쉽게 말해서 책에서 맨 앞에 볼 수 있는 목차가 index이고,
책 맨 뒤에 키워드마다 찾아볼 수 있도록 찾아보기가 inverted index입니다.
 

            

                                              [ Index( 색인 ) - 목차 ]                                                       [ Reverted Index( 역색인 ) - 찾아보기 ]

 

 
Elasticsearch는 텍스트를 파싱해서 검색어 사전을 만든 다음에 inverted index 방식으로 텍스트를 저장합니다.
 
"Lorem Ipsum is simply dummy text of the printing and typesetting industry"
예를 들어, 이 문장을 모두 파싱해서 각 단어들( Lorem, Ipsum, is, simply .... )을 저장하고,
대문자는 소문자 처리하고, 유사어도 체크하고... 등의 작업을 통해 텍스트를 저장합니다.
때문에 RDBMS보다 전문검색( Full Text Search )에 빠른 성능을 보입니다.
참고  - 9페이지 )
 

 

 

 

이상으로 Elasticsearch에 대한 개념잡기를 마치도록 하겠습니다.

Elasticsearch를 잘 다루기 위해서는 공식문서의 예제들을 따라해보는 것이 많은 도움이 될 것 같습니다.

 

1. Elasticsearch란?

Elasticsearch는 Apache Lucene( 아파치 루씬 ) 기반의 Java 오픈소스 분산 검색 엔진입니다.

Elasticsearch를 통해 루씬 라이브러리를 단독으로 사용할 수 있게 되었으며, 방대한 양의 데이터를 신속하게, 거의 실시간( NRT, Near Real Time )으로 저장, 검색, 분석할 수 있습니다.

 

Elasticsearch는 검색을 위해 단독으로 사용되기도 하며, ELK( Elasticsearch / Logstatsh / Kibana )스택으로 사용되기도 합니다.

ELK 스택이란 다음과 같습니다.

  • Logstash
    • 다양한 소스( DB, csv파일 등 )의 로그 또는 트랜잭션 데이터를 수집, 집계, 파싱하여 Elasticsearch로 전달
  • Elasticsearch
    • Logstash로부터 받은 데이터를 검색 및 집계를 하여 필요한 관심 있는 정보를 획득
  • Kibana
    • Elasticsearch의 빠른 검색을 통해 데이터를 시각화 및 모니터링
 

출처 : https://www.edureka.co/blog/elk-stack-tutorial/

 

이제부터 Elasticsearch와 관련된 용어와 특징들에 대해 알아보겠습니다.

 

 

 

 

2. Elasticsearch와 관계형 DB 비교

흔히 사용하고 있는 관계형 DB는 Elasticsearch에서 각각 다음과 같이 대응시킬 수 있습니다.

출처: https://www.slideshare.net/deview/2d1elasticsearch

 

RDBMS를 다루셨던 분들이라면 Elasticsearch에서 사용하는 용어들이 조금 낯설지만 예제를 몇 번 따라해보시면 금방 적응하실 것이라 생각됩니다.

그래도 용어가 낯설기 때문에 다음으로 용어 정리를 해보도록 하겠습니다.

 

 

 

 

3. Elasticsearch 아키텍쳐 / 용어 정리

Elasticsearch에서 사용하는 대부분의 개념은 RDBMS에도 존재하는 개념들입니다.

아래의 사진은 Elasticsearch Architecture이며, 앞으로 설명할 용어들의 구조입니다.

 

출처 : https://github.com/exo-archives/exo-es-search

 

1) 클러스터( cluseter )

클러스터란 Elasticsearch에서 가장 큰 시스템 단위를 의미하며, 최소 하나 이상의 노드로 이루어진 노드들의 집합입니다.

서로 다른 클러스터는 데이터의 접근, 교환을 할 수 없는 독립적인 시스템으로 유지되며,

여러 대의 서버가 하나의 클러스터를 구성할 수 있고, 한 서버에 여러 개의 클러스터가 존재할수도 있습니다.

 

 

 

2) 노드( node )

Elasticsearch를 구성하는 하나의 단위 프로세스를 의미합니다.

그 역할에 따라 Master-eligible, Data, Ingest, Tribe 노드로 구분할 수 있습니다.

아래는 각 노드들에 대한 설명인데, 제가 Elasticsearch에 대한 깊이가 없어서 공식 문서의 설명들을 정리만 해보았습니다.

 

master-eligible node 링크 )

클러스터를 제어하는 마스터로 선택할 수 있는 노드를 말합니다.

여기서 master 노드가 하는 역할은 다음과 같습니다.

  • 인덱스 생성, 삭제
  • 클러스더 노드들의 추적, 관리
  • 데이터 입력 시 어느 샤드에 할당할 것인지

 

Data node 링크 )

데이터와 관련된 CRUD 작업과 관련있는 노드입니다.

이 노드는 CPU, 메모리 등 자원을 많이 소모하므로 모니터링이 필요하며, master 노드와 분리되는 것이 좋습니다.

 

Ingest node 링크 )

데이터를 변환하는 등 사전 처리 파이프라인을 실행하는 역할을 합니다.

 

Coordination only node 링크 )

data node와 master-eligible node의 일을 대신하는 이 노드는 대규모 클러스터에서 큰 이점이 있습니다.

즉 로드밸런서와 비슷한 역할을 한다고 보시면 됩니다.

 

 

 

3) 인덱스( index ) / 샤드( Shard ) / 복제( Replica )

Elasticsearch에서 index는 RDBMS에서 database와 대응하는 개념입니다.

또한 shard와 replica는 Elasticsearch에만 존재하는 개념이 아니라, 분산 데이터베이스 시스템에도 존재하는 개념입니다.

 

샤딩( sharding )은 데이터를 분산해서 저장하는 방법을 의미합니다.

즉, Elasticsearch에서 스케일 아웃을 위해 index를 여러 shard로 쪼갠 것입니다.

기본적으로 1개가 존재하며, 검색 성능 향상을 위해 클러스터의 샤드 갯수를 조정하는 튜닝을 하기도 합니다.

 

replica는 또 다른 형태의 shard라고 할 수 있습니다.

노드를 손실했을 경우 데이터의 신뢰성을 위해 샤드들을 복제하는 것이죠.

따라서 replica는 서로 다른 노드에 존재할 것을 권장합니다.

아래 사진에서 보는 바와 같이 Replica1은 Node2에 존재하는 것을 확인할 수 있습니다.
 

출처 : https://stackoverflow.com/questions/19838825/what-are-elasticsearch-indices#answer-19839840

 

 

 
 
4. Elasticsearch 특징
Elasticsearch는 다음과 같은 특징이 있습니다.
  • Scale out
    • 샤드를 통해 규모가 수평적으로 늘어날 수 있음
  • 고가용성
    • Replica를 통해 데이터의 안정성을 보장
  • Schema Free
    • Json 문서를 통해 데이터 검색을 수행하므로 스키마 개념이 없음
  • Restful
    • 데이터 CURD 작업은 HTTP Restful API를 통해 수행하며, 각각 다음과 같이 대응합니다.
    • Data CRUD

       Elasticsearch Restful

       SELECT

       GET 

       INSERT 

      PUT

       UPDATE

      POST

       DELETE

       DELETE

 

 
 
 
5. 간단한 예제
Elasticsearch를 사용하는 간단한 예제를 다뤄보도록 하겠습니다.
이 예제는 Restful API로 document를 추가하고 조회하는 예제이며, 맛보기용에 불과합니다.
이후의 글에서 자세히 알아보도록 하겠습니다.
 
Elasticsearch CRUD작업은 특징에서 살펴본 바와 같이 API를 호출해서 이루어지며,
curl로 데이터를 넘겨줄 수도 있지만, json 파일을 저장해서 데이터를 넘길 수도 있고, json 포맷으로 queryDSL을 작성해서 API를 호출할 수도 있습니다.
 
 
1) documnet 생성
# curl -XPOST 'localhost:9200/victolee/blog/1?pretty' -d '{"postName" : "elasticsearch", "category" : "IT"}' -H 'Content-Type: application/json'
  • -d 옵션
    • 추가할 데이터를 json 포맷으로 전달합니다.
  • -H 옵션
    • 헤더를 명시합니다. 예제에서는 json으로 전달하기 위해서 application/json으로 작성했습니다.
  • ?pretty
    • 결과를 예쁘게 보여주도록 요청

이렇게 curl 요청을 하면, victolee 인덱스에, blog 타입으로 id 값이 1인 document가 저장됩니다.

 

 
 
 
2) documnet 조회
# curl -XGET 'localhost:9200/victolee/blog/1?pretty'
document를 조회하는 API 입니다.
 

 
Elasticsearch를 잘 다루기 위해서는 Elasticsearch에서 제공하는 API를 알아둘 필요가 있으며,
queryDSL을 통해 쿼리를 작성해 원하는 방식대로 다양하게 조회할 수 있어야 합니다.
 
 
 
 
6. 역색인
그런데 Elasticsearch는 왜 빠를까요??
그 이유는 inverted index( 역색인 )에 있습니다.
 
먼저 index와 inverted index의 차이에 대해 알아보겠습니다.
쉽게 말해서 책에서 맨 앞에 볼 수 있는 목차가 index이고,
책 맨 뒤에 키워드마다 찾아볼 수 있도록 찾아보기가 inverted index입니다.
 

            

                                              [ Index( 색인 ) - 목차 ]                                                       [ Reverted Index( 역색인 ) - 찾아보기 ]

 

 
Elasticsearch는 텍스트를 파싱해서 검색어 사전을 만든 다음에 inverted index 방식으로 텍스트를 저장합니다.
 
"Lorem Ipsum is simply dummy text of the printing and typesetting industry"
예를 들어, 이 문장을 모두 파싱해서 각 단어들( Lorem, Ipsum, is, simply .... )을 저장하고,
대문자는 소문자 처리하고, 유사어도 체크하고... 등의 작업을 통해 텍스트를 저장합니다.
때문에 RDBMS보다 전문검색( Full Text Search )에 빠른 성능을 보입니다.
참고  - 9페이지 )
 

 

 

 

이상으로 Elasticsearch에 대한 개념잡기를 마치도록 하겠습니다.

Elasticsearch를 잘 다루기 위해서는 공식문서의 예제들을 따라해보는 것이 많은 도움이 될 것 같습니다.

 

[출처] https://victorydntmd.tistory.com/308

 

 

 

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
» [ 一日30分 인생승리의 학습법] [Elasticsearch] 기본 개념잡기 file 졸리운_곰 2022.06.02 4
1079 [ 一日30分 인생승리의 학습법]node - pm2로 node.js 프로세스 관리하기 - 기본 명령어, 실행하기 file 졸리운_곰 2022.05.28 3
1078 [ 一日30分 인생승리의 학습법][1탄!!]KrakenD가 무엇인가? 과연 Api Gateway로 으뜸인가요? file 졸리운_곰 2022.04.15 5
1077 [ 一日30分 인생승리의 학습법][API Gateway] Kong Gateway 설치 file 졸리운_곰 2022.04.15 3
1076 [ 一日30分 인생승리의 학습법] TeX_및_LaTeX_수식_문법 file 졸리운_곰 2022.03.19 17
1075 [ 一日30分 인생승리의 학습법] Visual Basic application on linux 졸리운_곰 2022.02.22 5
1074 [ 一日30分 인생승리의 학습법] Truffle을 이용한 DApp 개발환경 구성 file 졸리운_곰 2022.02.20 78
1073 [ 一日30分 인생승리의 학습법]LaTeX 활용해서 논문쓰장 file 졸리운_곰 2022.02.17 10
1072 [ 一日30分 인생승리의 학습법] LaTeX 초보자가 감을 잡는 것을 돕는 몇가지 팁 졸리운_곰 2022.02.17 7
1071 [ 一日30分 인생승리의 학습법] 수식 입력이 가능한 마인드맵 프로그램, 프리플레인(freeplane) file 졸리운_곰 2022.02.16 13
1070 [ 一日30分 인생승리의 학습법] Awesome Metaverse Awesome 짱!~ 메티버스 오픈소스 file 졸리운_곰 2022.02.13 4
1069 [ 一日30分 인생승리의 학습법] 제 NAS의 Docker 목록 file 졸리운_곰 2022.01.31 16
1068 [ 一日30分 인생승리의 학습법] gw basic 튜터리얼, 메뉴얼, A GW-BASIC Tutorial 졸리운_곰 2022.01.22 9
1067 [ 一日30分 인생승리의 학습법] Web Search Engine : 웹 검색 엔진 google/ naver 만들기 file 졸리운_곰 2022.01.17 20
1066 [ 一日30分 인생승리의 학습법] AILog 2 A logic programming language with probabilities and logical explanation and debugging faculities file 졸리운_곰 2022.01.16 7
1065 [ 一日30分 인생승리의 학습법] 소스 인사이트( source insight ) 사용법 file 졸리운_곰 2022.01.13 10
1064 [ 一日30分 인생승리의 학습법][메타버스란 무엇인가?] The Metaverse Has Already Arrived. Here’s What That Actually Means file 졸리운_곰 2021.12.29 15
1063 [ 一日30分 인생승리의 학습법] English to Logic, Truth-Functional Propositional Logic 졸리운_곰 2021.12.15 10
1062 [ 一日30分 인생승리의 학습법][실무행정] 기안문 공문서 기안문 작성법, 행정안전부 지침 및 시행 file 졸리운_곰 2021.12.11 12
1061 [ 一日30分 인생승리의 학습법][실무행정] 기안문 작성하기 졸리운_곰 2021.12.11 11
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED