[Logstash] Logstash 를 이용한 CSV 파일 Import를 하려면
Elastic/Logstash 2018. 4. 24. 11:14Elastic 사의 공식 문서를 보시면 쉽게 하실 수 있습니다.
기본 flow 는 아래와 같습니다.
CSV -> logstash input file -> Logstash filter csv -> logstash output elasticsearch
각각에 필요한 참조문서는
[Logstash Input File]
https://www.elastic.co/guide/en/logstash/current/plugins-inputs-file.html
[Logstash Filter CSV]
https://www.elastic.co/guide/en/logstash/current/plugins-filters-csv.html
[Logstash Output Elasticsearch]
https://www.elastic.co/guide/en/logstash/current/plugins-outputs-elasticsearch.html
[Elasticsearch Indices Templates]
https://www.elastic.co/guide/en/elasticsearch/reference/master/indices-templates.html
Template 이 필요한 이유는 csv 파일 데이터에 대한 dynamic mapping 시 의도치 않은 데이터에 대한 형변환 오류를 방지 하기 위함 입니다.
사전에 꼭 정의 하셔서 reindexing 하는 일이 없도록 주의 하시면 좋을 것 같습니다.