Logstash berhenti menulis ke elasticsearch setelah elasticsearch dimulai ulang?

Saya cukup baru di Logstash/Elasticsearch/Kibana dan saya mengalami masalah aneh dalam memulihkan logstash setelah elasticsearch berhenti dan memulai ulang. Saya memiliki instalasi ELK dengan logstash-1.4.2 dan elasticsearch-1.3.4.

Ini skenario saya:

1 - Mulai pencarian elastis 2 - Mulai logstash logforwarder pada node jarak jauh 3 - File log/peristiwa berhasil ditulis ke elasticsearch 4 - Mulai ulang elasticsearch 5 - Logstash terhubung kembali ke pencarian elastis (Saya melihat pesan berikut) tetapi acaranya adalah tidak lagi dimasukkan ke elasticsearch

Log simpanan log:

log4j, [2014-11-15T16:16:20.261]  INFO: org.elasticsearch.cluster.service: [logstash-grading-n1-76848-4038] removed {[logstash-rest-n1-168118-4018][o6Gxxd1SQC2XchlsySaz8Q][rest-n1][inet[/10.165.0.31:9300]]{client=true, data=false},[Dorma][DoIcmge9QdqxiRnmBjtVdg][build][inet[/10.165.1.140:9300]],[logstash-web-n1-221006-4016][vRY0Ib7oTyOuliOYekP_nA][web-n1][inet[/10.165.0.21:9300]]{client=true, data=false},[logstash-flume-n1-99849-4018][KNknQCs0TPi6-VgiC4f-8A][flume-n1][inet[/10.165.0.41:9300]]{client=true, data=false},}, reason: zen-disco-master_failed ([Dorma][DoIcmge9QdqxiRnmBjtVdg][build][inet[/10.165.1.140:9300]])
log4j, [2014-11-16T09:08:38.706]  INFO: org.elasticsearch.cluster.service: [logstash-grading-n1-76848-4038] detected_master [Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]], added {[logstash-rest-n1-168118-4018][o6Gxxd1SQC2XchlsySaz8Q][rest-n1][inet[/10.165.0.31:9300]]{client=true, data=false},[logstash-web-n1-221006-4016][vRY0Ib7oTyOuliOYekP_nA][web-n1][inet[/10.165.0.21:9300]]{client=true, data=false},[Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]],}, reason: zen-disco-receive(from master [[Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]]])
log4j, [2014-11-16T09:08:38.719]  INFO: org.elasticsearch.cluster.service: [logstash-grading-n1-76848-4038] added {[logstash-flume-n1-99849-4018][KNknQCs0TPi6-VgiC4f-8A][flume-n1][inet[/10.165.0.41:9300]]{client=true, data=false},}, reason: zen-disco-receive(from master [[Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]]])

Log pencarian elastis:

[2014-11-16 09:08:36,248][INFO ][gateway                  ] [Masque] recovered [8] indices into cluster_state
...
[2014-11-16 09:09:39,085][INFO ][cluster.service          ] [Masque] added {[logstash-grading-n1-76848-4038][8szJ9egnQsaAvet6S10Tmw][grading-n1][inet[/10.165.0.71:9300]]{client=true, data=false},}, reason: zen-disco-receive(join from node[[logstash-grading-n1-76848-4038][8szJ9egnQsaAvet6S10Tmw][grading-n1][inet[/10.165.0.71:9300]]{client=true, data=false}])

6 - Mulai ulang logstash - acara mulai berfungsi kembali

Jadi masalahnya adalah Saya tidak ingin memulai ulang semua instance logstash saya di cluster hanya karena pencarian elastis dimulai ulang. Adakah yang tahu apa yang terjadi? Apakah saya melewatkan beberapa konfigurasi?


person Siddharth Trikha    schedule 10.12.2014    source sumber


Jawaban (1)


Ini sepertinya masalah logstash yang diketahui:

"Hang tanpa batas saat Elasticsearch dimulai ulang"

https://github.com/elasticsearch/logstash/issues/1655

Tidak ada solusi yang diketahui selain memulai ulang logstash. Saya akan mengomentari masalah Anda dalam masalah ini - semakin banyak orang membicarakan masalah tersebut, semakin cepat masalah tersebut diselesaikan.

person John Petrone    schedule 10.12.2014