Logstash перестает писать в elasticsearch после перезапуска elasticsearch?

Я новичок в Logstash / Elasticsearch / Kibana, и у меня возникла странная проблема с восстановлением logstash после остановки и перезапуска elasticsearch. У меня есть установка ELK с logstash-1.4.2 и elasticsearch-1.3.4.

Это мой сценарий:

1 - Запустить эластичный поиск 2 - Запустить logstash logforwarder на удаленном узле 3 - Файл журнала / события успешно записываются в elasticsearch 4 - Перезапустить elasticsearch 5 - Logstash повторно подключается к эластичному поиску (я вижу следующие сообщения), но события больше не вставляется в elasticsearch

Журнал Logstash:

log4j, [2014-11-15T16:16:20.261]  INFO: org.elasticsearch.cluster.service: [logstash-grading-n1-76848-4038] removed {[logstash-rest-n1-168118-4018][o6Gxxd1SQC2XchlsySaz8Q][rest-n1][inet[/10.165.0.31:9300]]{client=true, data=false},[Dorma][DoIcmge9QdqxiRnmBjtVdg][build][inet[/10.165.1.140:9300]],[logstash-web-n1-221006-4016][vRY0Ib7oTyOuliOYekP_nA][web-n1][inet[/10.165.0.21:9300]]{client=true, data=false},[logstash-flume-n1-99849-4018][KNknQCs0TPi6-VgiC4f-8A][flume-n1][inet[/10.165.0.41:9300]]{client=true, data=false},}, reason: zen-disco-master_failed ([Dorma][DoIcmge9QdqxiRnmBjtVdg][build][inet[/10.165.1.140:9300]])
log4j, [2014-11-16T09:08:38.706]  INFO: org.elasticsearch.cluster.service: [logstash-grading-n1-76848-4038] detected_master [Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]], added {[logstash-rest-n1-168118-4018][o6Gxxd1SQC2XchlsySaz8Q][rest-n1][inet[/10.165.0.31:9300]]{client=true, data=false},[logstash-web-n1-221006-4016][vRY0Ib7oTyOuliOYekP_nA][web-n1][inet[/10.165.0.21:9300]]{client=true, data=false},[Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]],}, reason: zen-disco-receive(from master [[Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]]])
log4j, [2014-11-16T09:08:38.719]  INFO: org.elasticsearch.cluster.service: [logstash-grading-n1-76848-4038] added {[logstash-flume-n1-99849-4018][KNknQCs0TPi6-VgiC4f-8A][flume-n1][inet[/10.165.0.41:9300]]{client=true, data=false},}, reason: zen-disco-receive(from master [[Masque][5mLN45_iTfq_YuFKV20OLg][build][inet[/10.165.1.140:9300]]])

Журнал эластичного поиска:

[2014-11-16 09:08:36,248][INFO ][gateway                  ] [Masque] recovered [8] indices into cluster_state
...
[2014-11-16 09:09:39,085][INFO ][cluster.service          ] [Masque] added {[logstash-grading-n1-76848-4038][8szJ9egnQsaAvet6S10Tmw][grading-n1][inet[/10.165.0.71:9300]]{client=true, data=false},}, reason: zen-disco-receive(join from node[[logstash-grading-n1-76848-4038][8szJ9egnQsaAvet6S10Tmw][grading-n1][inet[/10.165.0.71:9300]]{client=true, data=false}])

6 - Перезапустить logstash - события снова начинают работать

Таким образом, проблема в том, что я бы не хотел перезапускать все мои экземпляры logstash в кластере только из-за перезапуска эластичного поиска. У кого-нибудь есть идеи, что происходит? Мне не хватает какой-то конфигурации?


person Siddharth Trikha    schedule 10.12.2014    source источник


Ответы (1)


Это похоже на известную проблему с logstash:

«Бесконечное зависание при перезапуске Elasticsearch»

https://github.com/elasticsearch/logstash/issues/1655

Нет никаких известных обходных путей, кроме перезапуска logstash. Я бы прокомментировал вашу проблему в этом выпуске - чем больше людей будет говорить о проблеме, тем быстрее она будет решена.

person John Petrone    schedule 10.12.2014