ELK docker image

User avatar
Сабина
Уже с Приветом
Posts: 19045
Joined: 11 Jan 2012 09:25
Location: CA

ELK docker image

Post by Сабина »

Пользуется кто нибудь ? Интересно в плане прикрутить для логов - сначала в DEV, потом убедив начальство в прод

https://elk-docker.readthedocs.io/
https://www.youtube.com/watch?v=wOwblaKmyVw
User avatar
Вячеслав Викторович
Уже с Приветом
Posts: 5738
Joined: 13 Feb 2016 18:50
Location: Кемерово

Re: ELK docker image

Post by Вячеслав Викторович »

Сабина wrote: 26 Feb 2018 05:52 Пользуется кто нибудь ? Интересно в плане прикрутить для логов - сначала в DEV, потом убедив начальство в прод

https://elk-docker.readthedocs.io/
мы пользуемся и не только для логов, но и для записи некоторых бизнес-обьектов в виде json-ов.
На практике разработчики все равно логи грепят, а не кибаной пользуются, а вот бизнес-аналисты вполне пользуются.
User avatar
Мальчик-Одуванчик
Уже с Приветом
Posts: 15477
Joined: 27 Sep 2007 22:53

Re: ELK docker image

Post by Мальчик-Одуванчик »

У нас логсташ года два назад совсем не взлетел: сам по-себе процессорных ресурсов неслабо отжирал и какие-то косяки с захватом сокетов при нагрузке имели место. Хотя может и настроили криво. В результате получилось как в притче про систему обеспечения надежности, которая выводила из строя все другие системы.
User avatar
Вячеслав Викторович
Уже с Приветом
Posts: 5738
Joined: 13 Feb 2016 18:50
Location: Кемерово

Re: ELK docker image

Post by Вячеслав Викторович »

Мальчик-Одуванчик wrote: 26 Feb 2018 23:26 У нас логсташ года два назад совсем не взлетел: сам по-себе процессорных ресурсов неслабо отжирал и какие-то косяки с захватом сокетов при нагрузке имели место. Хотя может и настроили криво. В результате получилось как в притче про систему обеспечения надежности, которая выводила из строя все другие системы.
у нас нормуль вроде, но огроменных логов тоже нет. Вообще то filebeats парсит логи и шлёт в logstash, а уж он пишет в elasticsearch, т.е. logstash вообще не должен влиять на производительность.
ELK стэк то есть на отдельном кластере, а filebeats рaссыпаны по всей инфраструктуре, где логи пишутся. filebeat весьма лёгкий процесс и не должен жрать почти ничего.
User avatar
Мальчик-Одуванчик
Уже с Приветом
Posts: 15477
Joined: 27 Sep 2007 22:53

Re: ELK docker image

Post by Мальчик-Одуванчик »

Вячеслав Викторович wrote: 27 Feb 2018 12:34
Мальчик-Одуванчик wrote: 26 Feb 2018 23:26 У нас логсташ года два назад совсем не взлетел: сам по-себе процессорных ресурсов неслабо отжирал и какие-то косяки с захватом сокетов при нагрузке имели место. Хотя может и настроили криво. В результате получилось как в притче про систему обеспечения надежности, которая выводила из строя все другие системы.
у нас нормуль вроде, но огроменных логов тоже нет. Вообще то filebeats парсит логи и шлёт в logstash, а уж он пишет в elasticsearch, т.е. logstash вообще не должен влиять на производительность.
ELK стэк то есть на отдельном кластере, а filebeats рaссыпаны по всей инфраструктуре, где логи пишутся. filebeat весьма лёгкий процесс и не должен жрать почти ничего.
У нас были проблеммы с клиентской частью, которая сливала логи. Если не запамятовал, то она тоже была от logstash. В штатном режиме клиент практически не потреблял ресурсов даже под нагрузкой, но в какие-то моменты терял сокеты и решал проблемму их отсутствия отжиранием новых, а прежние так и оставались залипшими. Когда все сокеты заканчивались, клиент уходил в штопор зацикливания и полностью отжирал ядро, заодно придавливая нитки сторонних приложений. За три-пять дней вся работающая система становилась раком.

Return to “Вопросы и новости IT”