jjzjj

Logstash

全部标签

elasticsearch - Logstash redis 配置没有将日志推送到 ES

我们正在使用ELK堆栈来监控我们的日志。我是ELK环境的新手,最近我正在执行一项任务,我需要使用Redis配置Logstash以将我们的日志推送到,下面是我正在使用的配置,下面的配置适用于ElasticSearch但不适用于Redis,input{file{path=>"E:/Logs/**/*.log"start_position=>beginningcodec=>json}}filter{date{match=>["TimeCreated","YYYY-MM-ddHH:mm:ssZ"]}mutate{add_field=>{#"debug"=>"true""index_prefix

amazon-web-services - Logstash - 来自亚马逊的 redis 作为服务的输入是否可以与 logstash 的 redis 输入插件一起使用?

来自亚马逊的redis作为服务的输入是否可以与logstash的redis输入插件一起使用?基本上,amazonredis作为一项服务只是一个redis集群或一个包装器(在这种情况下插件可能无法工作)? 最佳答案 我假设您是在问Redis/ElastiCache是否可以用作broker在集中式logstash安装中。它可能有效,但ElastiCache被设计为缓存,这与代理的架构模式不同。AWSSQS非常适合,logstash为其提供输入和输出插件。示例管道:architecturalview:logstashshipper-->b

amazon-web-services - Logstash - 来自亚马逊的 redis 作为服务的输入是否可以与 logstash 的 redis 输入插件一起使用?

来自亚马逊的redis作为服务的输入是否可以与logstash的redis输入插件一起使用?基本上,amazonredis作为一项服务只是一个redis集群或一个包装器(在这种情况下插件可能无法工作)? 最佳答案 我假设您是在问Redis/ElastiCache是否可以用作broker在集中式logstash安装中。它可能有效,但ElastiCache被设计为缓存,这与代理的架构模式不同。AWSSQS非常适合,logstash为其提供输入和输出插件。示例管道:architecturalview:logstashshipper-->b

redis - 为什么 Redis 将我的 logstash 列表清零到大约 1.85GB?

我在CentOS6(64位)上运行的Redis3.0.2存储了Logstash的日志条目,但每次它达到大约1.85GB时它都会将列表清零。我让watch"redis-clillenlogstash|tee-allen.log"运行并捕获了这个:28233992827076283177628364360447086841253117213如果能帮助理解正在发生的事情,我们将不胜感激。 最佳答案 检查您的maxmemory和maxmemory-policy配置以查看Redis是否正在对logstash执行驱逐。如果不是驱逐,您可能只需要

redis - 为什么 Redis 将我的 logstash 列表清零到大约 1.85GB?

我在CentOS6(64位)上运行的Redis3.0.2存储了Logstash的日志条目,但每次它达到大约1.85GB时它都会将列表清零。我让watch"redis-clillenlogstash|tee-allen.log"运行并捕获了这个:28233992827076283177628364360447086841253117213如果能帮助理解正在发生的事情,我们将不胜感激。 最佳答案 检查您的maxmemory和maxmemory-policy配置以查看Redis是否正在对logstash执行驱逐。如果不是驱逐,您可能只需要

redis - Logstash、elasticsearch、Kibana,包括IP

我有一个redis服务器、logstash索引器服务器和一个elasticsearch服务器。我怎样才能让索引器服务器甚至托运服务器在日志中包含IP,以便在Kibana中更容易排序?或者这是在elasticsearch配置中完成的? 最佳答案 当你输入日志到logstash时,logstash会创建一个事件,并在事件中添加hostname。Logstash使用主机名而不是IP,因为一台服务器将有多个IP。比如127.0.0.1,公网IP等等,所以不知道用哪个IP。所以logstash使用主机名。

redis - Logstash、elasticsearch、Kibana,包括IP

我有一个redis服务器、logstash索引器服务器和一个elasticsearch服务器。我怎样才能让索引器服务器甚至托运服务器在日志中包含IP,以便在Kibana中更容易排序?或者这是在elasticsearch配置中完成的? 最佳答案 当你输入日志到logstash时,logstash会创建一个事件,并在事件中添加hostname。Logstash使用主机名而不是IP,因为一台服务器将有多个IP。比如127.0.0.1,公网IP等等,所以不知道用哪个IP。所以logstash使用主机名。

node.js - NodeJS 将 ec2 上的日志记录到 Redis

我在ec2上运行nodejs并将nodejsstdout和sterr重定向到一个文件(>>)这有以下潜在问题:EBS故障可能会停止nodejs进程(我想日志记录是同步的)。众所周知,EBS不如某些其他AWS服务可靠。EC2实例可能会失败并且EBS丢失(除非附加)。EBS上的日志文件不会跨可用区复制。获取日志需要通过SSH连接到机器。理想情况下,我希望所有日志都直接写入AmazonElasticCacheforRedis,然后从那里写入S3。最好的方法是什么? 最佳答案 一般来说,将应用程序日志存储在redis中是一个坏主意。Redi

node.js - NodeJS 将 ec2 上的日志记录到 Redis

我在ec2上运行nodejs并将nodejsstdout和sterr重定向到一个文件(>>)这有以下潜在问题:EBS故障可能会停止nodejs进程(我想日志记录是同步的)。众所周知,EBS不如某些其他AWS服务可靠。EC2实例可能会失败并且EBS丢失(除非附加)。EBS上的日志文件不会跨可用区复制。获取日志需要通过SSH连接到机器。理想情况下,我希望所有日志都直接写入AmazonElasticCacheforRedis,然后从那里写入S3。最好的方法是什么? 最佳答案 一般来说,将应用程序日志存储在redis中是一个坏主意。Redi

logging - Logstash Web UI 未启动

尽管我遵循了officialtutorial中的所有步骤,但当我尝试使用Web前端启动Logstash时,我遇到了异常.首先我尝试了logstash-1.1.10-flatjar.jar,它甚至没有启动。然后我找到thisissue所以我按照建议下载了logstash-1.1.11.dev-flatjar.jar。现在当我初始化它时它不会给出任何错误。但是,当我将浏览器定位到myserver:9292时,我会在控制台和Web用户界面上看到如下错误:Errno::ENOENT:Nosuchfileordirectory-file:/home/zimtest/Downloads/logst