我们正在使用ELK堆栈来监控我们的日志。我是ELK环境的新手,最近我正在执行一项任务,我需要使用Redis配置Logstash以将我们的日志推送到,下面是我正在使用的配置,下面的配置适用于ElasticSearch但不适用于Redis,input{file{path=>"E:/Logs/**/*.log"start_position=>beginningcodec=>json}}filter{date{match=>["TimeCreated","YYYY-MM-ddHH:mm:ssZ"]}mutate{add_field=>{#"debug"=>"true""index_prefix
来自亚马逊的redis作为服务的输入是否可以与logstash的redis输入插件一起使用?基本上,amazonredis作为一项服务只是一个redis集群或一个包装器(在这种情况下插件可能无法工作)? 最佳答案 我假设您是在问Redis/ElastiCache是否可以用作broker在集中式logstash安装中。它可能有效,但ElastiCache被设计为缓存,这与代理的架构模式不同。AWSSQS非常适合,logstash为其提供输入和输出插件。示例管道:architecturalview:logstashshipper-->b
来自亚马逊的redis作为服务的输入是否可以与logstash的redis输入插件一起使用?基本上,amazonredis作为一项服务只是一个redis集群或一个包装器(在这种情况下插件可能无法工作)? 最佳答案 我假设您是在问Redis/ElastiCache是否可以用作broker在集中式logstash安装中。它可能有效,但ElastiCache被设计为缓存,这与代理的架构模式不同。AWSSQS非常适合,logstash为其提供输入和输出插件。示例管道:architecturalview:logstashshipper-->b
我在CentOS6(64位)上运行的Redis3.0.2存储了Logstash的日志条目,但每次它达到大约1.85GB时它都会将列表清零。我让watch"redis-clillenlogstash|tee-allen.log"运行并捕获了这个:28233992827076283177628364360447086841253117213如果能帮助理解正在发生的事情,我们将不胜感激。 最佳答案 检查您的maxmemory和maxmemory-policy配置以查看Redis是否正在对logstash执行驱逐。如果不是驱逐,您可能只需要
我在CentOS6(64位)上运行的Redis3.0.2存储了Logstash的日志条目,但每次它达到大约1.85GB时它都会将列表清零。我让watch"redis-clillenlogstash|tee-allen.log"运行并捕获了这个:28233992827076283177628364360447086841253117213如果能帮助理解正在发生的事情,我们将不胜感激。 最佳答案 检查您的maxmemory和maxmemory-policy配置以查看Redis是否正在对logstash执行驱逐。如果不是驱逐,您可能只需要
我有一个redis服务器、logstash索引器服务器和一个elasticsearch服务器。我怎样才能让索引器服务器甚至托运服务器在日志中包含IP,以便在Kibana中更容易排序?或者这是在elasticsearch配置中完成的? 最佳答案 当你输入日志到logstash时,logstash会创建一个事件,并在事件中添加hostname。Logstash使用主机名而不是IP,因为一台服务器将有多个IP。比如127.0.0.1,公网IP等等,所以不知道用哪个IP。所以logstash使用主机名。
我有一个redis服务器、logstash索引器服务器和一个elasticsearch服务器。我怎样才能让索引器服务器甚至托运服务器在日志中包含IP,以便在Kibana中更容易排序?或者这是在elasticsearch配置中完成的? 最佳答案 当你输入日志到logstash时,logstash会创建一个事件,并在事件中添加hostname。Logstash使用主机名而不是IP,因为一台服务器将有多个IP。比如127.0.0.1,公网IP等等,所以不知道用哪个IP。所以logstash使用主机名。
我在ec2上运行nodejs并将nodejsstdout和sterr重定向到一个文件(>>)这有以下潜在问题:EBS故障可能会停止nodejs进程(我想日志记录是同步的)。众所周知,EBS不如某些其他AWS服务可靠。EC2实例可能会失败并且EBS丢失(除非附加)。EBS上的日志文件不会跨可用区复制。获取日志需要通过SSH连接到机器。理想情况下,我希望所有日志都直接写入AmazonElasticCacheforRedis,然后从那里写入S3。最好的方法是什么? 最佳答案 一般来说,将应用程序日志存储在redis中是一个坏主意。Redi
我在ec2上运行nodejs并将nodejsstdout和sterr重定向到一个文件(>>)这有以下潜在问题:EBS故障可能会停止nodejs进程(我想日志记录是同步的)。众所周知,EBS不如某些其他AWS服务可靠。EC2实例可能会失败并且EBS丢失(除非附加)。EBS上的日志文件不会跨可用区复制。获取日志需要通过SSH连接到机器。理想情况下,我希望所有日志都直接写入AmazonElasticCacheforRedis,然后从那里写入S3。最好的方法是什么? 最佳答案 一般来说,将应用程序日志存储在redis中是一个坏主意。Redi
尽管我遵循了officialtutorial中的所有步骤,但当我尝试使用Web前端启动Logstash时,我遇到了异常.首先我尝试了logstash-1.1.10-flatjar.jar,它甚至没有启动。然后我找到thisissue所以我按照建议下载了logstash-1.1.11.dev-flatjar.jar。现在当我初始化它时它不会给出任何错误。但是,当我将浏览器定位到myserver:9292时,我会在控制台和Web用户界面上看到如下错误:Errno::ENOENT:Nosuchfileordirectory-file:/home/zimtest/Downloads/logst