jjzjj

jobhistory

全部标签

security - HTTPClient从keytab登录访问hadoop jobhistory服务

我正在编写一个java程序来访问hadoopjobhistory服务以检索一些信息。我正在使用HTTPClient进行HttpGet调用。我需要从key表文件(我的~/.ssh/文件夹中有该文件)登录,而不是输入用户名和密码。我的问题是:如何从HTTPClient中的keytab登录?这是我设置HTTPClient的方式System.setProperty("java.security.krb5.conf","krb5.conf");System.setProperty("sun.security.krb5.debug","true");System.setProperty("java

json - 使用 Rumen 处理的 JobHistory 日志中的 Cpu 指标

我在Hadoop集群中收集了我的作业统计信息。我获取了JobHistory日志并使用Rumen处理它们。在json文件中,对于每个任务尝试,都有一个名为“cpuUsages”的字段。例子:"cpuUsages":[6028,3967,3597,3354,3225,3454,3589,4316,42632,102,103,103]我需要知道这些数字的计量单位。一些官方或学术引用资料? 最佳答案 Rumen从MR作业历史服务器中提取指标。因此指标与MR作业历史服务器中的指标相同。可以看到hereMR作业历史服务器提供MILLISECON

hadoop - YARN JobHistory 错误 : Failed redirect for container

我们最近用CDH5(2.3.0-cdh5.1.3)部署了YARN,集群正在运行文件,作业也在运行。但是如果作业完成(成功/失败),我们无法从资源管理器UI访问日志,我们会收到以下错误Failedredirectforcontainer_1412716537481_0322_01_000001Failedwhiletryingtoconstructtheredirecturltothelogserver.LogServerurlmaynotbeconfiguredContainerdoesnotexist.还有一些运行作业的异常:Causedby:org.apache.hadoop.ip

hadoop - yarn JobHistory 错误 : Failed redirect for container_1400260444475_3309_01_000001

我的MR作业执行成功。但是当我检查它的历史记录时出现错误:Failedredirectforcontainer_1400260444475_3309_01_000001Failedwhiletryingtoconstructtheredirecturltothelogserver.LogServerurlmaynotbeconfiguredUnknowncontainer.Containereitherhasnotstartedorhasalreadycompletedordoesn'tbelongtothisnodeatall.我的HistoryServer也运行良好。好消息是,我可