クラスタ全体に渡ってログを検索する

[Cloudera Manager Advent Calendar 2015](http://qiita.com/advent-calendar/2015/cm)の7日目です。

意外と知られていない（気がする）機能のひとつに、ログ検索があります。これは、Cloudera Manager（以下CM）で管理しているすべてのノードのすべてのプロセスに対して横断的に検索を実行できる優れものですので、本ポストで紹介したいと思います。

参考ドキュメント: Logs
http://www.cloudera.com/content/www/en-us/documentation/enterprise/latest/topics/cm_dg_logs.html

# どんなときに横断的に検索したいか

クラスタのトラブルシューティングをしていると、あるブロックが「いつ」、「どのファイル」に紐付いて作成され、「どのデータノード」に」いつ」複製されたのか、を追いかけたいことがままあります。あるいは、「ジョブが遅く感じる」といった場合に、何か手がかりとなるエラーが発生していないかを探りたいこともあるでしょう。CMの横断検索はそのような用途にぴったりです。

# ログ検索

CMのログ検索は簡単です。まず「診断」から「ログ」を選択します。

![alt](https://lh3.googleusercontent.com/d3xYhkjzQGgUtG96xicIybfO16rXE34wKy4Hc9_dJh-ogyPw0X78mtovbezEMsdb7sKh1DlLubnCGIgLBStRcocmWEVLloeYfEEqg6-2w0mLR_MFZlFegYbAwEWin361Zx_xGO2FaKEBwn9OI3jyo4czpXI81ZtjyFY7xUEJJTtvVgLtQJ0-aEFRzxLw9gJy9efa4jjqEGztW6r8eg3SRf9GWGST1GQ6oG4b5GZhTKD3qColKKXsMl87epZxQbbnOSl-j2hE-G1_H_yHWWcWJ21yZcBpk-5mxQYrrySa17sHZRxpsYnBP-7ivGPyDHw1_hV0ag61aRihYRSz-56d_P4a1IC8Xtq052ZBzfwoAbwgbDQaByXGrp15XNy4EtHvjAfXPq7JU99dR4U7TYlqU7wSyShPx1Y6Yeudtu-B_z6BmBCxUUFvLQSIgpyg9QYNyBo0-D-UEFB87KlusB3NWSYziRkn3Oee0Xs6jWMbTTQRI9tJfiufUm7L5qYiI3umpoSwaYGueXxvS58NURjZFKwqmMbKvLIKmbIA8Us=w572-h208-no)

すると検索画面が表示されます。検索条件として「対象のプロセス」、「対象のホスト」、「ログレベル」、「検索文字列」、「検索範囲（時間）」を指定できます。

![alt](https://lh3.googleusercontent.com/lipmaI1LmMtbX56wPHoCcQBjhgJI8QMBDCHb823gMAI287NkbDc5t-kSsgL1CP4yCAkHz9PhWDhH5oHsMrGV4cyB053fI57FsMbBhrOQzUwbKMV0Md4pBt3ogXWtVQIG0pkjpLH7M-zrWY6rbVKnGlXpl_SWDYUtZ1lBquTSMx_YrSb5v5V7GyorYdYaZDyIJy5XjOvRfi1whx7ZkAY-K8iN7CRnkymWDAqiPbYVsFfShQLQqGzuvJwkWEnB0y1uuV_gVk73GsVIt_-DJSk80BphRxHx8tiYPsMbg048RQsgSlFe_OdX3Nu275Ghm8VnI8ICEB3FfvYyJICi6dEE5JZyxND3mIwsXhScRbtW2E7hDQWwuh4TeKMbQnCa6rDfZLRuHqSxh5-o9elfhdim7m4d9qHK1pvLVrXsfddFlchhxWp7-lOBMU_G-0Q7cViB_VCouU7ylz7SAwjm52jRO7qRxliV94b_1tvFj-TvXn29ni65gobZ-jO9Kk_VRdz5oQ-YA9ILAFpXyDy7pkXqKTyY4uW5Q7cxC3eE5co=w1122-h497-no)

![alt](https://lh3.googleusercontent.com/DyFAUQsnv7SPMv-0uOO87vv-nEDl31-P3_7hcq0dfGbazlbM4QUv7yGZHH_8TvQ5KjzJizvo1yYYSu8vRsq8245zYuxMjLD04mUPUByL3krENak7vW5gCKZZ-5J4cYCjlpgVo5hfw7tDqhScKuSLP2ygdIYN2rH9pijuE68Zctx9pgLjvjN9ceE8Bcr1cAcrgJdMhIsUxRsBoKqy4bgrTc92ht3lMM5c2MQpaG1lJmhAI6TTN0PbK_yFE5xtQiVxhjn0dDp3bz78A_b6SL1V3Ane79X6OBLgwkB_XTyHv8ZUFJMJgo2cSZBaZqh89RSySMYLYzBtHm9_qOT4IfETRqxH_f3PIidcPVCyIQI6-tG8khaCWb4thKD9TrpXX1r_EUhrOQwTXZ5TDVKmLiy52mcMGeBxAApEVPl411f3LBQnxUWS7rekXhFqCn7pwlz0Lhhnls55Yj8Frte9S4R-purA7rrRbf1QJdPodCjjQH6VuBtP5lkkZ13-HIPB57JyyxErwb3J-YT5Kjd2v2efhXxOexQsva5gyAiEG0Q=w422-h58-no)

また、「ページごとの結果」や「タイムアウト」も必要に応じて設定可能です。

![alt](https://lh3.googleusercontent.com/AZ4qnOWzjF7cW0-Zm8PgyGgEtih-8bxVujMM6eKViOAFmB1ABUzPnfDor8wrxOMrcnU1yP8lQIZVGv2NwI7bydV0pZolLQWv8cdlgwceiB9KwqmxnxKzs0M36a964v18QiFikNW3q7DGcha2CgW9ejAPlDR6F2qG1XqvA1484EWvAs-Vv2_zv9VGrn2rv1FTXY4n6T1WifxkSYhlV2BUjEKC7T7TyNWiccrPXhiEIKYrg6xqOhUY3uwWRI7QVTSM0ClZxsvFMU78fPlvrjzpbyTpj_xuw9ApGAc8nNJ3AHeAW5sUIaDTm537v6_5LktdenyG3hgRRQCTMzwrBPp_awTfjmQhJzz5DNmzZc5VF8orjCGLzgmvbQqxr5t_eKPW3xVGc3djm1wKEWqi1xScJ7P-mHLvtr2bQq8BfOiJMz_sQ3iGuHZFXWFAIYQr6K3bBK4fqvbxCp4WqVOJVKu5Hxkn0QDKDXpKQgLLEnEnG5SjCH9rLu8ftdxwpMQQTrXBRL33zlPPP5Mr3u24HUUiXd2zBBFXYz19UmEyo0M=w608-h274-no)

検索後は、統計情報も確認することができます。

![alt](https://lh3.googleusercontent.com/ArKiqfBgblubGY5x3q8iCLHB76R7uuENVfmR8pmknoICT80CJ47tW9li2fVNs4Ev4QOug83YLoph1oR5MiiEugi99DpOGaBaI3viFhFrMVjYuPvTCVhnkf11FvAD4GSRage5tJrKNMPOX6aMgk4i7pWcs4sVAMq44PzR8sI_mdIxFCOFBFUZ-XJKUhZzT4UQ977geXM7P-g8vlVrlf6fJeGttotIwpukIqTkGJYdT_mHoaRJQL8ps2MdrN3Djl_H5BS2n_bsSx7kdC5ZBcfWNNN2tK8dGXfB7gBbzw_7uM16YFgG3TRc773N6p3C6UMON2vLns5esAnyFsgeikAbvTSMFdZkBo8oi02L70Si2XUfanMwt0HHBMlgpVj3pAhMDu_QSiGQPuU2DwnYZYYEZIJMKrATEreDmEoYArTZJWIBD2a51PMjyWK-Br604B5Rfm7GS9qsygHaiZQ6T7HGjGypMKyP3D-d4Np9dHqxb1GSvmQMAygwGEXr9przNfRoyqK3QB3gIowRxQ6V_Osibdu2XwJLfTG53CURPmQ=w555-h380-no)

ここでは「直近30分以内」のログレベル「ERROR」以上のメッセージに限って検索してみましょう。

![alt](https://lh3.googleusercontent.com/_BjO0MQLp4nDJsdZxVdiOjJT8muNkS4a-fvbNN7XcjwWe83hcTiwKki6FBhAhgtHTaSJ_CGhuHYbu-BJvo4VCs1ER9gFcixKifk-6H3SlxRS9CX5pjHUPK5OPLjlUhPliRzTcmxIrlEjjL_rwWWF2n4hrgpskP-sxxgr_5j_0o3a9PtNZ5l1mbkki0Cha38weDx1dxcyBpf2L_z23FYlpKsuElJZTHYRkjn6vPOt4o596msfrLChXHhoCLXA5fVyAXtaZLp7TGQ6Xh6cr_bn4RyEbV08tdDSHp2kM6B7MuXgPo8gOUJbI8QhBEdBJG7bTXIg47QMAsywpsP2X9_twjRHGzsPML-5DNm6Z0tyI0PKy5uKBnVueztPnZnLxGygZPxJ6N38JdR6Zm_vAfvy0uta8pe1dYasXIHh_r4JLOhpDrUBTS6MdvV3KIPWisqvCz3_29AOAMl3yTM0OV3vFz4nZ7IPmjBUMut6FIzcTXzpcBuGVYFlYW3FkHJ-07OeBqALxMm4-SZ6QagnF0W-h2xTXN3frc3UDxupeCE=w1326-h526-no)

ERRORレベル以上の結果が表示されました。結果に表示される「ログファイルの表示」をクリックすると、新しいタブでログファイル全体を開いてくれます。このとき該当箇所がハイライトされていることがわかります。また「ログのダウンロードリンク」からローカルにダウンロードして調査を進めることも可能でしょう。

![alt](https://lh3.googleusercontent.com/WTUb6oMjELJEp4ZuVPfnS6JtOj2aE8avKe0fxKtM0VJT-1KinM6aPN5u6SrL1lewem2HydyHMj8X7cUxCm2U3ZfphlcR5sLuPcOU3wFB9855vJ1qR-x6gxQ55GvGKEwmMbJLkcKUfXJ86p9aESoxvRmhj550YL-jwwILypRlB70Gdo19bJl6dME9EF0X3eMmidHGESKDez3QZV5AEIDg5a-TfqojBOdfw8qdSCdjA4_CW4Aj1szvt6DCcmDKlotkUGeZB8btwaQ25oIrprCzuVlfKtuIvcqYLbdqjQo975IO42wm219x9lcJXMTNIkIaLemblPEI3EOAY2sagU6e6c5_9B9B0LjyzpnNMoNubccEcSoJcpMfKYI4tOedOomHeaqQex13EjV1CPwulGKhf_wIR3cDEztgAhZNR-Z7ExFNlyDAjmntBS4kWCmpAvyrav6KRFQ-OFVwHovKG-zq0CGfkBCDPCtsgf_kUn20GlzyFGb3s0SZBVS9chAMaGNam5esVNnQVnTkgsLXcB8NyYSyeueZjPXrPn2OhrY=w920-h427-no)

# 最後に

以上、ログの横断検索機能を簡単に紹介しました。検索結果は時系列に表示されるので、任意のブロックIDやファイル名でプロセス間を横断的に検索することで動向を追うことができます。CMのログ検索機能を使うことで、クラスタの問題を特定するまでの時間を大幅に短縮できるでしょう。