Postfixのログをfluentdを使ってTreasureDataに送る

こんにちは、SSTDの髙橋です。 前回の更新から日が空いてしまいましたが、引き続き継続して情報発信をしていきたいと思います。

さて、社内メールにGmailなどのクラウドサービスを使うことは一般的になってきましたが、それでも社内メールサーバと連携することは一般的です。 そうした中で、メールサーバに障害が発生した際に、SSHしてメールサーバのログを必死に読み解いていくはなかなか面倒です。 そこで今回は、Postfixのログをfluentdを使ってTreasureDataに送ってみたいと思います(td-agentをご利用の方はfluentdの箇所をtd-agentと読み替えて御試し下さい)。

Ta1

 


実行環境

Postfixやfluentdの設定は既に設定済みであるとします。

  • Mac OS 10.9.4
  • Postfix 2.9.4
    • smtpにはgmailを設定済
  • fluentd 0.10.52
    • fluent-plugin-multi-format-parser 0.0.1
    • td 0.11.2

Postfixのログ内容

Postfixから出力されるログは下記に例を示します。 ログを確認すると、一つのログにも複数のフォーマットが混在している点が複雑です。

fluentd.confの内容

複数のフォーマットが混在しているログに対しては、fluent-plugin-multi-format-parserが便利です。 このプラグインによって、postfix/smtpとその他のフォーマットのログも細かめにとれるようにしています。 設定ファイルを下記に示します。設定ファイルの正規表現には、こちらのgistを参考にさせて頂きました。


結果データ

さきほどのログを、上記設定ファイルを使ってファイルに出力した場合のの結果は下記になります。

  • 1番目のPatternでマッチされた結果
  • 2番目のPatternでマッチされた結果

TreasureData上の結果

結果をTreasureDataに入れた場合は、下図のように格納されます。

  • テーブル情報

Ta2

 
  • レコード情報

Ta3

 

まとめ

このように一つのログ内に複数のフォーマットが存在する場合でも、fluendを使うことでうまくパースすることができ、それだけでなく、TreasureDataを使うことで長期保存や後での集計が簡単にできるようになりますね。

ご覧いただきありがとうございます! この投稿はお役に立ちましたか?

役に立った 役に立たなかった

0人がこの投稿は役に立ったと言っています。

コメント投稿

メールアドレスは表示されません。


*