タグ

kafkaに関するfatherofikura0107のブックマーク (2)

  • SyslogをKafkaサーバに転送して、そこからGraylogをつかってlogをPub-Sub方式で取得をさせる | 俺的備忘録 〜なんかいろいろ〜

    Blog 201701 SyslogをKafkaサーバに転送して、そこからGraylogをつかってlogをPub-Sub方式で取得をさせる 前回、syslogをKafkaに転送させるようにしたので、今度はそこからGraylogでログを取得する。 特にプラグインもなしでできるので、(いろいろと問題はあるが)なかなか良い感じだ。 設定は簡単で、[System] > [Inputs]で新規のインプットとして[GELF Kafka]を選択し、「Launch new input」から新しいインプットを作成するだけだ。 zookeeperのアドレスは複数指定できるので、各ノードのアドレスを指定してやる。 で、INPUTが正常に作成・動作したら、以下のようにKafkaからログが取得されるようになる。 このとき、タイムスタンプがGraylogがログを取得したタイミングになってしまうので注意。 また、注意し

  • ログ収集ツールの比較 - Qiita

    ログ収集ツールとしてはFluentd、Logstash、Flume等が挙げられる。ファイルやメール、syslogDB、センサからログデータを読込み、必要なログをフィルタして、jsonやxmlに整形してアウトプットする機能を持つ。 メリット プラグインが300+公開されており、様々な形式のデータをインプット、アウトプットできる 単体でログのフィルタ、バッファ、ルーティングができる 2000+を超える企業に利用されている 日語の情報が多い デメリット 単体で動作するためfluentdが落ちたらバッファしているログが消える 想定外のログが入力されると大量のスタックトレースが吐かれる 引用:http://changineer.info/server/logging/fluentd-td-agent.html#fluentd-2 Logstash メリット フィルタを簡単にカスタマイズできる F

    ログ収集ツールの比較 - Qiita
  • 1