タグ

ブックマーク / qiita.com/mia_0032 (1)

  • ELB経由のfluentd Aggregatorを安定化するためにやった3つの対策 - Qiita

    この記事はリクルートライフスタイル Advent Calendar 2016の2日目の記事です。 はじめに 弊社ではログ収集にfluentd v0.12を主に使っており、システム自体はAWS上に構築しています。 fluentdのAggregatorには、ノードの追加がしやすいように負荷分散にELBを使う構成にしています。 ここ最近までは、複数のサービスからのログを1つのELBで受け、各Aggregatorノードで処理するという構成をとっていました。 ただログが増えてくると安定性に問題が出てきたため、その際に対策として行ったことについてまとめます。 やったこと 1. コネクション数とログ量のアンバランスを解消する fluentdのsecure-forward output pluginは、コネクションを切らずにログを送り続けます。 またELBは最もコネクション数が少ないノードへ接続を行う負荷

    ELB経由のfluentd Aggregatorを安定化するためにやった3つの対策 - Qiita
    masutaka26
    masutaka26 2016/12/08
    でかい・・・!
  • 1