秒間3万リクエストをkubernetesでさばく - Gunosy Tech Blog

こんにちは！スタンディングデスクを導入して快適な開発環境と運動不足の両方を解消できるようになったのではと感じている、広告技術部のUT@mocyutoです。 今回は半年ほどEKSを運用して秒間3万リクエストのトラフィックをさばくほどになりました。 秒間3万は広告システムだと割とあるとは思いますが、kubernetesでも運用できているので紹介しようと思います。 対象のEKSで構築したサービスは広告の配信サーバです。 広告配信サーバの要件として、まず50ms以内にレスポンスを返さなければいけません。 構築したk8sのレスポンスタイムの99パーセンタイルは10msほどで返せています。 以下は必要最小限のクラスタの構成図です。 全体像 API 弊社のサーバサイドはほぼGoで作られているので、例に漏れずGoで作られています。 pod構成はAPI、fluentd、envoyの サイドカーパターン です

[Keisuke69]

秒間3万リクエストを99パーセンタイルで10msecのレスポンス👀

[kawasin73]

秒間3万リクエスト関係ない内容で釣りだった…

[tmatsuu]

知見だ。わいわい

[stk132]

構成パクりたいのでRedisのところもうちょいkwsk

[tettekete37564]

秒間3万リクエストに 10ms 応答とか、縁遠い世界だなあ

[yujiorama]

"トラフィックが多いので、コスト削減のためリクエスト数に応じてシャードによる課金額が増えるKinesis+lambdaでRedisに投入するのではなくfluent pluginを作成して直接Redisに書き込みを行っています"

[inductor]

Skaffoldを本番で使ってる例はあまり見たことがないな。イメージのタグとかどうやって管理してるんだろう？

[petitviolet]

アドも十分k8sでやれそうだな

[s-wool]

安定運用！