EnvoyのFrontProxyを用意してgRPCの負荷分散をする - Carpe Diem

概要 gRPCはHTTP/2プロトコルをベースとしたRPCです。 なのでコネクションが永続化され、その中で複数のストリームがリクエスト・レスポンスを取り扱うため負荷分散に注意する必要があります。 今回はEnvoyというgRPCに向いたproxyを使うことでそれを実現します。 環境 envoy 1.7.0 成果物 今回のソースはこちらにあります。 github.com AWSでの問題点 AWSのロードバランサーは主にCLB、ALB、NLBがあります。 しかしながらそれぞれ NLBはL4のロードバランサであるため、コネクションを分散することはできてもリクエストレベル（ストリーム）で負荷分散ができない CLBのL4モードも同様 ALBはL7だが、HTTP/2の転送がそもそもできない という問題を持つため、gRPCでの負荷分散に向いていません。 そこでgRPCで通信する場合はELBを使わずにEnv

[azihsoyn]

ありがとうございます！！！！“aliasesをつけることで、コンテナをスケールアウトしてもそのalias名でアクセスすれば内部DNSがスケールアウトした分のコンテナのIPも返してくれるので、envoyの設定を弄らずにスケールアウ