こんにちは。さくらインターネットの大喜多です。 今回はさくらのVPSを使って複数のWebサーバを構築し、ロードバランサを使ってWebサーバへのアクセスを分散させる方法についてご説明したいと思います。 はじめに さくらのVPSは、専用サーバの自由度とクラウドの拡張性を合わせもつ、月額585円（税抜かつ記事執筆時点の価格）から使える仮想専用サーバサービスです。この記事ではさくらのVPSを使って複数台のWebサーバを構築して、同じさくらインターネットが提供するさくらのクラウドの中の一機能であるエンハンスドロードバランサを使って負荷分散をする手順についてご紹介します。 エンハンスドロードバランサとは HTTPおよびHTTPSに特化したプロキシ型のロードバランサです(TCPでのロードバランシングも可能ですが、Let’s Encrypt証明書設定やレスポンスヘッダ設定などのL7関連機能はご利用いただけ
Oji-Cloud クラウドとテクノロジーが人生をHappyにする。クラウドインテグレーターに転職したぱぱエンジニアが発信するテクニカルブログ。 概要 はじめに ここ最近NLBを使ったシステムを構築していますので、本日はALB、NLBロードバランサーの比較と、NLBの特徴を中心に記事にまとめたいと思います。 ALB、NLBとは ALB、NLBのどちらもELB（Elastic Load Balancing）の1つです。ELBはAWSが提供するロードバランサーであり、受信したアプリケーションまたはネットワークトラフィックをEC2 インスタンス、コンテナなど、複数のターゲットに分散させることが可能です。 ALB、NLBは、ヘルスチェックを利用して、異常なターゲットを検出すると、それらのターゲットに対するトラフィックの送信を中止し、残りの正常なターゲットに負荷を分散できます。 以下に、ALB、NL
背景 gRPCでは主に Proxy Model Balancing-aware Client External Load Balancing Service といったLBアプローチがあります。 それぞれの特徴や実装方法を調べてみました。 Load Balancingアプローチ こちらで定義されてます。 grpc/load-balancing.md at master · grpc/grpc · GitHub 主な負荷分散のアプローチとしては以下です。 Proxy Model LBと言われて最初に浮かぶイメージですね。 ref: https://grpc.io/blog/loadbalancing/ メリット クライアントと独立しているため、クライアントは自身のアプリケーション実装にのみ集中できます。シンプルでPolyglot向きでもあります。 またProxy側に様々な拡張ができます（メトリ
2020 年 4 月 27 日（月） 第 10 回 Google Cloud INSIDE Games & Apps Online Google Cloud 篠原 一徳によるセッション スライドです。Read less
【インターンレポート】LINEのプライベートクラウドのLBaaSで提供されるL4ロードバランサのUDP対応
はじめに こんにちは。 早稲田大学基幹理工学研究科情報理工・情報通信専攻 修士1年の清水 嶺(@_iy4)と申します。8/17~9/25の6週間、LINEのVerda室ネットワーク開発チームという所でインターンをさせていただきました。インターンでは、VerdaのL4ロードバランサをUDPに対応させるというタスクに取り組んだので、その成果をご紹介したいと思います。 VerdaのLBaaSについて LINEにおける多くのサービスは、自社のデータセンタ上に構築しているVerdaと呼ばれるプライベートクラウド上で運用されています。Verdaは様々な機能を提供していますが、その中には自社で開発しているLBaaSが含まれています。LBaaSでは TCP終端を行わないL4ロードバランサ TCP終端を行うL7ロードバランサ の二つを提供しており、L4ロードバランサは実際にパケットの処理を行うデータプレーン
Keeping Netflix Reliable Using Prioritized Load Shedding
By Manuel Correa, Arthur Gonigberg, and Daniel West Getting stuck in traffic is one of the most frustrating experiences for drivers around the world. Everyone slows to a crawl, sometimes for a minor issue or sometimes for no reason at all. As engineers at Netflix, we are constantly reevaluating how to redesign traffic management. What if we knew the urgency of each traveler and could selectively r
エンタープライズで利用するデータベースシステムは、障害に強く、安定稼動ができるよう、高可用な構成にすることが要求されます。また、将来的にデータ量やアクセス量が増加しても、サーバー増設等による性能向上により、システムの応答速度や処理キャパシティを維持できるよう、スケーラビリティーの高いシステムが要求されることもあります。 これらの要求に対応するために、PostgreSQLの周辺ツールの1つである、Pgpool-IIを利用した、高可用なシステム構成について解説します。 1. Pgpool-IIとは Pgpool-IIは、アプリケーションとデータベースの間で稼動するミドルウェアであり、LinuxやSolaris上で動作します。Pgpool-IIは、主に以下の機能を提供しています。今回は、Pgpool-II 4.0.2をベースに説明します。 表1 Pgpool-IIの主な機能
Dockerのみでお手軽ロードバランシング&(ほぼ)0ダウンタイムデプロイ - blog.potproject.net
Dockerを結構本番運用をガッツリやる会社もよく聞くようになってきた気がします。 で、大体その手の話を聞くと、本番はいかに安定したシステムとネットワークを構築することが肝になるため、 k8sやAnsible、CoreOSやRancherOS、 コンテナなクラウドサービスの話になったりして・・・ これ以上その分野まで覚えようとすると大変すぎるし、自分はまあインフラエンジニアではないのでそこまではあまり興味が無かったりします。 そもそも、そこまでやるとするとかなりの知識が要りますし、かなり大変な作業となると思います。 でも、自分としてちゃんと問題なく動き、HTTPでロードバランシングでき、ダウンタイム0でのデプロイを実現できるWebシステムを構築したいわけです。 Dockerのみで。 このあたり、Webであればnginx-proxyで普通に行けるということを最近知りました。 しかも、めっちゃ
[レポート]サーバーレスアプリ用のロードバランサーの選択方法 #reinvent #NET301 | DevelopersIO
re:Invent 2020のセッション「 Choosing the right load balancer for serverless applications 」を聴講しましたのでレポートします。 サーバーレスとありますが、on Fargateで稼働するECSやEKSについても扱っています。ELBファミリーの各サービスの差異や、Lambda、ECS、EKSをターゲットにする場合の注意点、またELBとAPI Gatewayの比較や、マイクロサービスのアーキテクチャーパターンについても述べられていて、非常に有意義なセッションでした。最下部に視聴リンクを置いていますので、より詳しく学びたい方はre:Inventにサインインした上でそちらをご確認ください。 セッション概要 Elastic Load Balancing automatically distributes incoming ap
![[レポート]サーバーレスアプリ用のロードバランサーの選択方法 #reinvent #NET301 | DevelopersIO](https://cdn-ak-scissors.b.st-hatena.com/image/square/1fc8bce7c66555564f1e060e786724d616daf7d8/height=288;version=1;width=512/https%3A%2F%2Fdevio2023-media.developers.io%2Fwp-content%2Fuploads%2F2020%2F11%2Feyecatch_reinvent-2020-session-report.jpg)
【入門】Traefikとは？基本的な使い方を解説
Traefikはオープンソースのエッジルーター(いわゆるリバースプロキシ・ロードバランサーの役割)で、サービスを簡単な設定で公開することが出来るのが特徴です。 リバースプロキシとしてのNginxの代替手段となります。 既存の技術(すなわちNginx)のリバースプロキシでは複数の設定ファイルを管理しなければならなかったり、近年主流となってきているDocker, Docker Swarm, Kubernetesなどの技術への親和性がそこまで高くないという問題がありました。 Traefikは「シンプルな操作性を実現することを最大の目標としている」ため、その理念の通り自分で細かな設定をする必要がありません。展開されているサービスから関連する設定を自動的に取得し、「うまいこと」ルーティング等の設定をしてくれます。 また下記の通り、現在主流の技術をネイティブにサポートしており簡単に展開することが出来ま
KubernetesにおけるLoadBalancerとIngressの違いについて - Nerds N' Computers
Kubernetesでは, インターネットからクラスタ内部のPodにアクセスするためにServiceやIngressを通して内部のPodにアクセスできるように必要があります. このとき一般的な公開方法としてLoad Balancer Serviceを使う方法とIngressを用いる方法がありますが, (NodePortやClusterIPで公開する方法は, 用途が限られるので割愛します) 本記事ではそれぞれの機能と使い分けについて簡単に解説しようと思います. LoadBalancer ロードバランサは下記のように定義することができます. 下記の例は hello-world というセレクタで指定したサービスの8080番ポートにロードバランサ上の80番ポートへのリクエストをフォワーディングするように設定しています. apiVersion: v1 kind: Service metadata:
Cloud CDN カスタムオリジン
このタイトルだと分かりにくいですが、Google Cloud Platform (GCP) の Cloud CDN が GCP 以外をオリジンとして指定できるようになりました 🎉 CDN におけるオリジンとは、オリジンサーバーなどと呼ばれるように、CDN によってキャッシュ、配信されるコンテンツのオリジナルを持っているサーバーなどを指します。 これまで Cloud CDN ではオリジンとして GCP の HTTP(S) Load Balancing のバックエンドしか指定できなかったので、設定と言っても(コンソール上では)チェックボックスが一つあるだけでした。 カスタムオリジンのドキュメントよりそこで本エントリでは、Cloud CDN で GCP 外のオリジンを指定するための機能「カスタムオリジン」についてご紹介したいと思います。 なお、カスタムオリジンとは直接関係ないですが、Cloud
2019-05-02 TL;DR IPVSはデフォルトでconntrack(標準のconnection tracking)を利用しない そのせいでIPVSに処理させるパケットをNATしたりすると期待通り動かないことがある 必要があれば /proc/sys/net/ipv4/vs/conntrack (net.ipv4.vs.conntrack) を設定しよう 背景 iptablesの DNAT targetと IPVS(LVS/NAT構成)を共存させると上手く行かない PREROUTING chainにおいて REDIRECT target によりポート番号をIPVSのvirtual serviceのものに変換するように設定した場合, REDIRECTされるポートに対し接続すると, 戻り通信(SYNに対するSYN+ACK)の送信元ポートがvirtual serviceのものになる（期待され
GKE best practices: Exposing GKE applications through Ingress and Services One critical part of designing enterprise applications running on Google Kubernetes Engine (GKE) is considering how your application will be consumed by its clients. This could be as simple as exposing your application outside the cluster, to be consumed by other internal clients, or might involve routing traffic to your ap
Spring BootによるAPIバックエンド構築実践ガイド 第2版 何千人もの開発者が、InfoQのミニブック「Practical Guide to Building an API Back End with Spring Boot」から、Spring Bootを使ったREST API構築の基礎を学んだ。この本では、出版時に新しくリリースされたバージョンである Spring Boot 2 を使用している。しかし、Spring Boot3が最近リリースされ、重要な変...
メディア・プロモーション事業部でpixivの広告配信システムを開発しているあやぬんです。 今回pixivの広告システムで利用しているGCPのロードバランサ（以下GCLB）で待望のHTTPS・URLリダイレクト機能が4/14にGA1となったので、本番環境・開発環境へ導入した方法を紹介します。 従来のGCLBに対する課題 今までGCLBはHTTPおよびHTTPSのバックエンドサービスに対して、ただトラフィックを流すだけで、リダイレクトの機能はありませんでした。 Google Issue Trackerには2015年からHTTPSリダイレクトの要望が上がっており世界中のユーザーが待ち望んでいました。 https://issuetracker.google.com/issues/35904733 HTTPSリダイレクトを自分で実装する場合は内部でNginxを起動させてリダイレクトをさせるか、アプリ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
さくらのVPSでロードバランサを使う方法 | さくらのナレッジ
ALB、NLBロードバランサーの特徴比較 | Oji-Cloud
gRPCでのLoad Balancing - Carpe Diem
GKE に飛んでくるトラフィックを 自由自在に操る力 | 第 10 回 Google Cloud INSIDE Games & Apps Online
Pgpool-IIで高可用なシステム構成を考える｜PostgreSQLインサイド
IPVS (LVS/NAT) とiptables DNAT targetの共存について調べた - ntoofu
Zero Downtime Release: Disruption-free Load Balancing of a Multi-Billion User Website
Exposing services on GKE | Google Cloud Blog
ベアメタルKubernetesロードバランサのPorterがCNCF Landscpeの一部に
GCLBに実装されたHTTPSリダイレクト機能を使ってみました - pixiv inside