タグ

負荷分散に関するmichael-unltdのブックマーク (11)

  • https://lp.cloudplatformonline.com/rs/808-GJW-314/images/App_Modernization_OnAir_q3_0728_Session2.pdf

  • https://qiita.com/Dr_ASA/items/1f7c3451e9d41732dac5

  • 今すぐ使える!CDN ~はじめてのCloudFlare(クラウドフレア)導入~ | ブログ | SINAP - 株式会社シナップ

    シナップの柿内です。 最近、CloudFlareという無料で簡単に使えるCDNサービスが話題を呼んでいます。 CDN(コンテンツ・デリバリー・ネットワーク)とはコンテンツを複数地域の複数サーバーに配置し、ユーザーのリクエストに対して最適なサーバーからコンテンツを配布する負荷分散サービスです。よくオープンソースをダウンロードする時に一番近いミラーサーバーを選択してダウンロードしますが、それをユーザーの操作なしに全部自動で行ってくれると考えれば想像しやすいのではないでしょうか。 来CDNは大規模なリクエストを円滑に処理するように生まれたサービスなので、小規模なWebサイトで導入する事はあまりありませんでした。それがCloudFlareならば誰でも(後で解説するように利用するためには簡単な条件をクリアする必要がありますが)今日にでも利用する事が可能です。しかも無料で。 同じCDNサービスである

    今すぐ使える!CDN ~はじめてのCloudFlare(クラウドフレア)導入~ | ブログ | SINAP - 株式会社シナップ
    michael-unltd
    michael-unltd 2012/02/03
    基本無償、商用でも低価格なCDNに期待。
  • mixiの生みの親“バタラ氏”が語るMySQLの意外な利用法 - TechTargetジャパン

    日記だけで4億件のデータ ミクシィが運営するSNS「mixi」は、2007年7月末段階でユーザー数が1110万人。人が12人集まれば、1人はmixiユーザーというわけだ。ユーザーのアクティブ率(ログイン間隔が3日以内)は約62%と高く、2007年4月から6月の月間平均ページビューは117.5億に達した。日記だけでも4億件以上に上るなど、蓄積するデータ量も莫大。2004年3月のサービス開始から、わずか3年半で現在の巨大コミュニティーへと発展したのだ。 ミクシィは、「LAMP(OSのLinux、WebサーバのApache、DBMSのMySQL、開発言語のPerlPHPPython)」と呼ばれるWebシステム向けの標準的なオープンソースソフトウェア(以下、OSS)でシステムを自社開発し、安価なPCサーバを1000台以上連ねる超分散構成でmixiのサービスを支えている(広告配信など周辺機能では

    mixiの生みの親“バタラ氏”が語るMySQLの意外な利用法 - TechTargetジャパン
    michael-unltd
    michael-unltd 2011/10/01
    あとでdelicious
  • 「はてな流大規模データ処理」を見てきた - もぎゃろぐ

    KOF2008:関西オープンソース2008というイベントに来ています。 はてなの伊藤さんの講演があったので、講演メモを公開。 #ボクがメモした内容であって、100%言ったとおりに書いてあるわけじゃないので、参考としてご覧ください。 (続き) アジェンダ 大規模なデータ OSのキャッシュ MySQLの運用 大規模データアプリケーションの開発 データの例 はてなブックマークのデータ量:五千万件くらいのデータ量 このデータに対して何百万人がアクセスしてくる状況でどういう作りにするか レコード数 1073万エントリー 3134万エントリー 4143万タグ データサイズ エントリー2.5GB 何の工夫もなく普通にアクセスすると...200秒待っても結果が帰ってこない 大規模データの難しいところ 開発サーバで開発者が作っている時は快適に動いていても、多数の人間がアク

  • Apacheのmod_proxy_balancerを使うときはretryを設定すべき - 射撃しつつ前転

    今作っているサービスは、Apacheのmod_proxy_balancerを使ってロードバランシングしている。しかし、バックエンドのサービスサーバを一旦落としてから復帰させると、コネクションがしばらくつながらないという問題に悩んでいた。1分ぐらい放置するとつながるようになるんだけど、1分は結構長い。 よくわからないのでソースを読んでみたところ、mod_proxy_balancer.cを眺めた感じ、ap_proxy_retry_workerという関数がコネクションの再確立をしているのではないかと思えた。しかし、関数の定義を眺めてみると、現在時刻がエラー発生時刻とworker->retryを足した数字よりも大きければworkerのstatusからPROXY_WORKER_IN_ERRORのビットを下ろしているだけで、コネクションの確立がどうのこうのなんて関数はまったく呼ばれてない。ここでなにが

    Apacheのmod_proxy_balancerを使うときはretryを設定すべき - 射撃しつつ前転
  • Railsアプリをmod_proxy_balancerで負荷分散しつつ、ちょっとYSlow対策 - trashtalk - 菊池高志 - builder by ZDNet Japan

    社内システムにはRailsを使ってるシステムがあったりするんですが、バージョンアップのタイミングで大幅にアクセス数が増えたらパフォーマンスが出なくなったので、同じサーバーの違うポートでmongrelを複数動かすようにして、Apacheのリバースプロキシで負荷分散させつつ、アプリ側の負荷を少しでも下げる為にmod_deflateとmod_expireを使って少しYSlow対策を施してみました。 設定はこんな感じ。 <VirtualHost *:80> ServerName proxy.example.net # バランサーの設定(個々のアプリをバランサーのメンバーとして定義) <Proxy balancer://apps/> BalancerMember http://app.example.net:9001 loadfactor=10 keepalive=On BalancerMember

  • MongrelとApache2.2でRails。

    「10分で作るRailsアプリ for Windows」の増井さんに直に話を聞く機会があって、名前だけ知ってたMongrelがこれからいい感じジャマイカということを聞いたので、とりあえず環境を作ってみた。 Mongrel: Home What is Mongrel? Mongrel is a fast HTTP library and server for Ruby that is intended for hosting Ruby web applications of any kind using plain HTTP rather than FastCGI or SCGI. で、具体的に参考にしたのはココ↓ Scaling Rails with Apache 2.2, mod_proxy_balancer and Mongrel Lighttpdがボコボコとクラッシュするようになって

    MongrelとApache2.2でRails。
  • HTTPベースによるMapReduceフレームワーク·HTTPMR MOONGIFT

    大規模なデータを分散処理するための技術と言えばMapReduceだ。通常の企業では難しい、数万台のネットワークコンピューティングを駆使したデータ処理を可能にするGoogleの根幹をささせる一技術になっている。 処理の一覧 そんなMapReduceはオープンソースで実装されるものもあるが、格的に実装するにはハードウェアやインフラの存在が必要になる。だが、これを使えばハードウェアも無用でMapReduceを体感できる。 今回紹介するオープンソース・ソフトウェアはHTTPMR、Google App Engine上で動作するMapReduce実装だ。 HTTPMRはGoogle App Engine上で動作するライブラリで、HTTPベースでMapReduceのように分散処理を行えるようになる。リクエストはランダムに選ばれたコンピュータ上で実行される。各リクエストは数秒でタイムアウトするようになっ

    HTTPベースによるMapReduceフレームワーク·HTTPMR MOONGIFT
  • 複数マシンへHadoopをインストールする:CodeZine

    1.前回のおさらい 前回はHadoopを1台のマシンにインストールし、簡単なサンプルプログラムを実行しました。また、HDFSやMapReduceについても解説しました。今回は複数のPCへのインストールを行います。その後、大規模なデータを実際に処理し、その性能を測ってみたいと思います。2.用意した環境 今回は、東京大学 理学部 情報科学科で学生用に解放されているクラスタを使用しました。このクラスタは24台のノード(c0-0 ~ c0-23)で構成されており、1GbpsのEthernetで相互に接続されています。また、すべてのノードの/homeディレクトリはNFSで共有されています。計算ノードのスペックは次のとおりです。

  • 月間1000万ビュー近くのアクセスを自社内の40~50台の中古パソコンでさばくWeblioのシステム:ITpro

    Weblioという人気サイトがある。調べたい用語の意味を,200以上の辞書から一度に検索できるサイトだ(参考記事,参考リンク)。2007年2月の実績は,900万ページ・ビュー,120万ユニークIPアドレスを誇る。驚くべきことに,このサイトのすべてのシステムは,ウェブリオ(Weblioを提供している会社)社内に設置された40~50台の中古パソコンでできている(写真1)。 このシステムをほぼ1人で作り上げたのが,ウェブリオ取締役最高技術責任者の佐々木亨氏(写真2右)である。ウェブリオに投資し,同社の社外取締役も務める紀信邦氏(写真2左)は「佐々木氏がいなかったら投資しなかった。彼がいなかったら,同じ事業をするのに10倍のコストがかかる」と語る。佐々木氏は,ハードウエア,ソフトウエア,ネットワークのそれぞれについて豊富な知識を持つ。「特にネットワークに強いのが大きい」と紀氏は評価する。 ウェブリ

    月間1000万ビュー近くのアクセスを自社内の40~50台の中古パソコンでさばくWeblioのシステム:ITpro
  • 1