並び順

ブックマーク数

期間指定

  • から
  • まで

81 - 120 件 / 256件

新着順 人気順

sqsの検索結果81 - 120 件 / 256件

  • Amazon SQSの使いどころ その1

    Amazon Web Serviceには「EC2」とか「S3」などの、いかにもクラウドなサービスの中に、地味だけど非常に便利なSimple Queue Service(以下、SQS)というサービスがあります。これはいったい何?という感じですけど、使いようによっては非常に有用なサービスです。日本語の解説は少ないのですが、この辺にありますね。 Amazon SQSってなんに使うんだろう - ブックマクロ開発に Amazon Web サービスを利用したクラウド・コンピューティング: 第 4 回 SQS による信頼性の高いメッセージング 自分が手がけているWebのサービスでは、このSQSが結構重要な役割を果たしています。その経験を交えて解説してみようかな?という試みです。 キューなんてものはあまりにも基本すぎて、特別な事じゃない感じがします。ですが、たとえプログラミング言語レベルで簡単に出来るとし

      Amazon SQSの使いどころ その1
    • 20150207 サービス紹介編 Amazon Simple Queue Service (SQS)

      第67回Ruby関西の勉強会です。 RubyからAWSを使おうということでSDKの紹介や、2Tier-Architectureなどの紹介をしています。

        20150207 サービス紹介編 Amazon Simple Queue Service (SQS)
      • Amazon SQS による分散キュー | DevelopersIO

        Amazon SQS とは Amazon SQS は、AWSが提供する分散キューサービスです。APIを使ってアクセスすることができます。SQSによってアプリケーションのメイン処理と非同期に動いてほしい処理を分離することができます。キューは待ち行列を提供し生産者(Producer)によって生成されたメッセージのバッファリングをし、消費者(Consumer)によってコンポーネントへメッセージデータが渡されます。キューは複数登録することができます。キューに対して複数のリーダーとライターが接続できますので、ひとつのキューに対して複数のアプリケーションから同時に利用することができます。 分散キュー SQSは障害時に正常系へ切り替わるように設計された(フェイルセーフな)仕組みを提供しています。おなじみの分散配置されたAWSインフラの成せる技です。キューの仕組みは自前でも構築は容易ですが、フェイルセーフ

        • [Rails] Sidekiq の Worker で Amazon SQS のメッセージを処理する | DevelopersIO

          Amazon SQS のメッセージを処理する際、Worker を使って行うことが多いかと思います。 Rails で非同期処理を実現する方法の 1 つとして sidekiq という gem がありますが、 今回この sidekiq の Worker を使って SQS のメッセージを処理してみたいと思います。 必要な gem の追加 Rails プロジェクトを作り、Gemfile を編集します。 source 'https://rubygems.org' gem 'rails', '4.1.2' gem 'sidekiq' gem 'aws-sdk-core' gem 'settingslogic' 必要最低限の指定です。 aws-sdk はバージョン 2 系を使ってます。http://aws.amazon.com/jp/sdkforruby/ settingslogic は定数管理の gem

            [Rails] Sidekiq の Worker で Amazon SQS のメッセージを処理する | DevelopersIO
          • AWS News Blog

            Amazon CloudWatch Internet Weather Map – View and analyze internet health The Internet has a plethora of moving parts: routers, switches, hubs, terrestrial and submarine cables, and connectors on the hardware side, and complex protocol stacks and configurations on the software side. When something goes wrong that slows or disrupts the Internet in a way that affects your customers, you want to be a

            • Message Queuing Service - Amazon Simple Queue Service - AWS

              Amazon Simple Queue Service Fully managed message queuing for microservices, distributed systems, and serverless applications

                Message Queuing Service - Amazon Simple Queue Service - AWS
              • Twitterの呟きでAmazon EC2のインスタンスを起動するスクリプト - プログラマでありたい

                JAWS-UG Advent Calendar 2013の13日目です。ついでに独りでAdvent Calendarに挑戦中です。 AWSの費用を抑えるコツは、使っていないインスタンスをこま目に停止することです。例えば開発機として利用しているのであれば、出社した時に起動して退社時に停止するのが理想です。しかし、わざわざマネージメントコンソールにログインするの面倒くさいですね。私だったら、3日で手運用していることを忘れてしまいます。そんなモノグサちゃんでもちゃんと節約する方法を伝授します。Twitterによる起動停止です。 Twitterによるインスタンスの起動と停止 指定したユーザの特定の単語に反応して起動と停止するスクリプト例です。 起動・停止するインスタンスは、EC2のUserというタグ名でTwitterのユーザ名を設定しているインスタンスです。タグ指定なので、複数台でも起動出来ます。

                  Twitterの呟きでAmazon EC2のインスタンスを起動するスクリプト - プログラマでありたい
                • New for Amazon Simple Queue Service – FIFO Queues with Exactly-Once Processing & Deduplication | Amazon Web Services

                  AWS News Blog New for Amazon Simple Queue Service – FIFO Queues with Exactly-Once Processing & Deduplication As the very first member of the AWS family of services, Amazon Simple Queue Service (Amazon SQS) has certainly withstood the test of time!  Back in 2004, we described it as a “reliable, highly scalable hosted queue for buffering messages between distributed application components.” Over the

                    New for Amazon Simple Queue Service – FIFO Queues with Exactly-Once Processing & Deduplication | Amazon Web Services
                  • Comparing Message Queue Architectures on AWS | FORTER

                    Notes: https://www.cloudamqp.com provides a hosted RabbitMQ service cluster and is not covered here. However, the Highly Available RabbitMQ cluster is included. CloudAMQP do not document what network partitioning mitigations they have configured for RabbitMQ cluster. https://redislabs.com provides a hosted Redis service and is not covered here. It uses custom replication and sharding proxies, but

                    • メール配信基盤のモニタリングと障害リカバリーについて - 一休.com Developers Blog

                      この記事は一休.comアドベントカレンダー2017の5日目です。 宿泊事業部 Platformチーム*1の id:minato128 です。今年一休ではクラウド移行に伴い、メール配信の仕組みを大きく変えました。詳しくは一休✕bitFlyer C#をつかったサービス開発の裏側でお話したスライドがこちらにありますので、興味のある方はご覧ください。 新メール配信基盤への移行 /ikyu-mail-platform // Speaker Deck さて、宿泊予約やレストラン予約のサービスを提供している一休では、メールをユーザーに届けることはとても大切です。特に予約完了メールが届かなかった場合、(メール以外の確認方法もあるとはいえ)予約が取れたことに気づかず、最悪ユーザーが2重に予約をしてしまう可能性もあります。*2 そこでメールを届けるために、どのようにメール配信基盤のモニタリングや障害が起きたと

                        メール配信基盤のモニタリングと障害リカバリーについて - 一休.com Developers Blog
                      • shoryuken gemで簡単にSQSを使ったJob Queue WorkerをRailsに作成する | DevelopersIO

                        丹内です。 掲題のとおり、SQSを簡単に使うことができるshoryuken gemを使ってみました。 前提 ruby 2.2.4 rails 4.2.5 マネジメントコンソールでSQSの作成 AWSマネジメントコンソールのSQS画面から新規にキューを作成します。 Shoryukenによる負荷が抑えられるよう、Receive Message Wait Timeの設定を忘れないようにしてください。 インストール Gemfileに以下のように書いてbundle installします。 gem 'shoryuken' group :development, :test do gem 'foreman' end あとで解説しますが、railsアプリとは別にworkerプロセスも立ち上げるので、便利になるようforemn gemもインストールしています。 Jobクラスを作成 Shoryuken::Wo

                          shoryuken gemで簡単にSQSを使ったJob Queue WorkerをRailsに作成する | DevelopersIO
                        • Amazon SQS Introduces FIFO Queues with Exactly-Once Processing and Lower Prices for Standard Queues

                          You can now use Amazon Simple Queue Service (SQS) for applications that require messages to be processed in a strict sequence and exactly once using First-in, First-out (FIFO) queues. FIFO queues are designed to ensure that the order in which messages are sent and received is strictly preserved and that each message is processed exactly once. Amazon SQS is a reliable and highly-scalable managed me

                            Amazon SQS Introduces FIFO Queues with Exactly-Once Processing and Lower Prices for Standard Queues
                          • SQS、ElastiCache、Lambdaで作る高可用なアラート通知システム | GREE Engineering

                            インフラのいわほり(@egmc)です。 サーバ監視を構成するシステムは色々ありますが、今回はAWS環境上での監視に使われているアラート通知の仕組みについて紹介させて頂きます。 監視システムの構築そのものは2015年頃、AWSの本格的な利用に伴い、AWS環境を対象とした新規システム(AWSモニタリングシステム)の構築プロジェクトにて作成されたものですが、稼働から約2年が経過し、それなりに実績が積めてきたのではないかと思います。 通知システムにはYusuraという名前がついていて、機能的には過去のエントリで紹介されていたAWACSに近いものとなります。 主な機能としては 設定に基づいた通知先の振り分け アラートの集約(summarize) 同一アラートの抑制(suppress) インスタンスのタグ情報に基づいたignore処理(特定のタグがついているインスタンスを通知の対象とする) を行います

                              SQS、ElastiCache、Lambdaで作る高可用なアラート通知システム | GREE Engineering
                            • Amazon Simple Queue ServiceとエンタープライズWebサービス:Kenn's Clairvoyance

                              今回は技術トピック。 アマゾンWebサービスから「Simple Queue Service (Beta)」がベータリリースされた。 キュー(待ち行列)というのは、要はイベントが発生する頻度についてヒマなときとピークのときで差が激しい場合、それを平準化するためのバッファのことである。 ただのバッファだから、性能要件から言っても根本的なスループットの不足を補うものではない。そう言ってしまえばそれだけなのだけれども、応用次第で性能要件を超えたところで味のある技術でもある。 単純なものではWebサーバに実装されているキュー(ApacheにおけるListenBacklogディレクティブ)がいい例である。アクセスが集中しているとき、プロセス(あるいはスレッド)のプール数が足りなければ、とりあえず溢れたリクエストはキューに突っ込んでおいて、順番が回ってきたらそれを処理してレスポンスを返すし、いつまで待っ

                                Amazon Simple Queue ServiceとエンタープライズWebサービス:Kenn's Clairvoyance
                              • AWS Black Belt Techシリーズ Amazon SNS / Amazon SQS

                                AWS Black Belt Online Seminarの最新コンテンツ: https://aws.amazon.com/jp/aws-jp-introduction/#new 過去に開催されたオンラインセミナーのコンテンツ一覧: https://aws.amazon.com/jp/aws-jp-introduction/aws-jp-webinar-service-cut/

                                  AWS Black Belt Techシリーズ Amazon SNS / Amazon SQS
                                • Amazon SQSってなんに使うんだろう - それマグで!

                                  よくわからないのでとりあえず、説明読んでみた。 Amazon_SQS Amazon SQS Functionality amazon SQS の機能 Developers can create an unlimited number of queues, each of which can store an unlimited number of messages. サイズ無制限のキューを使うことが出来て、キューにはサイズ無制限でメッセージを格納できる New messages can be added to a queue at any time. The message body can contain up to 256 KB of text in any format. キュー内のメッセージはいつでも追加可能。1メッセージは256kbまで格納可能。形式はテキスト。 A comput

                                    Amazon SQSってなんに使うんだろう - それマグで!
                                  • 【AWS】SQSをただただ触ってみただけの話 - ニクニクドットミー

                                    AWS最古のサービスSQSを今回は触ってみます。 SQS(Simple Queue Service)とは Amazon Simple Queue Service(Amazon SQS)には、コンピュータ間で送受信されるメッセージを格納するための、信頼性の高いスケーラブルなホストされたキューが用意されています。Amazon SQS を使用することによって、さまざまなタスクを実行するアプリケーションの分散コンポーネント間で、データを簡単に移動させることができます。 キューイングサービスですね。どういう用途に使うかというと、例えば処理を切り離したい時に使う事が出来ます。 DBのデータ更新系の処理だとして、リクエストを受け付けて、その後DBの更新を行うとし、このDB更新に時間が掛かるとします。更新が完了するまでの間レスポンスが帰ってこない状態になってしまうと思います。これを受付と更新とで切り分ける

                                    • AWS SQS(Amazon Simple Queue Service)の使い方 - Qiita

                                      【参考としてAWS SDK for Ruby V2を利用する場合は、こちらを参考にしてください。】 最近メタボリック症候群になりました。現実を受け止め、筋肉SEを目指してトレーニング中の、どうも千葉です。 今日はSQSについてのハンズオンです。 SQSとは、メッセージキューを提供するサービスで、バッチ等非同期処理時が実施可能になります。 今日はAmazon SQSを使って、キューの登録・取得・削除等をやってみたいと思います。 言語は、最近rubyを使っているので、「AWS SDK for Ruby」を使用します。 おそらく、Java・PHP・Python等でもAWSのSDKがあるため、同じような感じで実行できるのではないかと思います。 料金 お金取られない範囲でやりたい方も多いはずなので、一応記載しておくと無料のはずです。 ユーザ登録後の無料期間にかかわらず(無料期間以外でも)2014年1

                                        AWS SQS(Amazon Simple Queue Service)の使い方 - Qiita
                                      • Simple Queue Serviceに触ってみた - スコトプリゴニエフスク通信

                                        Amazon SQS (Simple Queue Service)はAmazonが提供しているメッセージング・ウェブサービス。 Amazon Simple Queue Servicehttp://aws.amazon.com/sqs/自分の周りでは実際に使っているっていう人を聞いたことがないし、ぐぐっても日本語の情報はそんなに出てこない。たぶん、 メッセージング・サーバーが北米だかヨーロッパにあるんだか分からんが、わざわざそんな遠方にある(かもしれない)サーバーを使ってメッセージングする必要なくね? そもそもEC2を使うならば、EC2のインスタンスに自前でSTOMPやAMQP等のメッセージング・サーバーを立てればよくね?みたいな、誰もが思う理由で日本では使われないんだろうけど。それでも前々から「一度は触ってみなくてはいかんな」と思い、ようやく触ってみた。その感想を先に書いておくと、APIは

                                        • Amazon SNSとSQSの素敵な関係。或いは、Jenkinsからパトライトを光らせる。 - プログラマでありたい

                                          以前ご紹介しましたが、Amazon SNSはプッシュ型の通知サービスで幾つかのプロトコルに通知を送ることが出来ます。一方、Amazon SQSはPull型のサービスです。真逆のサービスに見えますが、この2つを組み合わせることにより応用範囲が劇的に広がります。今回は、そんな一例をご紹介します。 Jenkinsはプラグインを追加することにより、様々な機能を追加することができます。既存のプラグインの中にも、AWSと連携するプラグインが幾つかあり、インスタンスの操作やCloudFormationの操作を行うものなどがあります。今回は、その中でSNS連携するプラグインを使います。 Amazon SNSのトピック作成 Amazon SNSは、一つ一つの通知はTopicと呼びます。トピックの作成は簡単で、Create New Topicで名前を決めるだけで作れます。Topicが作成されると、一意のTop

                                            Amazon SNSとSQSの素敵な関係。或いは、Jenkinsからパトライトを光らせる。 - プログラマでありたい
                                          • [AWS新機能] Amazon S3 Event Notificationsを使ってみた #reinvent | DevelopersIO

                                            念願のS3イベント通知 Amazon S3を使っている多くの人がファイルがアップロードされたタイミングでイベントを取得して次の処理に繋げたいと思うはずです。今までは、ポーリングしてファイルがあったら取得して処理をする必要がありましたが、これからは違います!!!実際にやってみましょう! S3バケットの作成 SNSトピックの作成 SNSトピックポリシーの設定 S3 Event通知の設定 イベントの種類を設定 SNSトピックを指定します。新規作成にしてARN指定したほうがいいかも。 正しく設定されたSNSトピックを設定しないと怒られます 同じリージョンを指定しないと怒られます Eventsの設定画面 動作確認 どんなイベントで発報するか決めます 全部うまく設定できれば完了です! まとめ イベント通知きたよ!!!システム間連携楽ちんだよ! S3がシステムのハブになるよね!!!新しいクラウドデザイン

                                              [AWS新機能] Amazon S3 Event Notificationsを使ってみた #reinvent | DevelopersIO
                                            • goqite is a persistent message queue Go library built on SQLite and inspired by AWS SQS (but much simpler)

                                              goqite (pronounced Go-queue-ite) is a persistent message queue Go library built on SQLite and inspired by AWS SQS (but much simpler). $ go get github.com/maragudk/goqite See goqite on Github Don't like queues? Get the Skip function to skip the queue for your messages! Example package main import ( "context" "database/sql" "fmt" "log" "time" _ "github.com/mattn/go-sqlite3" "github.com/maragudk/goqi

                                              • Amazon Simple Queue Service(SQS)の使い方 - プログラマでありたい

                                                AWSのサービスはどれも良く考えられていて好きですが、そんな中で使えば使える程に良さが解ってくるサービスとしてAmazon Simple Queue Service(SQS)があります。その名の通り、シンプルなキューサービスです。その分、可用性が高く、上手く使いこなせば様々なサービスの可用性を低コストで上げることが出来ると思います。 一例で言えば従来型のシステムでは、可用性を上げる肝はデータベースにあったかと思います。もう少し言うと、参照系ではなく更新系の部分。もっとはっきり言うと、お金掛けてOracleRAC使えば一定の可用性は確保できるよねぇってアーキテクチャが多かったと思います。この更新系の部分をキューを使うことにより、コストを下げることと可用性を高めることに可能なのではないでしょうか?キュー+MySQL+レプリケーションみたいな構造です。もちろん書き込みの順番等、アプリ側で考慮する

                                                  Amazon Simple Queue Service(SQS)の使い方 - プログラマでありたい
                                                • https://qiita.com/inokappa/items/ef26f82efb1f0f14e22b

                                                  • Amazon SQS と Kinesis はどう違うのか?~ユーザが求めるキュー(queue)の姿~|AWSを使い倒せ - GiXo Ltd.

                                                    Amazon SQS と Kinesis はどう違うのか?~ユーザが求めるキュー(queue)の姿~|AWSを使い倒せ どちらも広義なキュー(queue)。でもキューに期待するものが違う。 こんにちは。技術チームの岩谷です。最近、とあるかたから「Kinesisというキーワードを聞くけど、SQSに似ていませんか?違いは何なのでしょう?」という質問をいただきました。 SQSとKinesis、この両者は共にAWSのクラウドサービスで「広義のキューサービス」という意味では共通点があります。すなわち、 データを投入する データを取り出す、またその際に順序性を制御する仕組みが備わっている 取出したデータは、即座もしくは短寿命で消去される データの「投入→取出」の動作がセットで利用される。 という利用方法は共通しています。これは「データの待ち行列」である「キュー」の概念と一致しています。しかしこの両者の

                                                      Amazon SQS と Kinesis はどう違うのか?~ユーザが求めるキュー(queue)の姿~|AWSを使い倒せ - GiXo Ltd.
                                                    • AWS Lambda がサポートするイベントソースに Amazon Simple Queue Service を追加 | Amazon Web Services

                                                      Amazon Web Services ブログ AWS Lambda がサポートするイベントソースに Amazon Simple Queue Service を追加 Amazon Simple Queue Service (SQS) を使って AWS Lambda 関数をトリガーできるようになりました。これは私が個人的に 4 年以上前から楽しみにしてきた、重要な機能を提供する特別なアップデートです。皆さん、試用を待ち望んでいることでしょうから、昔話に興味のない方は下記を飛ばしてもらって結構です。 SQS は当社が立ち上げた初めてのサービスで、14 年前の 2004 年、AWS より公開されました。ご参考に、2004 年当時と言えば、商用ハードドライブは最大でも約 60 GB、PHP 5 が現れ、Facebook がちょうど開始したところ、テレビ番組のフレンズはシリーズが終了、Gmail は

                                                        AWS Lambda がサポートするイベントソースに Amazon Simple Queue Service を追加 | Amazon Web Services
                                                      • Announcement: ELB stickiness updates to support Feb 2020 Chromium CORs changes

                                                        You have been redirected here because the page you are trying to access has been archived. AWS re:Post is a cloud knowledge service launched at re:Invent 2021. We've migrated selected questions and answers from Forums to AWS re:Post. The thread you are trying to access has outdated guidance, hence we have archived it. If you would like up-to-date guidance, then share your question via AWS re:Post.

                                                          Announcement: ELB stickiness updates to support Feb 2020 Chromium CORs changes
                                                        • Amazon SQSを効率よく処理するための簡単なサンプルコード(perl / python) - アルパカDiary Pro

                                                          Amazon SQSって便利だと思うんですがWeb上の情報って意外と少ないですよね。 実際SQSを使う際に効率よく、かつお金も節約できるような サンプルが欲しかったので書いてみました。 ワーカーで効率よく処理するため2つのポイント この2つを気にするだけでだいぶ違うと思います。 ReceiveMessageで10メッセージずつ処理する Long Pollingを使う ReceiveMessageで10メッセージずつ処理する 1リクエストでメッセージを10個取るようにします*1 Long Pollingを使う ReceiveMessageWaitTimeSecondsを設定するとロングポーリングでデキュー出来ます。 ロングポーリングにしておくとエンキューされたら即次実行されますし キューが溜まっていないときには接続しっぱなしで受信処理を行うため 余計なリクエストを行わなくて済みます。 サンプ

                                                            Amazon SQSを効率よく処理するための簡単なサンプルコード(perl / python) - アルパカDiary Pro
                                                          • マイクロサービスにおける�非同期アーキテクチャ

                                                            マイクロサービスにおける�非同期アーキテクチャ1. ota42y 2017/09/28 Rails Developers Meetup #5 マイクロサービスにおける 非同期アーキテクチャ 2. • ota42y • ゲームクライアントエンジニア →サーバエンジニアに転職(1年ぐらい前) • rubyとかgoとかC++とか • twitterとかgithubとか 自己紹介 3. • twitter凍結したらこちらへ – https://ota42y.com/ – ネタとして入れたら今朝になって現実味が… あとでツイート全削除かな… – 凍結されそう 6. • 外から見たときは一つのアプリ • 内部的にはドメイン事に別々のサーバ microservice ダイエット家庭教師 FiNCモール FiNC アプリ lifelog 法人向けchat ranking main 7. • 各サーバは独立

                                                              マイクロサービスにおける�非同期アーキテクチャ
                                                            • Amazon SQS の ApproximateAgeOfOldestMessage とは何なのか?

                                                              SQS には ApproximateAgeOfOldestMessage という、queue に存在する最も古いメッセージの、queue に入ってからの経過時間に関するメトリクスがあります。例えば queue の処理が遅延していることを検知したい場合、ApproximateNumberOfMessagesVisible よりも良い指標となる場合があります。ただ、このメトリクスの定義の詳細についてはドキュメントに載っておらず、ドキュメントに書かれている内容も正確さを欠くので実験を通して現在の挙動についてまとめてみました。 実験結果等を踏まえた ApproximateAgeOfOldestMessage の定義 結論から述べると、次のような定義と言えます。 メトリクスの対象メッセージは queue に存在するすべてのメッセージであり、invisible なものも含む メトリクスの値は queu

                                                                Amazon SQS の ApproximateAgeOfOldestMessage とは何なのか?
                                                              • クラウド メッセージング/キュー比較解説まとめ

                                                                最終更新 2020-05-12 本ページでは、Amazon・Microsoft・Google の提供するメッセージング・キューサービスの機能・料金等について比較します。具体的には下記サービスを対象とします。 Amazon Simple Queue Service (SQS)Amazon Simple Notification Service (SNS)Amazon MQAzure Queue StorageAzure Service BusGoogle Cloud Pub/SubGoogle Cloud Tasks (GAE Task Queue) ※Amazon Kinesis・Azure Event Hub・Azure Event Grid を含めていないですが、そのうち追加したいと思っています。 メッセージング・キューサービスの使い所 メッセージング・キューサービスは、使っていない人

                                                                • RSpecでDynamoDBなどの外部サービス機能のユニットテストを実現する - Qiita

                                                                  この投稿は Sansan Advent Calendar 2015 の 13 日目の記事です。 みなさんテスト書いてますか? この時代テスト書いていない人なんて、いないですよね。 いるわけないと思います。 ただ、質問を変えて、 外部サービスに依存するコードのテスト書いてますか? となると、結構テスト書いてない人多いんじゃないかなと思います。 あるいは書いていても、中途半端なものになっちゃうんじゃないかなと思うんです。 そこに課題感があったので、この記事書くことにしました。 背景 弊社ではAWSサービス群を結構使ってまして、最近はコアな機能の部分に DynamoDB SQS などをガッツリと採用しています。 正直今までも上記サービスは使っていたはいたんですが一部だったということもあり、テストに力を入れてませんでした。 たとえば、DynamoDB周りのテストとかは expect_any_ins

                                                                    RSpecでDynamoDBなどの外部サービス機能のユニットテストを実現する - Qiita
                                                                  • KinesisとSQSの比較検討のため、Amazon Kinesis Data Streams のチュートリアルをやってみた | DevelopersIO

                                                                    モバイルアプリサービス部の五十嵐です。 KinesisとSQSの比較検討のため、Kinesisをより知るために公式のチュートリアルをさわってみました。 前提知識として 前提知識として、ストリームとシャード、プロデューサーとコンシューマーなどの用語の意味を抑えておくといいと思います。AWS Black Belt Online Seminarのスライドがわかりやすかったので紹介しておきます。 AWS Black Belt Online Seminar 2017 Amazon Kinesis チュートリアル チュートリアル: Amazon Kinesis Data Streams を使用したウェブトラフィックの可視化 - Amazon Kinesis Data Streams 概要 このサンプルアプリケーションは、さまざまな URL からのシミュレート上の閲覧者の数を Kinesis data

                                                                      KinesisとSQSの比較検討のため、Amazon Kinesis Data Streams のチュートリアルをやってみた | DevelopersIO
                                                                    • Fluentd Plugins for CouchDB, Amazon SQS/SNS

                                                                      An Introduction to Fluentd Plugins for Couchdb,Amazon SQS/SNS. at "Fluentd Meetup in Tokyo." http://www.zusaar.com/event/193104 #fluentdRead less

                                                                        Fluentd Plugins for CouchDB, Amazon SQS/SNS
                                                                      • フレクトのクラウドBlog: Amazon SQSに入門してみました

                                                                        こんにちは。大橋です。 今日はAmazon SQSについてです。 サイトを運営していると、ときどきメッセージキューで非同期に 処理をしたいなという箇所がよくあります。 また、最近、当社ではセールスフォースとAmazon EC2の併用など、異なる クラウド環境を使ったシステムをを扱っており、その連携方法を日々調査しています。 1箇所のサーバ環境だけならば、GearmanやQ4Mなど自前インストール型のキュー 使えばよいかと思うのですが、クラウド環境間の連携などを考えると、 グローバルに利用できるメッセージ伝達方式の方が望ましいケースもあります。 そこで、今回Amazon SQSに触手を伸ばし、入門してみました。 今日は、その記録を残します。 【Amazon SQSを利用開始する】 Amazon Web サービスのアカウントにサインアップし、 Amazon SQSのページで「Amazon SQ

                                                                        • Shoryuken を導入しようとして諦めた話 - Qiita

                                                                          Rails で非同期処理といえば、 Sidekiq, Resque, DelayedJob あたりが有名かと思います。 DelayedJob は RDS をジョブキューとして利用できる1ため、インフラの準備が不要で比較的ライトに導入できますが、数万件のジョブを登録しようと思うと RDS にかなりの負荷がかかりますし、Insert もそれほど早くないため、ジョブキューとしてはあまり適しているとは言えません。 Redis などのインメモリーデータベースを用いれば、RDS に負荷をかけず、Insert の高速化も見込めますが、万が一 Redis がクラッシュした際には登録されていたキューは全て無くなりますし、そういった障害に対応するためには幾らかの運用コストが発生します。 ところで、 AWS には SQS というキューイングサービスが提供されています。 安価で堅牢な造りになっており、運用コストも

                                                                            Shoryuken を導入しようとして諦めた話 - Qiita
                                                                          • 初めてのAWS Batch – 必要な各コンポーネントを理解する – | DevelopersIO

                                                                            コンニチハ、千葉です。 AWS Batchを導入する機会があり、AWS Batchのコンポーネントを整理してみました。 AWS Batchとは? AWS Batch登場以前、バッチ処理でスケーラビリティをもたせようとすると以下のような構成案がありました。SQSを利用したpull型のバッチ処理です。 処理対象をSQSにキューイング EC2上にデプロイされたプログラムにより、キューを取得、処理、キューを削除 AutoScalingを設定し、キューの数によりスケールアウト、スケールイン この方式を利用する場合、SQS、AutoScaling、AMI(アプリをインストール)を設計・構築する必要があり各サービスを理解して使いこなす必要がありました。 この構成を簡単一発で利用できるようになるのがAWS Batchです。 AWS Batchでは、Dockerを利用したバッチ処理環境が構成できます。FIF

                                                                              初めてのAWS Batch – 必要な各コンポーネントを理解する – | DevelopersIO
                                                                            • AWS News Blog

                                                                              AWS Week in Review – AWS Documentation Updates, Amazon EventBridge is Faster, and More – May 22, 2023 Here are your AWS updates from the previous 7 days. Last week I was in Turin, Italy for CloudConf, a conference I’ve had the pleasure to participate in for the last 10 years. AWS Hero Anahit Pogosova was also there sharing a few serverless tips in front of a full house. Here’s a picture I […] Amaz

                                                                              • Q: SQS ロングポーリングとは何ですか? | Amazon Simple Queue Service (Amazon SQS) よくあるご質問 | アマゾン ウェブ サービス(AWS 日本語)

                                                                                自社製や市販パッケージのメッセージキューイングシステムと比較して、Amazon SQS にはどのようなメリットがありますか? Amazon SQS では、メッセージキューの管理のために独自のソフトウェアを構築したり、市販またはオープンソースのメッセージキューイングシステムを使用してシステムの開発や設定の初期作業に多くの時間を費やしたりする必要がありません。 また、自社製または市販のパッケージ化されたメッセージキューイングシステムでは、定期的なハードウェアのメンテナンスやシステム管理のためのリソースが必要です。ハードウェア障害の発生時にメッセージが失われないよう、冗長性のあるメッセージストレージを設定する必要もあるため、システムの設定や管理はさらに複雑になります。 対照的に、Amazon SQS では、管理オーバーヘッドが発生せず、必要な設定もわずかです。Amazon SQS は、毎日数十億

                                                                                  Q: SQS ロングポーリングとは何ですか? | Amazon Simple Queue Service (Amazon SQS) よくあるご質問 | アマゾン ウェブ サービス(AWS 日本語)
                                                                                • AWSアカウントを跨いでSQSのメッセージを送信するパターン集 | DevelopersIO

                                                                                  大栗です。 多数のシステムを運用するときは、システムに応じてAWSアカウントやVPCを分けて配置することを検討します。システム間で疎結合にメッセージを交換するためにSQSを多用しますが、AWS構成は色々と考えられます。パターンによってメリット・デメリットがあるのでまとめてみました。 参考:AWSアカウントとVPC、分ける? 分けない?: 分割パターンのメリット・デメリット AWSアカウントを跨ぐSQS使用で検討すべきこと AWSアカウントを跨いでSQSでメッセージを送信する場合には、以下の様なことを検討する必要があります アクセス権限は?(送信元アカウントと送信先アカウントの権限) SNSを使う?使わない? どっちのアカウントに配置する?(送信元アカウントと送信先アカウント) アクセス権限 AssumeRoleによる異なるアカウントの権限の取得 アカウントを超えて一般的なAWSリソースにア

                                                                                    AWSアカウントを跨いでSQSのメッセージを送信するパターン集 | DevelopersIO