並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 357件

新着順 人気順

dynamodbの検索結果1 - 40 件 / 357件

  • サーバーレスの次はなんなんだ

    はじめに この記事は、同人誌サークル「めもおきば」から不定期刊行している技術解説本「めもおきばTecReport」に書いたものを公開用に再編集したものです。 ⇒ めもおきばTecReport 2023.12 この記事のほかにも「私もSecHack365に参加したい!」や、「2023年振り返りと2024年技術予想」としてこんなキーワードを取り上げているので、気になったらぽちっとしてください! メガクラウドと特化型クラウド/ハイパーバイザーのSoC化/ライセンスとクラウドベンダー/イベント駆動型API/LLM時代のAIペアプロ力/生活必需品としてのGPU・NPU/Passkey/ウェブアクセシビリティ/リアルイベントの再開 サーバーレスの次はなんなんだ サーバーレスと呼ばれる技術ムーブメントが盛り上がり始めて8年近くが経ちました。各クラウドベンダーのFaaS(Function-as-a-Ser

      サーバーレスの次はなんなんだ
    • 特定のページが更新されたら通知する仕組みを作ってみた - Qiita

      はじめに RSS対応のサイトだと、更新情報追いやすいけど、RSS非対応のページも追いたいよね。って人向けの記事です。 RSS対応しているサイトなら、RSSリーダーを使った方が早いです また、Discordのチャンネルにも通知がしたかったので、メールとDiscord両方に通知を行っています。 Discord側にWebhook用のURLが必要ですが、本記事では紹介しません 参考サイトのZennの記事が細かく書かれていますので、そちらをご覧ください なお、この仕組みは更新を検知したいサイトに確認リクエストを送ります。 高頻度で設定してしまうと、サーバーに負荷がかかる為、 高頻度での設定はしないようにお願いします 参考サイト 構成図 コードについて(Lambda) コードについては、基本的に、クラスメソッドさんの記事を参考にしています Discordの通知部分については、AmazonBedrock

        特定のページが更新されたら通知する仕組みを作ってみた - Qiita
      • Amazon DynamoDB now supports resource-based policies

        Amazon DynamoDB now supports resource-based policies to help you simplify access control for your DynamoDB resources. With resource-based policies, you can specify the Identity and Access Management (IAM) principals that have access to a resource and what actions they can perform on it. You can attach a resource-based policy to a DynamoDB table or a stream. The resource-based policy that you attac

          Amazon DynamoDB now supports resource-based policies
        • Cloud RunとCloud PubSubでサーバレスなデータ基盤2024 with Terraform / Cloud Run and PubSub with Terraform

          Google Cloudのサーバレスなサービスでデータ基盤を作った話.

            Cloud RunとCloud PubSubでサーバレスなデータ基盤2024 with Terraform / Cloud Run and PubSub with Terraform
          • RSS非対応なページの更新状況をLambda+DynamoDBで毎日確認してみた | DevelopersIO

            こんにちは、AWS事業本部の荒平(@0Air)です。 皆さんはインターネット上で「このページの更新を追っかけたいのにRSS対応してない・・・!」となったことはありませんか? 今回はそうなってしまった自分のためにページの更新状況を確認する仕組みを作ってみました。 (RSS非対応を追う仕組みを持つプラグインやサービスはいくつか存在していますが、しっくり来なかったため) ちなみに、RSSに対応しているページの場合は以下のような仕組みで実現が可能です。 前置き この仕組みは、実際に取得リクエストが送信されるため高頻度で実施しないようにしてください(相手のサーバに負荷を与える行為と判定される可能性があります) ページを取得してハッシュ化し、差分チェックを行うという仕組み上、ページのレスポンスが毎回異なるサイトなどには利用できません(ハッシュ値が毎回異なるため) 構成図 本エントリの構成図です。 Cl

              RSS非対応なページの更新状況をLambda+DynamoDBで毎日確認してみた | DevelopersIO
            • 安価かつスケーラブルなサーバレスバックエンドプラットフォーム ~KoyebとNeonのススメ~

              KoyebとNeonの紹介記事です。 最新のサーバレスプラットフォームを利用して、スケーラブルなインフラを手軽に、そして安価に構築することができます。 Koyebって何? Koyebとは、WebアプリケーションやAPIのデプロイに対応したサーバレスプラットフォームです。 開発者に寄り添ったサーバレスプラットフォームと銘打たれている通り、デプロイに伴う煩雑な作業が極限まで削ぎ落とされています。 Koyebのいいところ 無料でデプロイができる Herokuの無料プランが廃止されて久しいですが、Koyebでは1サービスまでのデプロイが無料でできます。 GitHubとの連携が容易 Koyebでは、デプロイの方法が3種類用意されています。 GitHub連携し、Koyeb上のランタイムで実行する GitHub連携し、リポジトリ中のDockerfileを実行する Docker Hubなどのレジストリから

                安価かつスケーラブルなサーバレスバックエンドプラットフォーム ~KoyebとNeonのススメ~
              • Moving from DynamoDB to tiered storage with MySQL+S3

                Originally we implemented a feature to persist an event-stream into DynamoDB to allow customers to retrieve them. This proved effective, serving as a strong use case for a key/value storage, yet the drawback was its high cost. Moving to provisioned billing-mode reduced cost by ~50%, but that was not going to be sustainable as we scaled to more customers. We also kept multiplying the cost each time

                  Moving from DynamoDB to tiered storage with MySQL+S3
                • Zendesk、DynamoDBからMySQLとS3へ移行し、コストを80%以上削減

                  垂直スケーラビリティと効果的なテストによる金融取引システムのパフォーマンスと効率の最大化 Peter Lawrey氏はJavaチャンピオンであり、Chronicle SoftwareのCEOとして、開発者を鼓舞してソリューションのクラフトマンシップを高めることに情熱を注いでいる。経験豊富なソフトウェアエンジニアとして、Lawrey氏はソフトウェア開発プロセスにおけるシンプルさ、パフォーマンス、創造性、革新性を奨励することに努めている。

                    Zendesk、DynamoDBからMySQLとS3へ移行し、コストを80%以上削減
                  • Asynchronous over Synchronous / 同期という思い込み�世界は非同期で構成されている

                    サーバーレスサービスである API Gateway や Lambda を使って 同期的な REST API を構築されている方は多いのではないでしょうか。サーバーレスで REST APIをつくると、リクエストの分だけの課金であったり、デフォルトの可用性が与えられたりメリットは大きいです。ただし、サーバーレスの真価は非同期アーキテクチャにあります。このセッションではさまざまなサーバーレスの非同期パターンを紹介するとともに、実際の顧客事例においてどのようなユースケースで非同期系サーバーレスが利用されているかをご紹介いたします。

                      Asynchronous over Synchronous / 同期という思い込み�世界は非同期で構成されている
                    • 本番環境でAmplifyを3年くらい使ってみている弊社環境のご紹介 - Qiita

                      Amplify Boost Up #04 Amplify Japan User Group さん主催の Amplify Boost Up の4回目に登壇したので、その内容について補足しつつまとめてみました。 資料は以下の SpeakerDeck で共有しておりますので、ご確認ください Amplify を使っている理由 我々開発運用チームは社外の方も含めて5名です。この人数で動画配信サービスの「hod」と番組関連グッズを販売している「HTBオンラインショップ」の2つのオンライン事業のシステムを担当しています。やらないことを少しでも増やすために、サーバレス構成を基本としており、その流れでAmplifyを活用しています。 だいぶ、省略した部分はありますが、以下にアーキテクチャを載せます。 フロントエンドのデプロイ先としては Amplify Hosting を利用しており、フロントエンドはサービス

                        本番環境でAmplifyを3年くらい使ってみている弊社環境のご紹介 - Qiita
                      • DynamoDBでできないこと

                        この記事について 本記事は、筆者が普段AWSの各種サービスを使って感じた感想・気づきをもとに、クラウドアーキの設計やサービスのより良い使い方Tipsを考察するシリーズです。 第二弾も第一弾に引き続きDynamoDBについてです。 DynamoDBはkey-value型のNoSQLであり、従来よく使われていたRDBとは異なるDB特性・クエリ特性を持っています。 そのためRDBを設計するときと同じようなノリでスキーマ設計・テーブル設計を行うと、後から「この操作をやらせるならDynamoDBじゃないほうが良かったんじゃないか?」ということが発覚しがちです。 本記事では筆者が遭遇した「DynamoDBでやらせてみたら苦労した・できなくて設計変更を強いられた」というユースケースをまとめることで、DynamoDBのクエリ特性や適性を考察することを目指します。 使用する環境・バージョン 2024/1/1

                          DynamoDBでできないこと
                        • pytestとmotoを使ってPynamoDBの単体テストを実行してみる | DevelopersIO

                          はじめに データアナリティクス事業本部のkobayashiです。 PythonでDynamoDBを操作する際にboto3を使っても良いのですが、Object-Document Mapper(ODM)として大変使いやすいPynamoDBがあります。今回はPynamoDBで記述したコードの単体テストをモックフレームワークのmotoを使って行ってみたいと思います。 Welcome to PynamoDB’s documentation! — PynamoDB 5.5.1 documentation getmoto/moto: A library that allows you to easily mock out tests based on AWS infrastructure. PynamoDBとは PynamoDBはDynamoDB用のODMになり、DynamoDBの 様々な処理を簡単にに

                            pytestとmotoを使ってPynamoDBの単体テストを実行してみる | DevelopersIO
                          • ドメイン駆動設計を実践して自分の LINE 環境をリファクタリングしてみた | DevelopersIO

                            手元にある LINE ボット環境のソースファイルが 1 ファイルにも関わらず 350 行超えたので、最近勉強したドメイン駆動設計を実践も兼ねてリファクタリングしてみました。 こんにちは、高崎@アノテーションです。 はじめに 過去の拙記事にも何度か登場している自身の LINE ボットの環境ですが、cdk のスタック定義が約 100 行、Lambda のソースが約 370 行と注ぎ足し注ぎ足しでだんだんと大きくなってきました。 一方、業務で使用している環境はドメイン駆動モデルを元に設計・構築を行っているものが多いため、これらの環境やドメイン駆動設計を学んだことを実践すべく、この LINE ボット環境をリファクタリングしてみました。 この記事の対象 筆者と同じく「ドメイン駆動設計を始めたばかりの方」向けと考えております。 今回の内容は筆者個人が参考文献を元に記載した記事で、ドメイン駆動設計の正確

                              ドメイン駆動設計を実践して自分の LINE 環境をリファクタリングしてみた | DevelopersIO
                            • Unlocking performance, scalability, and cost-efficiency of Zomato’s Billing Platform by switching from TiDB to DynamoDB | Amazon Web Services

                              AWS Database Blog Unlocking performance, scalability, and cost-efficiency of Zomato’s Billing Platform by switching from TiDB to DynamoDB This post is co-authored with Neha Gupta & Kanica Mandhania from Zomato. Zomato, an India-based restaurant aggregator, food delivery, and dining-out company, operates in over 1,000 cities and lists more than 350,000 restaurants. Since its inception in 2008, Zoma

                                Unlocking performance, scalability, and cost-efficiency of Zomato’s Billing Platform by switching from TiDB to DynamoDB | Amazon Web Services
                              • Amazon DynamoDBのキャパシティユニット消費パターンを整理してみた - Qiita

                                AWS DVA(AWS Certified Developer - Associate)試験の勉強をするなかで、Amazon DynamoDBのキャパシティユニットの消費パターンがややこしかったので整理してみます。 というか公式ドキュメントがテキストの羅列で非常に見づらかったため、表形式にまとめました。 公式ドキュメント 読み込みリクエストの場合 整合性レベルが上がるたび、ユニット数が倍になっていくイメージです。 リクエストの種類 基準サイズ 必要ユニット数

                                  Amazon DynamoDBのキャパシティユニット消費パターンを整理してみた - Qiita
                                • Idempotency-Keyヘッダによるマイクロサービスの冪等性の担保 - エムスリーテックブログ

                                  こちらはエムスリー Advent Calendar 2023の15日目の記事です。 デジスマチームの田口です。 去年のアドベントカレンダーでイベント駆動アーキテクチャの記事を書きましたが、ありがたいことにデジスマ診療のサービスとしての成長も著しく、開発も一層活発になっています。 去年と比較してどれくらいスケールしたかはCTOでありデジスマPdMでもある山崎さんがpmconf 2023で発表した資料にもあるので、興味がある方は是非ご覧ください。 speakerdeck.com 本記事では去年の記事でも少し触れた「冪等性」について、デジスマチームでの考え方・実装についてまとめます。 なぜ冪等性が重要か Idempotency-Key ヘッダ デジスマでの実装 おわりに We are hiring!! なぜ冪等性が重要か デジスマ診療(以降デジスマ)はQRコードによるチェックインや自動後払い、オ

                                    Idempotency-Keyヘッダによるマイクロサービスの冪等性の担保 - エムスリーテックブログ
                                  • DynamoDB のスケーリング: パーティション、ホットキー、Split for heat がパフォーマンスに与える影響(第 1 部: ローディング) | Amazon Web Services

                                    Amazon Web Services ブログ DynamoDB のスケーリング: パーティション、ホットキー、Split for heat がパフォーマンスに与える影響(第 1 部: ローディング) Amazon DynamoDB の一般的な原則は、高いカーディナリティのパーティションキーを選択することです。しかし、なぜそのようにすべきなのか、そしてそうしなかった場合の影響は何か?お客様のユースケースをもとに、この疑問に深く迫り、異なるパーティションキーの設計とテーブルの設定を使用して DynamoDB のロードおよびクエリのパフォーマンスを調査します。 各実験の後、生成されたパフォーマンスグラフを分析し、私たちが観察したパターンを説明し、繰り返しの改善イテレーションを通じて、DynamoDB の内部構造の基礎を紹介し、パフォーマンスの高いアプリケーションを構築するためのベストプラクティ

                                      DynamoDB のスケーリング: パーティション、ホットキー、Split for heat がパフォーマンスに与える影響(第 1 部: ローディング) | Amazon Web Services
                                    • [レポート] Amazon DynamoDB データモデリングのコアコンセプト #AWSreInvent #DAT329 | DevelopersIO

                                      re:Invent 2023 で行われた BreakOut セッションData modeling core concepts for Amazon DynamoDB (DAT329)のセッションレポートです。 概要 Developers experienced with Amazon DynamoDB can join this session to learn the core concepts of DynamoDB data modeling. Explore best practices for common access patterns used by DynamoDB customers for applications that need consistent, fast performance at any scale. Learn best practices and

                                        [レポート] Amazon DynamoDB データモデリングのコアコンセプト #AWSreInvent #DAT329 | DevelopersIO
                                      • AWSがサーバーレスDBの新機能、シャーディングの自動化など実装

                                        米Amazon Web Services(アマゾン・ウェブ・サービス、AWS)は2023年11月27日(米国時間)、年次イベント「AWS re:Invent 2023」の初日の基調講演で、サーバーレスのデータベース(DB)に関する新機能を3種類発表した。独自開発の新しいハイパーバイザー「Caspian」が使われている。 27日に講演したのは、AWSのPeter DeSantis(ピーター・ディサンティス)シニア・バイス・プレジデント(SVP)だ。ディサンティスSVPは例年、独自ハードウエアについて講演しているが、今年はサーバーレスのDBに関連する新機能と、それを実現するためにAWSが独自に開発した新技術について多くの時間を割いて解説した。

                                          AWSがサーバーレスDBの新機能、シャーディングの自動化など実装
                                        • Rustによる並列処理でDynamoDBへのデータ投入を20倍高速化してみた

                                          はじめに 言語として高速だと謳われているRust。そのRustを使用してDynamoDBへのデータ登録処理を直列処理と複数の並列アルゴリズム処理で速度比較してみました。 DynamoDB DynamoDBは公式で以下のように謳われています。 Amazon DynamoDB の応答時間は 1 桁ミリ秒で、最も要求の厳しいアプリケーションでも一貫してこのパフォーマンスを発揮できます。例を挙げると、2022 年の Amazon プライムデーに Amazon DynamoDB は、1 桁ミリ秒のパフォーマンスで、数兆回の API コールに対して 1 秒あたり 1 億 520 万件のリクエストを確実に処理しました。 上記だけみると爆速のようにも思われますが、読み込みと書き込み双方に以下の制限があります。 BatchWriteItemのデータ投入は1回で25リクエストまで、Queryのデータ取得は1回

                                            Rustによる並列処理でDynamoDBへのデータ投入を20倍高速化してみた
                                          • DynamoDBのベストプラクティスを技術的詳細から理解する

                                            こんにちは。 株式会社CHILLNNという京都のスタートアップにてCTOを務めております永田と申します。 弊社では宿泊施設様向けに宿泊施設の予約管理用のSaaSを提供しており、現時点で1000近くの施設様にご利用いただいています。 現在、これまでに溜め込んだ日本最大級の宿泊コンテンツの検索エンジンを構築しており、その過程でさまざまなデータベースを探索しています。 本記事では、AWSのKVSであるDynamoDBを題材に、公式ドキュメントに書かれているキー設計のベストプラクティスの背景を理解することを目的とします。 なお、本記事の執筆にあたって、こちらの動画を大変参考にさせていただきました。 DynamoDBとは DynamoDBとは、AWSで利用できる、あらゆる規模に対応する高速で柔軟なNoSQLデータベースサービスです。 DynamoDBが登場した背景は、アプリケーションの大規模化です。

                                              DynamoDBのベストプラクティスを技術的詳細から理解する
                                            • DynamoDBのIncremental Exportの仕様を理解する #LayerXテックアドカレ - LayerX エンジニアブログ

                                              こんにちは。最近NuPhy Air75 V2を衝動買いしたのですが、届いた直後にNuPhy Air60 V2が発売され、購入したい衝動を抑えるのに必死な@civitaspoです。バクラク事業部Platform Engineering部DevOpsグループとバクラク事業部Data &ML部Dataグループに所属しています。 この記事は、LayerXテックアドカレ2023の7日目の記事です。 昨日は@yuya-takeyamaが「Microsoft Graph API へのキーレス認証 (GitHub Actions編)」を書いてくれました。 次回はサクちゃんさんがエモい記事を書いてくれそうです。 2023年9月26日にDynamoDBがIncremental Exportをサポートしました。このIncremental Exportは「直近35日以内における特定期間の変更をChange Dat

                                                DynamoDBのIncremental Exportの仕様を理解する #LayerXテックアドカレ - LayerX エンジニアブログ
                                              • Java × サーバーレスは SaaS バックエンドとして通用するのか ? ~スタートアップの実戦記録~ - builders.flash☆ - 変化を求めるデベロッパーを応援するウェブマガジン | AWS

                                                2021 年秋より一人目の従業員としてスタートアップ企業、ConorisTechnologies に参画し開発を開始しました。以下は当時の情報をもとに判断した内容となっております。 まず、事業自体の見通しとして市場が存在するかどうかわからないという前提がありました。セキュリティチェックシート支援業務というソリューション自体をお客さまに買っていただけるのかわからない、あるいはビジネスが成立するかは私見としては五分五分というのが率直な思いでした。しかし、CEO の予見として、時間はかかるもののやがては市場に見出されるであろうという可能性についても感じていました。このタイミングでエンジニアとして考えなければいけないことは IT リソースの利用費用です。 特に初期段階でユーザーからさほど利用されていない状況であっても一定の利用費用が常にかかり続けるというコスト構造はスタートアップ企業にとって手痛い

                                                  Java × サーバーレスは SaaS バックエンドとして通用するのか ? ~スタートアップの実戦記録~ - builders.flash☆ - 変化を求めるデベロッパーを応援するウェブマガジン | AWS
                                                • Announcing incremental export to S3 for Amazon DynamoDB

                                                  Today, Amazon DynamoDB announces the general availability of incremental export to S3, that allows you to export only the data that has changed within a specified time interval. With incremental exports, you can now export data that was inserted, updated or deleted, in small increments. You can export changed data ranging from a few megabytes to terabytes with a few clicks in the AWS Management Co

                                                    Announcing incremental export to S3 for Amazon DynamoDB
                                                  • いいねとその通知機能をDynamoDBで設計したら思ったよりムズい - エムスリーテックブログ

                                                    【Unit4 ブログリレー4日目】 こんにちは、エムスリーエンジニアリンググループの福林 (@fukubaya) です。 今回は、SNSではごく一般的ないいねとその通知機能をDynamoDBを利用して実装したら思ったより大変だったので、その詳細をご紹介します。 キャナルシティ劇場は、福岡県福岡市博多区の複合商業施設「キャナルシティ博多」のシアタービル最上階に位置する劇場。本文には特に関係ありません。 m3ラウンジ m3ラウンジのいいねとその通知の要件 RDBで実装したらどうなるか いいね機能 通知機能 DynamoDBで実装する いいね機能 通知機能 いいねする いいねを取り消す 通知を表示する 未読の通知の取得 未読の通知数 未読の通知を既読にする テーブル設計むずい PKとSKに何を選ぶか LSIは途中から作れない DynamoDBをローカルで動かして設計する まとめ We are h

                                                      いいねとその通知機能をDynamoDBで設計したら思ったよりムズい - エムスリーテックブログ
                                                    • Azure Cosmos DB から Amazon DynamoDB に移行する際に想定される相違点 | Amazon Web Services

                                                      Amazon Web Services ブログ Azure Cosmos DB から Amazon DynamoDB に移行する際に想定される相違点 (本記事は 2023/01/27に投稿された Differences to expect when migrating from Azure Cosmos DB to Amazon DynamoDB を翻訳した記事です。) Azure Cosmos DBのワークロードをAmazon DynamoDBに移行することを検討しているお客様から、どのような違いが想定されるのかと聞かれることがあります。この記事では、Azure Cosmos DBからDynamoDBへの移行時に想定される相違点と、それに備えるための計画について説明します。DynamoDBは、一般的なアクセスパターン (通常は大量のデータの保存と取得) に合わせて最適化された、サーバーレ

                                                        Azure Cosmos DB から Amazon DynamoDB に移行する際に想定される相違点 | Amazon Web Services
                                                      • Lambda + DynamoDB + LangChainで外部情報に対応したサーバレスチャットボットを作ってみる - NRIネットコムBlog

                                                        Lambda + DynamoDB + LangChainを組み合わせて外部情報に対応したチャットボットを作ってみました。 構成 Lambda Dockerfile requirements.txt lambda_function.py OpenAI Functions Agent 会話履歴の保持 外部情報の参照 DynamoDB 動作確認 まとめ 構成 Lambda LangChainのパッケージが250MBを超えてしまうので、コンテナイメージからLambda関数を作成するようにします。 docs.aws.amazon.com Dockerfile FROM public.ecr.aws/lambda/python:3.10 # Copy requirements.txt COPY requirements.txt ${LAMBDA_TASK_ROOT} # Copy function

                                                          Lambda + DynamoDB + LangChainで外部情報に対応したサーバレスチャットボットを作ってみる - NRIネットコムBlog
                                                        • DynamoDBとAmazon Redshiftなど複数のデータベースを、1つのNewSQL「TiDB」で統合に成功[PR]

                                                          DynamoDBとAmazon Redshiftなど複数のデータベースを、1つのNewSQL「TiDB」で統合に成功[PR] 現在、企業で使われているデータベースの主な役割は、会計や経理、受発注管理、製造管理など、社内業務を適切に管理することで経営を支援するためにデータを記録、分析するための基盤でしょう。 しかしそれに加えて現在急拡大しているのが、顧客との取引やコミュニケーションの履歴やアンケート結果、ソーシャルメディアのデータなど、さまざまな種類の膨大なデータを蓄積し分析することで、適切かつ効果的な顧客や顧客候補とのエンゲージメントを実現するためのデータの蓄積と分析基盤としての役割です。 データを活用して企業と顧客とのエンゲージメントを高めるサービス「MicoCloud」を提供するMicoworks社は、まさにこうした新しいデータベース基盤の実現と利用によって急成長している企業の1つです

                                                            DynamoDBとAmazon Redshiftなど複数のデータベースを、1つのNewSQL「TiDB」で統合に成功[PR]
                                                          • 論文DynamoDB 2022に関するいくつかのメモ

                                                            PingCAPはエンタープライズ向けのソフトウェアサービスプロバイダーとして2015年に設立され、オープンソースでクラウドネイティブなワンストップのデータベースソリューションを提供することにコミットしています。PingCAPの代表的なプロジェクトであるTiDBは、オープンソースの分散型ハイブリッド・トランザクション/分析処理(HTAP)データベースで、水平方向の拡張性、強力な一貫性、MySQLとの互換性を備えた高い可用性を特徴としています。 ※このブログは2022年8月12日に公開された英語ブログ「Some Notes on the DynamoDB 2022 Paper」の拙訳です。 著者: Ed Huang (PingCAP共同創設者兼CTO) 編集者: Fendy Feng, Tom Dewan DynamoDBが論文を発表してから長い時間が経ちました。数日前、私はその新しく出版され

                                                              論文DynamoDB 2022に関するいくつかのメモ
                                                            • DynamoDB Shell 使ってるか。これいいぞぉ - Qiita

                                                              DynamoDB Shell とは DynamoDB Shell(ddbsh) とは、DynamoDB を初めて使うユーザにとって使い慣れた SQL のようなコマンドを実行することができる CLI です。 ddbsh のクエリ言語は SQL から派生したもので、DynamoDB 固有の拡張機能なんかを持っています。 やってみよう まずは、ddbsh の install から始めます。 brew からひけるようなので必要なものを install していきます。 ddbsh を使うと対象とする aws アカウント内にある DynamoDB へ接続することと、ローカル DynamoDB を使用したければそちらへの接続に切り替えることもできる。 特定の AWS 環境内の DynamoDB へ接続する AWS CLI の設定ファイル内に記載されているデフォルトのリージョン、AWS アクセスキー、AW

                                                                DynamoDB Shell 使ってるか。これいいぞぉ - Qiita
                                                              • DynamoDBはバッチ処理よりストリーム処理との相性が良いという話

                                                                テーブル内に格納されているメールアドレスのデータを使って、1日ごと、1週間ごとに全ユーザーに対してメールを送信したいというバッチがあったとしましょう。 とある1人のユーザーのメールアドレスを調べること自体はQuery操作で可能ですが、バッチ処理の性質上それを全ユーザーに対してやると考えると、実質的にはテーブル全Scanと同等の処理が要求されてしまいます。 システムを利用しているユーザーから登録情報の参照・変更を随時受け付けるたびに、このテーブルへのCRUD処理が行われます。そのため、このテーブルへの全Scanはユーザー体験を損なう可能性が高いです。 解決策の模索 「とあるテーブルに対してバッチで大量アクセスするのを防ぎたい」という要件に対して、考えられるアプローチを挙げてみます。 リードレプリカの作成 コピーテーブルの作成 リードレプリカの作成 RDSやAuroraの場合は、同じデータを持

                                                                  DynamoDBはバッチ処理よりストリーム処理との相性が良いという話
                                                                • 【JAWS-UG朝会】今更ながら Amazon DynamoDB の論文を真面目に読んでみた

                                                                  2023/06/20のJAWS-UG朝会にて発表した資料。DynamoDBの英語論文を読んで面白かったところを発表

                                                                    【JAWS-UG朝会】今更ながら Amazon DynamoDB の論文を真面目に読んでみた
                                                                  • イラストで理解するDynamoDBのテーブル - Qiita

                                                                    はじめに 概要 DynamoDBのテーブルの用語やテーブルの検索方法がまっっったくわからなかったので、イラストをまじえながらいつでも見返せるように書いてみました。 この記事で得られること DynamoDBのテーブルの基礎概念についてイラストで理解できます。 テーブルの操作はaws cliで行なっていますが、もちろんコンソール画面からもできます。 全体の概要を理解したいので、aws cliのコマンドについては軽く読み流してもらって大丈夫です。 用語 DynamoDBのテーブルには色々な用語があります テーブル パーティションキー ソートキー Item(項目) Attribute(属性) index その他もろもろ… 何を言っているのかよく分かりませんね。 そこで、今回は私たちに馴染みのある「学校」をテーマにイラストを使って解説をしていきます。 みなさんは先生になった気持ちでどうすれば生徒たち

                                                                      イラストで理解するDynamoDBのテーブル - Qiita
                                                                    • AWSアカウント間のDynamoDBテーブルコピーをData PipelineからStep Functions + AWS Backupに変更しました - Uzabase for Engineers

                                                                      NewsPicks SREチームのEdwin Wilsonです。 NewsPicksでは開発環境のテストデータのプロビジョニングを行うツールとしてDatarefreshというものがあります。 このツールは本番環境のデータストアから開発環境のデータストアに対してデータを同期するアプリケーションです。 対象のデータストアは以下となります。 Amazon RDS Amazon DynamoDB Amazon S3 Amazon ElastiCache 個人情報はRDSにのみに存在しており、マスク処理を行った後、同期しています。 DynamoDB ,S3, ElastiCacheには個人情報を存在しないため、開発に必要なデータをそのまま同期しています。 Datarefreshの実行は開発者がいつでもChatopsで行えます。 ChatopsでDatarefreshの実行の仕方 Chatopsで呼び

                                                                        AWSアカウント間のDynamoDBテーブルコピーをData PipelineからStep Functions + AWS Backupに変更しました - Uzabase for Engineers
                                                                      • Amazon DynamoDB におけるシングルテーブル vs マルチテーブル設計 | Amazon Web Services

                                                                        Amazon Web Services ブログ Amazon DynamoDB におけるシングルテーブル vs マルチテーブル設計 この文書は、AWS ヒーローであるAlex DeBrie によるゲスト投稿です。 Amazon DynamoDB について学ぶ人にとって、シングルテーブル設計という考え方は、最も心を揺さぶるコンセプトの1つです。DynamoDBのテーブルは、エンティティごとにテーブルを持つというリレーショナルデータベースのような概念ではありません。多くの場合、1つのテーブルに複数の異なるエンティティを含みます。 DynamoDBのシングルテーブルに関するデザインパターンについては、DynamoDBのデベロッパーガイドを読む、re:Inventのトークやその他のビデオを見る、私が執筆した本をチェックするなどで理解することができます。シングルテーブル設計の賛否両論に特に焦点を当て

                                                                          Amazon DynamoDB におけるシングルテーブル vs マルチテーブル設計 | Amazon Web Services
                                                                        • AWS CDKを始めるハンズオン ─ IaCの第一歩をAWS LambdaとDynamoDBのシンプルな仕組みで学ぶ|ハイクラス転職・求人情報サイト AMBI(アンビ)

                                                                          AWS CDKを始めるハンズオン ─ IaCの第一歩をAWS LambdaとDynamoDBのシンプルな仕組みで学ぶ アマゾン ウェブ サービスが提供するIaC(Infrastructure as Code)の開発キットがAWS CDK(AWS Cloud Development Kit)です。本記事はAWS CDK入門者向けのチュートリアルとして、AWSでソリューションアーキテクトを務める吉川幸弘(@WinterYukky)さんによる、AWS Lambda関数でDynamoDBテーブルをスキャンするシンプルなハンズオンです。 みなさん、こんにちは。アマゾン ウェブ サービス ジャパン合同会社でソリューションアーキテクトを務めている吉川幸弘と申します。私は普段、西日本のお客様を中心に技術的なご支援や課題解決などをしています。 さっそくですが、みなさんはInfrastructure as C

                                                                            AWS CDKを始めるハンズオン ─ IaCの第一歩をAWS LambdaとDynamoDBのシンプルな仕組みで学ぶ|ハイクラス転職・求人情報サイト AMBI(アンビ)
                                                                          • ChatGPT API と AWS Amplify で会話履歴と文脈を読んで回答する LINE ボット を作る

                                                                            3/18 から GPT-4 API waitlist に登録しているユーザー向けに GPT-4 API の β 版が利用可能になりました。 GPT-4 API を使用した LINE チャットボットの作り方については以下記事を参照ください。 https://zenn.dev/zuma_lab/articles/gpt-4-line-chatbot こんにちわ。 ZUMA です。 3/15 に OpenAI から GPT-4 が公開され、Google からも PaLM が発表されたり毎日が目まぐるしいですね。 OpenAI から現在公開されている最新のチャットモデル API は gpt-3.5-turbo です。 さて、今回は gpt-3.5-turbo モデル を使って、会話履歴と文脈を読んで回答してくれる ChatGPT の LINE チャットボットを作ってみました。 会話の文脈を読むのは

                                                                              ChatGPT API と AWS Amplify で会話履歴と文脈を読んで回答する LINE ボット を作る
                                                                            • Real-time fraud detection using AWS serverless and machine learning services | Amazon Web Services

                                                                              AWS Machine Learning Blog Real-time fraud detection using AWS serverless and machine learning services Online fraud has a widespread impact on businesses and requires an effective end-to-end strategy to detect and prevent new account fraud and account takeovers, and stop suspicious payment transactions. Detecting fraud closer to the time of fraud occurrence is key to the success of a fraud detecti

                                                                                Real-time fraud detection using AWS serverless and machine learning services | Amazon Web Services
                                                                              • 【AWS】SAA資格取得のための学習用備忘録(データベースサービス) - ポンサラの逆襲

                                                                                メモ 以前取得したAWSの資格「クラウドプラクティショナー」に続き「ソリューションアーキテクトアソシエイト(SAA-C03)」取得を目指して勉強中! いつも何か勉強するときは基本的に書きながら覚えるのでここでアウトプットします。 有益な情報かどうかは不明(笑) AWSのデータベースサービス システムの構成要素としてデータベースはなくてはならない存在。 1998年以降、データベースにも複数のアーキテクチャやデータモデルが登場しており、システムの特徴に応じて最適なDBを選択することが重要なポイントとなってきている。 AWSではデータベースサービスとして8つのサービスを提供している。 ソリューションアーキテクトとしてそれぞれのサービスの特徴を理解し、最適なサービスを選択する力を身につける。 データベースの2大アーキテクチャ AWSが提供するデータベースサービスは以下の9つ。 ・RDS ・Reds

                                                                                  【AWS】SAA資格取得のための学習用備忘録(データベースサービス) - ポンサラの逆襲
                                                                                • AWS の舞台裏 – DynamoDB の UpdateTable の高速化 | Amazon Web Services

                                                                                  Amazon Web Services ブログ AWS の舞台裏 – DynamoDB の UpdateTable の高速化 AWS ではイノベーションのペースについてよく語られます。そしてその結果はこのブログ、AWS 新着情報ページや、毎週開催される AWS on Air ストリームで共有しています。今日は、舞台裏で起こっているイノベーションといった、少し変わった種類のイノベーションについてお話したいと思います。 AWS のお客様は、それぞれさまざまなサービスを組み合わせて利用しており、それらのサービスを独自の方法で使っています。すべてのサービスが計測および監視され、サービスの設計、構築、実行、スケーリング、進展を担当するチームは、得られるすべてのメトリクスに常に注意を払っています。このメトリクスは、サービスがどのように使用されているか、負荷がかかった状態でどのように機能するかについての

                                                                                    AWS の舞台裏 – DynamoDB の UpdateTable の高速化 | Amazon Web Services