タグ

インフラとデータに関するtakehiko20のブックマーク (2)

  • GCPとAWSのマルチクラウドで構築する、大規模解析サービスのシステム全体像

    大規模解析サービスの構成要素 大規模解析サービスは一般的に、以下の要素から構成されます。 ログ情報等のデータの送信 データの受信 データの保存 保存したデータの解析 解析データの閲覧などができる管理画面の提供 KARTEはユーザのWebアクセスデータをリアルタイムに解析し、アクションまでつなげることができるサービスであり、先ほど説明した5要素は、以下の5種類のコンポーネントによって実現しています。 trackerコンポーネント:エンドユーザで実行されるtracker[1]をエンドユーザに配布するためのコンポーネント trackコンポーネント:エンドユーザからデータを受信するコンポーネント。とくにKARTEでは解析データに基づいてエンドユーザへのアクションを返す役割も持つ dbコンポーネント:解析データなどのさまざまなデータを格納するコンポーネント analyzeコンポーネント:エンドユーザ

    GCPとAWSのマルチクラウドで構築する、大規模解析サービスのシステム全体像
    takehiko20
    takehiko20 2017/09/21
    “大規模解析サービスの例として、自社で開発している「KARTE」におけるシステム構成の全体像について説明をします。”
  • 大規模データ解析サービス実現のために、Google Cloud Platformが果たす役割

    この連載では、最近盛り上がりを見せているGoogle Cloud PlatformGCP)の実践例を、大規模データ解析サービスでの実際の利用例、ノウハウなどを中心に解説していきます。「KARTE」というリアルタイム解析サービスを提供している、PLAIDのエンジニア陣が、KARTEの実現を例にとって説明します。第1回である今回は、大規模データ解析サービスを提供するにあたり、どのようなGCPのサービスが必要となるのか、GCPの果たす役割などを説明します。 大規模データ解析サービスを実現する、とは? 今この文章を書いているMacBookで、Webサイトのアクセスデータを解析するサービスを実現するとしましょう。現在は技術が発展し、少し前に比べたら、PCの処理能力、データの保存領域の大きさは格段に向上しています。また、ものすごく解像度が高い映画を簡単に再生できるようにもなっています。このような環境

    大規模データ解析サービス実現のために、Google Cloud Platformが果たす役割
  • 1