タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

Cloud Dataflowに関するdaikixのブックマーク (1)

  • Cloud Dataflowで複数リソースを読み込む方法

    こんにちは。GMOアドマーケティングのN.Sです。 弊社ではビッグデータを入出力する際に一部Cloud Dataflow(以下Dataflow)を使っています。 読み込むファイルが2つあった場合、それらをインプットする方法が分かるまで結構苦戦したため、備忘録的に記載します。 環境 CloudFunctions version: 1.0.0 Dataflow SDK version: 2.4.0 ドキュメント Dataflowバージョン2.X以上はApacheBeamを基にしているため、そちらのドキュメントを読む。 apache beamの副入力に関するドキュメント Side Inputsの項目を読むと、副入力をPCollectionViewに変換し、withSideInputsメソッドを使って同一パイプラインにマージするようです。 処理の流れ 今回はサンプルとして、生徒のテスト結果から、合

    Cloud Dataflowで複数リソースを読み込む方法
  • 1