S3へのファイル転送を高速化する手順 - skymatix Developers Blog

システムエンジニアの椎葉です。 ファイル数が多くなるとファイルの転送に時間がかかってしまいます。 ファイル転送の改善で処理時間やEC2のコストを削減することができます。 今回の例でも30%ほど転送時間＆コストを削減することができているので是非参考にしてみてください。 設定項目 今回改善するために変更する設定は下記の２つです。 項目名 説明 max_concurrent_requests 同時に実行できるリクエストの最大数を制御。この設定により、バケットへの同時アクセスを制御することができる。デフォルト:10 max_queue_size タスクキュー内の最大タスク数を制御。タスクが多くなると速度も速くなるが、比例して多くのメモリが必要になる。デフォルト:1000 設定変更のコマンド 設定を変更する際は下記のコマンドを実行します。 aws configure set default.s3.m

[diveintounlimit]

むかーしの並列DL系アプリを思い出す設定だなぁ。未だに有効なのか。

[for-my-internet-demo]

これ意味あったのか..

[pinkumohikan]

s3 cpするの年に数回だけだけど、一応この設定入れとこうかな