Embulk, an open-source plugin-based parallel bulk data loaderSadayuki Furuhashi
Embulk, an open-source plugin-based parallel bulk data loaderSadayuki Furuhashi
今日(昨日?)は、HTTPリクエストを並列化して大量のURLからのデータ取得を高速化する、というようなことを試していた。 並列化 初めは単純に、個々のHTTPリクエスト(URL)を別々のスレッドで処理すれば、(イメージ的には)総処理時間もO(1)*1に近いものになるのではないかと考えていた。 その考えを反映して書かれたのが以下のコード: 参照: tiny-http[置き場]*2 (require :tiny-http) ; 0.1.7 ;; 引数のurlリストに対して、並列的にHTTPリクエストを行う関数 (defun parallel-http-request (urls) (let ((threads (loop FOR url IN urls COLLECT (sb-thread:make-thread ; スレッド作成 (lambda () (tiny-http:request u
Contents Introducing TPL Structured Parallelism Overexposing Parallelism A Ray Tracer Example Dynamic Work Distribution Aggregation Fork-Join Parallelism Tasks and Futures Replicable Tasks The Task Manager Multi-processor machines are now becoming standard while the speed increases of single processors have slowed down. The key to performance improvements is therefore to run a program on multiple
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く