タグ

pythonとmultiprocessingに関するbraitomのブックマーク (1)

  • Python の超お手軽のネットワーク分散コンピューティングライブラリSCOOP

    SCOOPとは ssh とPython の設定を適切にするだけで、簡単にネットワーク間での分散処理が実行できる。 ネットワーク分散に対応していないライブラリに便利。 関数の処理を分散して行い、返り値をまとめて返してくれる。 Core 数に応じた Worker 数の設定が可能 Docker との相性が抜群 基動作 python 標準の map 関数の使い方で ssh で繋いだ先(ノード)でも分散処理してくれる。multiprocessing.Pool.map のネットワーク処理に対応した版。 map 関数に配列を渡すと配列の各要素を引数に関数を実行する。その際の各処理を各ノードでマルチプロセスで実行して、ホストPCに変数を返す。 通信には pickle 化された情報を送信している。 ssh で接続先の通信用ポートを開けて、ポートの情報をホストに送って通信。--tunnelオプションを使えば

    Python の超お手軽のネットワーク分散コンピューティングライブラリSCOOP
    braitom
    braitom 2017/02/14
    ネットワーク間で分散処理ができるPythonライブラリSCOOPについて。簡単に使い方も書かれている。
  • 1