[Python] スクレイピング in AWS Lambda - QiitaJavascriptありのサイトに対応するため、下記のスタックでスクレイピングする環境を整える Phantomjs Selenium 必要ライブラリ ローカル実行 pip install python-lambda-local デプロイ pip install lambda-uploader サクッと試したい方は下記のリポジトリで https://github.com/akichim21/python_scraping_in_lambda 実行スクリプト selenium(driver: phantomjs)でjs実行済みのhtmlを生成して、タイトルを抜き出すということをやってます。最後にclose(), quit()してphantomjsをkillするだけのスクリプト。 #!/usr/bin/env python import time # for sleep import os #
![[Python] スクレイピング in AWS Lambda - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/cae280587ba72009d86f27d34b4473c58715c45a/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-9f5428127621718a910c8b63951390ad.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTkxNiZoPTMzNiZ0eHQ9JTVCUHl0aG9uJTVEJTIwJUUzJTgyJUI5JUUzJTgyJUFGJUUzJTgzJUFDJUUzJTgyJUE0JUUzJTgzJTk0JUUzJTgzJUIzJUUzJTgyJUIwJTIwaW4lMjBBV1MlMjBMYW1iZGEmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT01NiZ0eHQtY2xpcD1lbGxpcHNpcyZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWVhYWY4YTlhOTViYzVmZDY0YWFhYmJmNTVmZjI3ZDQz%26mark-x%3D142%26mark-y%3D112%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTYxNiZ0eHQ9JTQwYWtpY2hpbTIxJnR4dC1jb2xvcj0lMjMyMTIxMjEmdHh0LWZvbnQ9SGlyYWdpbm8lMjBTYW5zJTIwVzYmdHh0LXNpemU9MzYmdHh0LWFsaWduPWxlZnQlMkN0b3Amcz1jYjgwYWVjOWUzYzUxOTNmY2M1YTk0MTQ1MmRkNWQ5NA%26blend-x%3D142%26blend-y%3D491%26blend-mode%3Dnormal%26s%3Db11d1e30610c1660b610139ad7012c69)
