開発用プロキシ、「CocProxy」が便利 - プログラマでありたい
CocProxyというツールがあります。名前の通りプロキシサーバーなのですが、用途が開発用です。置換プロキシと言うらしいですが、これがとっても便利です。例えば、クローラーの開発や、HTML,CSS,JavaScriptの修正をする際に、このCocProxyを利用するとダウンロード待ちのイライラが解消され、効率アップ間違いなしです。ローカルのみで完結するのと、Webへのアクセスが必要とするのでは、スピードが数十〜数百倍違います。一回だけでみたら、数百ミリSecの差ですが累積で考えると大きいですよ。 CocProxyとは？ Ruby製のProxyServerです。かつ標準ライブラリで動くことを目標としているので、Rubyの環境があれば、ダウンロードして直ぐに使えます。また基本的には1ファイルで完結するので、導入も簡単です。Ruby1.9をベースにしていますが、Ruby 2.0でも特に問題なく動
法と技術とクローラと私 - 最速転職研究会
こんにちは、趣味や業務で大手ポータルサイトのサービスで稼働しているいくつかのクローラの開発とメンテナンスを行っているmalaです。 さて先日、岡崎市立中央図書館Webサイトをクロールしていた人が逮捕、勾留、実名報道されるという事件がありました。 関連URL: http://librahack.jp/ 電話してみた的な話 http://www.nantoka.com/~kei/diary/?20100622S1 http://blog.rocaz.net/2010/06/945.html http://blog.rocaz.net/2010/07/951.html この件につきまして法的なことはともかくとして技術者視点での私見を書きたいと思います。法的なことは差し置いて書きますが、それは法的なことを軽んじているわけではなく、法律の制定やら運用やらは、その法律によって影響が出る全ての人々の常識
Web crawler - Wikipedia
This article is about the internet bot. For the search engine, see WebCrawler. "Web spider" redirects here. Not to be confused with Spider web. "Spiderbot" redirects here. For the video game, see Arac (video game). Architecture of a Web crawler A Web crawler, sometimes called a spider or spiderbot and often shortened to crawler, is an Internet bot that systematically browses the World Wide Web and
1000人スピーカプロジェクト 第1回カンファレンス - ゆきのぶ日記(2008-01-19)
時間が守れなかったのは最大の失敗。気にする余裕がなかったのが敗因か。 データ型選定の重要性を、良いタイミングで主張したかった。 でも、内容そのもの思ったより良かったみたいだ（もう少し悪評あるかなと思っていた）。まずは一安心。 user:amachang 開催してくれたことと、何より話しやすい雰囲気を作ってくれたことに感謝します！。これからもよろしくです！。 user:yuum 昔 Lisp interpreter を作った自分としては興味深く、もう一度勉強してみようと思いました。でも Haskell の方が変態的と言う紹介だったので、そっちの方にも興味が出てきてしまいましたw user:yoshiori Java で Generics が使えないなんて、もう耐えられないと思います。新しい機能、どんどん使っていきたいですね。問題は私に Java を使う機会があんまりない点なのですけどw us
Strip tags and Javascript from HTML page, leaving only safe tags « Python recipes « ActiveState Code
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 import sgmllib, string class StrippingParser(sgmllib.SGMLParser): # These are the HTML tags that we will leave intact valid_tags = ('b', 'a', 'i', 'br', 'p') from htmlentitydefs import entitydefs # replace entitydefs from sgmllib de
python の crawler 調査 — takanory.net
仕事でちょっと必要だったので、python で動く crawler(Web ページを集めまくるツール)を調べてみました。 まずは Python Cheese Shop で crawler をキーワードに検索。すると以下のものがヒットしました。 HarvestMan 1.4.6 final Multithreaded Offline Browser/Web Crawler Orchid 1.0 Generic Multi Threaded Web Crawler spider.py 0.5 Multithreaded crawling, reporting, and mirroring for Web and FTP webstemmer 0.6.0 A web crawler and HTML layout analyzer SpideyAgent 0.75 Each use
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
http://scrubyt.org/
IBM Developer