タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

seoとprogrammingに関するraituのブックマーク (1)

  • インフォセンター - Yahoo!検索

    クローラー ウェブページの巡回・収集を行うクローラーに関連する説明や、REP(Robots Exclusion Protocol)に従ったrobots.txtの設置方法などの解説。 クローラーによるウェブページの巡回と収集 ロボッツ・エクスクルージョン・プロトコルとクローラー サイト単位、ディレクトリ単位での巡回の拒否設定 1 » 一覧を見る

    raitu
    raitu 2008/09/17
    Yahoo開発者向けデータなど。
  • 1