皆の本棚にあるタグ「クローラ」の本

クローラ
クローラ(Crawler)とは、ウェブ上の文書や画像などを周期的に取得し、自動的にデータベース化するプログラムである。「ボット(Bot)」、「スパイダー」、「ロボット」などとも呼ばれる。 主に検索エンジンのデータベース、インデックス作成に用いられているほか、統計調査などの目的にも利用される。近年では電子メールアドレス収集業者などもクローラを利用して、スパムの送信効率を上げている。 一般にクローラは、既知のHTML文書の新しいコピーを要求し、文書中に含まれるリンクをたどり別の文書を収集するという動作を繰り返す。新しい文書を見つけた場合はデータベースに登録する。また、既知のファイルが存在しないことを検出した場合はデータベースから削除する。 主なクローラ 検索エンジンのもの グーグルボット(Googlebot、Google) bingbot(マイクロソフト・bing) Baiduspider(百度) Yetibot(ネイバー)インターネット利用者用ソフトウェア ダウンロードNinja(イーフロンティア、ダウンロード用ソフト(ダウンローダー)) GetHTMLW - ダウンローダー Wget - ダウンローダー過去 Yahoo! Slurp(Yahoo!) Slurp(Inktomi) InfoSeek Sidewinder(インフォシーク) Scooter(AltaVista) 関連項目 スパム (メール) - 検索エンジンスパム メールアドレス検索ロボット インターネットボット ウェブスクレイピング Robots Exclusion Standard 岡崎市立中央図書館事件。