Googlebot
GooglebotはGoogleのサーチエンジンで用いる検索可能なインデックスを作成するためにウェブ上からドキュメントを収集する。Googleはこの巡回プログラムをウェブ上に置く事により、世界中の新聞社やテレビ局の情報を収集し記事を集めることが可能である。そして集めた記事をコンピューター上のプログラムに従って信用度や重要度によってランキングする。しかしながらこのアルゴリズムは企業秘密で公開されていない。
なお、Googlebotには一般的なPC用サイト、スマートフォン用サイトの情報収集用のものの他に、携帯電話向けサイト情報収集を目的とする「Googlebot-Mobile」などが存在する。ユーザーエージェント名としてPC用のGooglebotがMozillaを名乗るのに対し、Googlebot-MobileはNokia 6820やN505i・N905i、Samsung SGH-E250など、実際の携帯電話の機種名を名乗るのが大きな違い。他にもニュース用、動画用などが存在する。