克拉玛依网络推广-什么是搜索引擎蜘蛛?
- 时间:9年前
- 浏览:101次
搜刮引擎蜘蛛是一个自动抓取互联网上网页内容的顺序,每一个搜刮引擎都有本身的蜘蛛。
搜刮引擎蜘蛛也叫搜刮引擎爬虫、搜刮引擎robot。
国内各大搜刮引擎蜘蛛称号:
百度:百度spider
谷歌:googlebot
搜狗:sogou spider
搜搜:Sosospider
360搜刮:360Spider
有道:YodaoBot
雅虎:Yahoo Slurp
必应:msnbot
Msn:msnbot
以上是罕见的搜刮引擎蜘蛛(爬虫),假如你的网站不想让让某些蜘蛛抓取,那末能够经由过程robots.txt来限定爬虫的抓取。