IT博客汇
  • 首页
  • 精华
  • 技术
  • 设计
  • 资讯
  • 扯淡
  • 权利声明
  • 登录 注册

    常见搜索引擎蜘蛛用户代理(User Agent)列表

    Zac发表于 2023-12-23 15:10:55
    love 0

    说明:最近在修订《SEO实战密码》第5版,主要会增加人工智能在SEO领域应用的内容。为了缩减篇幅(第4版已经达到了可怕的555页,不大用户友好啊),我会把一些资料性的内容删减掉,不太变化的(如搜索引擎排名因素调查、SEO观念及原则整章)做成pdf文件供读者下载,经常变化的(如百度算法更新和Google算法更新列表,以及这个常见蜘蛛用户代理列表)做成页面,并保持更新,读者可以随时看到最新信息。

    下面列出常见搜索引擎蜘蛛的当前版本:

    (1)百度PC蜘蛛

    Mozilla/5.0(compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

    或

    Mozilla/5.0(compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider. html)
    从名称看是用于渲染的蜘蛛。

    (2)百度移动蜘蛛

    Mozilla/5.0(Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0;+http://www. baidu.com/ search/spider.html)

    或

    Mozilla/5.0 (iPhone;CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko)Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html) 

    (3)Google PC蜘蛛

    Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

    或

    Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Googlebot/2.1; +http://www.google.com/bot.html) Chrome/W.X.Y.Z Safari/537.36

    其中W.X.Y.Z是Chrome浏览器版本号。Google蜘蛛从2019年开始使用最新版本的Chrome引擎抓取、渲染页面,所以这个版本号会保持更新。

    (4)Google移动蜘蛛

    Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

    (5)Bing PC蜘蛛

    Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)

    或

    Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm) Chrome/W.X.Y.Z Safari/537.36 Edg/W.X.Y.Z

    (6)Bing移动蜘蛛

    Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/W.X.Y.Z Mobile Safari/537.36 Edg/W.X.Y.Z (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)

    其中W.X.Y.Z是Chrome和Edge浏览器版本号。和Google一样,Bing也使用最新版本的Microsoft Edge引擎抓取、渲染页面。Edge和Chrome一样,也使用Chromium内核,所以Bing蜘蛛用户代理字符串里还包含一个Chrome版本号。

    (7)搜狗蜘蛛

    Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)

    The post 常见搜索引擎蜘蛛用户代理(User Agent)列表 first appeared on SEO每天一贴.


沪ICP备19023445号-2号
友情链接