IT博客汇
  • 首页
  • 精华
  • 技术
  • 设计
  • 资讯
  • 扯淡
  • 权利声明
  • 登录 注册

    Python爬虫进阶二之PySpider框架安装配置

    崔庆才发表于 2016-02-11 13:00:04
    love 0

    关于

    首先,在此附上项目的地址,以及官方文档

    PySpider 官方文档

    安装

    1. pip

    首先确保你已经安装了pip,若没有安装,请参照

    pip安装

    2. phantomjs

    PhantomJS 是一个基于 WebKit 的服务器端 JavaScript API。它全面支持web而不需浏览器支持,其快速、原生支持各种Web标准:DOM 处理、CSS 选择器、JSON、Canvas 和 SVG。 PhantomJS 可以用于页面自动化、网络监测、网页截屏以及无界面测试等。

    安装

    以上附有官方安装方式,如果你是 Ubuntu 或 Mac OS X用户,可以直接用命令来安装

    Ubuntu:

    sudo apt-get install phantomjs

    Mac OS X:

    brew install phantomjs

    3. pyspider

    直接利用 pip 安装即可

    pip install pyspider

    如果你是 Ubuntu 用户,请提前安装好以下支持类库

    sudo apt-get install python python-dev python-distribute python-pip libcurl4-openssl-dev libxml2-dev libxslt1-dev python-lxml

    测试

    如果安装过程没有提示任何错误,那就证明一些OK。

    命令行输入

    pyspider all

    然后浏览器访问 http://localhost:5000

    观察一下效果,如果可以正常出现 PySpider 的页面,那证明一切OK

    在此附图一张,这是我写了几个爬虫之后的界面。

    2016-02-11 20.55.36

    好,接下来我会进一步介绍这个框架的使用。

    常见错误

    嗯,自行谷歌,就是这么任性。

    转载请注明:静觅 » Python爬虫进阶二之PySpider框架安装配置



沪ICP备19023445号-2号
友情链接