欢迎加入QQ讨论群258996829
麦子学院 头像
苹果6袋
6
麦子学院

Python中的Scrapy 命令如何使用?

发布时间:2016-12-05 16:11  回复:0  查看:3178   最后回复:2016-12-05 16:11  

Python语言Scrapy 命令是非常重要的一个命令,今天和大家分享的就是Scrapy 命令的相关用法。Scrapy 命令分为两种: 全局命令项目命令,具体的用法,一起来看看吧 

  全局命令:在哪里都能使用。

  项目命令:必须在爬虫项目里面才能使用。

  全局命令

  C:\\Users\\AOBO>scrapy -h

  Scrapy 1.2.1 - no active project

  Usage:

  scrapy[options] [args]

  Available commands:

  bench Run quick benchmark test

  commands

  fetch Fetch a URL using the Scrapy downloader

  genspider Generate new spider using pre-defined templates

  runspider Run a self-contained spider (without creating a project)

  settings Get settings values

  shell Interactive scraping console

  startproject Create new project

  version Print Scrapy version

  view Open URL in browser, as seen by Scrapy

  [ more ] More commands available when run from project directory

  Use "scrapy-h" to see more info about a command

  . startproject :创建一个爬虫项目: scrapy startproject demo  demo 创建的爬虫项目的名字)

  . runspider 运用单独一个爬虫文件: scrapy runspider abc.py

  . veiw 下载一个网页的源代码,并在默认的文本编辑器中打开这个源代码: scrapy view http://www.aobossir.com/

  . shell 进入交互终端,用于爬虫的调试(如果你不调试,那么就不常用): scrapy shell http://www.baidu.com --nolog  --nolog 不显示日志信息)

  . version 查看版本:( scrapy version 

  . bench 测试本地硬件性能(工作原理:): scrapy bench (如果遇到问题:解决问题import win32api ImportError: DLL load failed ,到这里查看解决办法。)

  项目命令

  (进入项目路径,才能看到项目命令)

  D:\\BaiduYunDownload\\first>scrapy -h

  Scrapy 1.2.1 - project: first

  Usage:

  scrapy[options] [args]

  Available commands:

  bench Run quick benchmark test

  check Check spider contracts

  commands

  crawl Run a spider

  edit Edit spider

  fetch Fetch a URL using the Scrapy downloader

  genspider Generate new spider using pre-defined templates

  list List available spiders

  parse Parse URL (using its spider) and print the results

  runspider Run a self-contained spider (without creating a project)

  settings Get settings values

  shell Interactive scraping console

  startproject Create new project

  version Print Scrapy version

  view Open URL in browser, as seen by Scrapy

  Use "scrapy-h" to see more info about a command

  D:\\BaiduYunDownload\\first>

  . genspider 创建一个爬虫文件,我们在爬虫项目里面才能创建爬虫文件(这个命令用的非常多)( startproject :创建一个爬虫项目)。创建爬虫文件是按照以下模板来创建的,使用 scrapy genspider -l 命令查看有哪些模板。

  D:\\BaiduYunDownload\\first>scrapy genspider -l

  Available templates:

  basic

  crawl

  csvfeed

  xmlfeed

  D:\\BaiduYunDownload\\first>

  basic 基础 crawl 自动爬虫 csvfeed 用来处理csv文件 xmlfeed 用来处理xml文件

  按照 basic 模板创建一个名为 f1 的爬虫文件: scrapy genspider -t basic f1,创建了一个 f1.py 文件。

  .check测试爬虫文件、或者说:检测一个爬虫,如果结果是:OK,那么说明结果没有问题。: scrapy check f1

  .crawl运行一个爬虫文件。: scrapy crawl f1 或者 scrapy crawl f1 --nolog

  .list列出当前爬虫项目下所有的爬虫文件: scrapy list

  .edit使用编辑器打开爬虫文件 (Windows上似乎有问题,Linux上没有问题): scrapy edit f1

 

来源:AoboSir

您还未登录,请先登录

热门帖子

最新帖子