Web-spider NPM

web-sipder

这是一个用superagent + phantomjs 写的一个小爬虫，尽量简单，代码几乎都是用ES6语法写的，简单直白。

主体核心是core.js这个文件，这是一个继承自EventEmitter的类。

Prerequisites

node: This requires Node 6.x or greater.

Getting started

//最简单的一个爬虫
//爬虫参数初始化
let urlInfo = {url:"https://cnodejs.org"};
let spider = new (require('web-spider'))({urlInfo:urlInfo});
//启动爬虫
spider.start();
//成功返回
spider.on('success',(data) =>{
	console.log(data);
});
//失败返回
spider.on('error',(err) =>{
	console.error(err);
});

Other examples

例子可以参见examples文件夹的

参数例子

创建一个爬虫需要定义 urlInfo

`1.urlInfo` : {object}，它有以下属性：

必须 url : {string} 需要抓取的地址。
选填 isDynamic : {boolean} 默认false，true设置是用phantomjs请求url
选填 phantomConfig : {string} phantomjs执行的【静态】命令config.json文件路径，可以不用配置，默认有一个，如果配置的false，那么默认的也不用
选填 phantomLines : {array} phantomjs执行的【动态】命令，比如proxy呀，cookie文件呀，默认不用设置 //具体配置参见http://phantomChild.org/api/command-line.html
选填 phantomBridgeJs : {string} 和phantomjs桥接js，可以自己再写一个，默认有一个，如果要自定义，可以参照_lib/phantom-spec.js。
选填 isGenerateImg : {boolean} 设置是否生成图片和html，true ：生成的图片会以域名 + 时间组合
选填 generatePath : {string} 生成图片存放在哪里，默认：会放置在examples里面
选填 tiemout : {number} 执行的超时时间，默认：10000毫秒即10秒