消息关闭
    暂无新消息!

<node.js爬虫>制作教程

博文作者 : 我假装不-会丶2017-06-29发布

前言:最近想学习node.js,突然在网上看到基于node的爬虫制作教程,所以简单学习了一下,把这篇文章分享给同样初学node.js的朋友。

目标:爬取 http://tweixin.yueyishujia.com/webapp/build/html/ 网站的所有门店发型师的基本信息。

思路:访问上述网站,通过chrome浏览器的network对网页内容分析,找到获取各个门店发型师的接口,对参数及返回数据进行分析,遍历所有门店的所有发型师,直到遍历完毕,同时将信息存储到本地。

 

步骤一:安装node.js

下载并安装node,此步骤比较简单就不详细解释了,有问题的可以直接问一下度娘。

 

步骤二:建立工程

1)打开dos命令条,cd进入想要创建项目的路径(我将此项目直接放在了E盘,以下皆以此路径为例);

2)mkdir node (创建一个文件夹用来存放项目,我这里取名为node);

3)cd 进入名为node的文件夹,并执行npm init初始化工程(期间会让填写一些信息,我是直接回车的);

 

步骤三:创建爬取到的数据存放的文件夹

1)创建data文件夹用来存放发型师基本信息;

2)创建image文件夹用来存储发型师头像图片;

  此时工程下文件如下:

爬虫

步骤四:安装第三方依赖包(fs是内置模块,不需要单独安装)

1)npm install cheerio –save

2)npm install superagent –save

3)npm install async –save

4)npm install request –save

分别简单解释一下上面安装的依赖包:

cheerio:是nodejs的抓取页面模块,为服务器特别定制的,快速、灵活、实施的jQuery核心实现,则能够对请求结果进行解析,解析方式和jQuery的解析方式几乎完全相同;

superagent:能够实现主动发起get/post/delete等请求;

async:async模块是为了解决嵌套金字塔,和异步流程控制而生,由于nodejs是异步编程模型,有一些在同步编程中很容易做到的事情,现在却变得很麻烦。Async的流程控制就是为了简化这些操作;

request:有了这个模块,http请求变的超简单,Request使用简单,同时支持https和重定向;

 

步骤五:编写爬虫程序代码

打开hz.js,编写代码:

var superagent = require('superagent'); 
var cheerio = require('cheerio');
var async = require('async');
var fs = require('fs');
var request = require('request');
var page=1; //获取发型师处有分页功能,所以用该变量控制分页
var num = 0;//爬取到的信息总条数
var storeid = 1;//门店ID
console.log('爬虫程序开始运行......');

function fetchPage(x) {     //封装函数
    startRequest(x); 
}
function startRequest(x) {

    superagent
        .post('http://tweixin.yueyishujia.com/v2/store/designer.json')
        .send({ 
            // 请求的表单信息Form data
            page : x, 
            storeid : storeid
        })
           // Http请求的Header信息
       .set('Accept', 'application/json, text/javascript, */*; q=0.01')
       .set('Content-Type','application/x-www-form-urlencoded; charset=UTF-8')
       .end(function(err, res){          
            // 请求返回后的处理
            // 将response中返回的结果转换成JSON对象
            if(err){
                console.log(err);
            }else{
                var designJson = JSON.parse(res.text);
                var deslist =  designJson.data.designerlist;
                if(deslist.length > 0){
                    num += deslist.length;
                    // 并发遍历deslist对象
                    async.mapLimit(deslist, 5, 
                        function (hair, callback) {
                        // 对每个对象的处理逻辑
                             console.log('...正在抓取数据ID:'+hair.id+'----发型师:'+hair.name);
                             saveImg(hair,callback);
                        }, 
                        function (err, result) {
                            console.log('...累计抓取的信息数→→' + num);
                        }
                    );
                    page++;
                    fetchPage(page);
                }else{
                    if(page == 1){
                        console.log('...爬虫程序运行结束~~~~~~~');
                        console.log('...本次共爬取数据'+num+'条...');
                        return;
                    }
                    storeid += 1;
                    page = 1;
                    fetchPage(page);
                }
            }
        });
} 
fetchPage(page);
function saveImg(hair,callback){
    // 存储图片
    var img_filename = hair.store.name+'-'+hair.name + '.png';

    var img_src = 'http://photo.yueyishujia.com:8112' + hair.avatar; //获取图片的url

    //采用request模块,向服务器发起一次请求,获取图片资源
    request.head(img_src,function(err,res,body){
        if(err){
            console.log(err);
        }else{
                request(img_src).pipe(fs.createWriteStream('./image/' + img_filename));     //通过流的方式,把图片写到本地/image目录下,并用发型师的姓名和所属门店作为图片的名称。
                console.log('...存储id='+hair.id+'相关图片成功!');
        }
    });
    // 存储照片相关信息
    var html = '姓名:'+hair.name+'<br>职业:'+hair.jobtype+'<br>职业等级:'+hair.jobtitle+'<br>简介:'+hair.simpleinfo+'<br>个性签名:'+hair.info+'<br>剪发价格:'+hair.cutmoney+'元<br>店名:'+hair.store.name+'<br>地址:'+hair.store.location+'<br>联系方式:'+hair.telephone+'<br>头像:<img src='+img_src+' style="width:200px;height:200px;">';
    fs.appendFile('./data/' +hair.store.name+'-'+ hair.name + '.html', html, 'utf-8', function (err) {
        if (err) {
            console.log(err);
        }
    });
    callback(null, hair);
}

步骤六:运行爬虫程序

输入node hz.js命令运行爬虫程序,效果图如下:

爬虫

运行成功后,发型师基本信息以html文件的形式存储在data文件夹中,发型师头像图片存储在image文件夹下:

爬虫



1个评论

暂无评论!