ajax pool,实战二之爬取今日头条（爬取Ajax数据）

目标：爬取今日头条街拍图片

关于Ajax：其实现在很多网页不是一次加载完。而是边浏览边加载。

像今日头条中的图片，看完加载的部分，再往下滑动，又加载出来一些图片，

而url并没有变化，此时，页面加载就是Ajax加载。

他的原理同样是发送请求，解析内容，渲染页面，但是他保证了页面的不刷新，url不改变。但是页面却在更新数据。

1、分析Ajax

首先打开今日头条的网页，在搜索栏输入街拍，切换到开发者模式(F12)

点击XMR，因为Ajax在底层是实现了XmlHttpRequest对象，简写XMR，

所以在XMR下都是Ajax请求。

再次刷新下页面，继续往下滑，我们可以看到有一些请求：

分析一下Request URL，我们发现其中只有offset参数发生了改变。

其他的参数我们写成一样的就可以了。

这样我们就可以构造一个get_html()方法，实现获取到页面如下。

如果你前面的文章都看了，那么理解这个方法是没有难度的。

2、找到图片的地址

知道了图片在哪里，我们就写个get_image_url()方法，来获取到图片的连接。

这里说一下，json数据上一篇有讲如何获取值：数据的存储(一)

3、下载图片并分类保存实现

这里需要说一下：

os.chdir()是改变当前的路径，因为我用的是Notepad++，所以需要修改一下。

不然图片会存在安装Notepad++的位置。

os.path.exists()存在返回True，否则相反。

os.mkdir()是创建一个文件夹svse_image()方法

用md5加密实现图片名不一样

4、集中整合，实现多进程下载即可

实现多进程，需要导入Pool库

from multiprocessing.pool import Pool

如果前面的文章都看了，这篇文章应该没有难度。重要的是了解Ajax的分析。如何去找。

最后上一下效果图：

5、后台回复头条获取源代码。

完。