python爬虫：爬取新浪新闻数据

1. 爬虫的浏览器伪装原理： 我们可以试试爬取新浪新闻首页,我们发现会返回403 ,因为对方服务器会对爬虫进行屏蔽。此时,我们需要伪装成浏览器才能爬取。 1.实战分析： 浏览器伪装一般通过报头进行： 打开某个网页，按F12—Network— 任意点一个网址可以看到：Headers—Request Headers中的关键词User-Agent用来识别是爬虫还是浏览器。 import urllib.request\nurl='http://weibo.com/tfwangyuan?is_hot=1' headers=('User-Agent','Mozilla/5.0 (Windows NT 10.