使用Selenium模拟浏览器行为

发表于:2018-10-08 09:57  作者:十月狐狸   来源:博客园

字体: | 上一篇 | 下一篇 |我要投稿 | 推荐标签: Selenium 自动化测试工具

  前几天有位微信读者问我一个爬虫的问题,就是在爬去百度贴吧首页的热门动态下面的图片的时候,爬取的图片总是爬取不完整,比首页看到的少。原因他也大概分析了下,就是后面的图片是动态加载的。他的问题就是这部分动态加载的图片该怎么爬取到。
  分析
  他的代码比较简单,主要有以下的步骤:使用BeautifulSoup库,打开百度贴吧的首页地址,再解析得到id为new_list标签底下的img标签,最后将img标签的图片保存下来。
  headers = {
  'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36'
  }
  data=requests.get("https://tieba.baidu.com/index.html",headers=headers)
  html=BeautifulSoup(data.text,'lxml')

  前面提到过,有部分图片是动态加载的,那么首先我们得弄清楚,这部分图片是怎么动态加载的。在浏览器中打开百度贴吧的首页,可以明显的看到,在往下滚动滚动条的时候,当滚动到底部的时候,滚动条缩短了,并向上移动了一段距离。这个现象也正是有DOM元素动态的添加到了html文档的一个表现。动态加载数据无非就是ajax请求,而ajax本质上就是XMLHttpRequest请求(简称xhr)。在谷歌浏览器中,我们可以通过开发者工具的network面板来监测xhr请求。
  刚打开首页时的xhr请求,这里的请求都和要爬取的图片无关。
   
  滚动条向下第1次滚动到底部,这里请求的是第20-40条热门动态,包含要爬取图片。
   
  滚动条向下第2次滚动到底部,这里请求的是第40-60条热门动态,包含要爬取图片。并且返回的的has_more:false表明没有跟多数据了。
   
  滚动条向下第3次滚动到底部,再无xhr请求。
  解决方案
  根据上面的分析,我们已经明白,单纯使用BeautifulSoup进行爬虫的时候,只能爬取到1-20条热门动态里面的图片。为了爬取到完整的热门动态里面的图片,我们则需要模拟浏览器的滚动条滚动,让网页去触发xhr请求更多的热门动态。
  在python中,如果需要模拟浏览器的行为,可以使用selenium库。selenium库是一个自动化测试框架,可以用来模拟测试浏览器的各种行为,这里我们使用它来模拟浏览器打开百度贴吧的首页,并模拟滚动条向下滚动到底部的操作。
  安装
  pip install selenium
  下载浏览器驱动
  火狐浏览器驱动
  谷歌浏览器驱动
  opera浏览器驱动
  对照自己电脑安装的浏览器和对应的版本,分别从上面的地址下载驱动文件,下载解压后,将所在的目录添加系统的环境变量中。当然你也可以将下载下来的驱动放到python安装目录的lib目录中,因为它本身已经存在于环境变量(我就是这么干的)。
   
  使用python代码模拟浏览器行为
  要使用selenium先需要定义一个具体browser对象,这里就定义的时候就看你电脑安装的具体浏览器和安装的哪个浏览器的驱动。这里以火狐浏览器为例:
  from selenium import webdriver
  browser = webdriver.Firefox()

  再模拟打开贴吧首页:
  browser.get("https://tieba.baidu.com/index.html")
  再模拟滚动条滚动到底部
  for i in range(1, 5):
  browser.execute_script('window.scrollTo(0, document.body.scrollHeight)')
  time.sleep(1)

  最后再使用BeautifulSoup,解析图片标签:
  html = BeautifulSoup(browser.page_source, "lxml")
  imgs = html.select("#new_list li img")


   上文内容不用于商业目的,如涉及知识产权问题,请权利人联系博为峰小编(021-64471599-8017),我们将立即处理。

【直播预售】接口测试行业大佬带你从青铜上王者>>立即查看
21/212>

评 论

论坛新帖

顶部 底部


建议使用IE 6.0以上浏览器,800×600以上分辨率,法律顾问:上海瀛东律师事务所 张楠律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2018, 沪ICP备05003035号
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪公网安备 31010102002173号

51Testing官方微信

51Testing官方微博

扫一扫 测试知识全知道