Python爬虫:Selenium处理iframe作用域问题

发表于:2021-3-23 09:27  作者:Master先生   来源:CSDN

字体: | 上一篇 | 下一篇 |我要投稿 | 推荐标签: selenium 自动化测试框架

  项目场景:
  在使用selenium模块进行数据爬取时,通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。
  问题描述:
  我们以菜鸟教程的运行实例为案例。
  按照正常的定位:
  会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。
  #!/user/bin/
  # -*- coding:UTF-8 -*-
  # Author:Master
  from selenium import webdriver
  import time
  driver = webdriver.Chrome(executable_path="./chromedriver")
  driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')
  time.sleep(2)
  text = driver.find_element_by_xpath('/html/body').text
  print(text)
  time.sleep(5)
  driver.quit()
  执行结果:
  很明显这并不是想要的结果。
  原因分析:
  当我们打开抓包工具定位到Hello, World!文本的时候会发现,该文本是在一个iframe中。这样的话我们xpath所定位到的内容则是大的html中的路径。我们需要的内容则是在iframe中的小的html中。
  解决方案:
  通过分析发现,想要解决问题的实质就是改变作用域。通过switch_to.frame(‘id’)方法来改变作用域就可以了。
  重新编写代码:
  #!/user/bin/
  # -*- coding:UTF-8 -*-
  # Author:Master
  from selenium import webdriver
  import time
  driver = webdriver.Chrome(executable_path="./chromedriver")
  driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3')
  time.sleep(2)
  driver.switch_to.frame('iframeResult')
  text = driver.find_element_by_xpath('/html/body').text
  print(text)
  time.sleep(5)
  driver.quit()
  查看运行结果:

  本文内容不用于商业目的,如涉及知识产权问题,请权利人联系51Testing小编(021-64471599-8017),我们将立即处理

评 论

论坛新帖



建议使用IE 6.0以上浏览器,800×600以上分辨率,法律顾问:上海信义律师事务所 项棋律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2021, 沪ICP备05003035号
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪公网安备 31010102002173号

51Testing官方微信

51Testing官方微博

扫一扫 测试知识全知道