欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 新闻 > 社会 > Python----Python爬虫(selenium的使用,定位元素,层级定位)

Python----Python爬虫(selenium的使用,定位元素,层级定位)

2025/1/9 1:10:05 来源:https://blog.csdn.net/weixin_64110589/article/details/144917278  浏览:    关键词:Python----Python爬虫(selenium的使用,定位元素,层级定位)

一、介绍与安装

Selenium是一个Web的自动化测试工具,最初是为网站自动化测试而开发的,类型像我们玩游戏用的按键精灵,可以按指定的命令自动操作,不同是Selenium 可以直接运行在浏览器上,它支持所有主流的浏览器。

Selenium 可以根据我们的指令,让浏览器自动加载页面,获取需要的数据,甚至页面截屏,或者判断网站上某些动作是否发生。

Selenium 自己不带浏览器,不支持浏览器的功能,它需要与第三方浏览器结合在一起才能使用。

Selenium 官方参考文档:http://selenium-python.readthedocs.io/index.html

pip install selenium -i https://pypi.tuna.tsinghua.edu.cn/simple    

注意

selenium操作浏览器需要驱动(driver)

  • selenium版本是4.6.0以上,会自动下载

  • selenium版本是4.6.0以前,需要手动下载

第一个 selenium程序

from selenium.webdriver import  Edge
# 创建一个浏览器
edge=Edge()
# 发送请求
edge.get('https://www.baidu.com/')
# 获取HTML
page = edge.page_source
# 打印
print(page)
# 关闭浏览器
edge.quit()

二、控制浏览器

2.1、最大化窗口

edge.maximize_window()

from selenium.webdriver import  Edge
import time
# 创建一个浏览器
edge=Edge()
# 发送请求
edge.get('https://www.baidu.com/')
# 最大化窗口
edge.maximize_window()
# 设置等待时间,以便更清晰的观看到
time.sleep(5)
# 关闭浏览器
edge.quit()

2.2、设置高与宽

edge.set_window_size(500,500)

2.3、浏览器前进后退

前进

edge.forward()

后退

edge.back()

前进后退一体化展示

设计思路:

        1.从某网站到csdn

        2.从csdn到某网站

        3.从某网站再回到csdn

from selenium.webdriver import  Edge
import time
# 创建一个浏览器
edge=Edge()
# 发送请求
edge.get('https://www.baidu.com/')
# 设置等待时间
time.sleep(3)
# 请求到另一个网址
edge.get('https://www.csdn.net/?spm=1001.2014.3001.4476')
# 设置等待时间,以便更清晰的观看到
time.sleep(3)
# 后退
edge.back()
# 设置等待时间
time.sleep(5)
# 前进
edge.forward()
# 设置等待时间
time.sleep(5)
# 关闭浏览器
edge.quit()

三、定位元素

对象的定位应是自动化的核心。要操作一个对象,首先必须识别它。对象就像一个人一样,具有多种特征(属性),例如可以通过身份证号、姓名,或居住街道、楼层和门牌号来查找这个人。 Selenium定位元素的过程也可以借鉴这一点。

3.1、对象定位

webdriver提供了对象定位方法

        find_element(type,value)

        查找并返回页面上的第一个符合条件的单一元素。


        find_elements(type,value)

        查找并返回页面上所有符合条件的元素,返回一个元素列表。

  • type: 定位方式(定位器),可选值包括:
    • By.ID:通过元素的 ID 定位。
    • By.NAME:通过元素的 NAME 属性定位。
    • By.CLASS_NAME:通过元素的类名定位。
    • By.TAG_NAME:通过元素的标签名定位。
    • By.LINK_TEXT:通过链接文本定位。
    • By.PARTIAL_LINK_TEXT:通过部分链接文本定位。
    • By.XPATH:通过 XPath 表达式定位。
    • By.CSS_SELECTOR:通过 CSS 选择器定位。
  • value: 定位值,依赖于上述选择器类型。

3.2、操作元素 

在 Selenium 中,操作元素是自动化测试的核心部分。操作元素通常包括点击、输入文本、获取文本、清除文本、拖动等。

  • click 点击对象

  • send_keys 在对象上模拟按键输入

  • clear 清除对象的内容,如果可以的话

1. 点击元素

        方法click()

        用途:模拟用户点击某个元素(如按钮、链接等)。

2. 输入文本

        方法send_keys()

        用途:在输入框中输入文本或字符。

3. 清除输入框内容

        方法clear()

        用途:清除输入框或文本区域中的内容。

3.3、展示 

1.获取输入框input的id元素

2.在输入框中输入csdn

3.加入点击事件,使得网页进入csdn网页

from selenium.webdriver.common.by import By
from selenium.webdriver import  Edge
import time
# 创建一个浏览器
edge=Edge()
# 发送请求
edge.get('https://www.baidu.com/')
# 设置等待时间
time.sleep(3)
# 找到id并输入csdn
edge.find_element(By.ID,"kw").send_keys('csdn')
time.sleep(1)
# 找到搜索并加入点击事件
edge.find_element(By.ID,"su").click()
# 设置等待时间
time.sleep(3)
# 关闭浏览器
edge.quit()

 四、定位下拉菜单

在爬取数据时,有时数据太多,而官网提供了筛选功能select标签,像这样的数据,我们只需要定位元素,点击即可

 HTML界面

元素定位

<html><head><meta http-equiv="content-type" content="text/html;charset=utf-8" /><title>Level Locate</title>        <script type="text/javascript" src="https://cdn.jsdelivr.net/npm/jquery@1.12.4/dist/jquery.min.js"></script><link href="https://cdn.jsdelivr.net/npm/@bootcss/v3.bootcss.com@1.0.9/dist/css/bootstrap.min.css" rel="stylesheet" />        </head><body><h3>Level locate</h3><div class="span3 col-md-3">        <div class="well"><div class="dropdown"><a class="dropdown-toggle" data-toggle="dropdown" href="#">Link1</a><ul class="dropdown-menu" role="menu" aria-labelledby="dLabel" id="dropdown1" ><li><a tabindex="-1" href="https://www.csdn.net/?spm=1001.2014.3001.4476">Action</a></li><li><a tabindex="-1" href="#">Another action</a></li><li><a tabindex="-1" href="#">Something else here</a></li><li class="divider"></li><li><a tabindex="-1" href="#">Separated link</a></li></ul></div>                </div>            </div><div class="span3 col-md-3">        <div class="well"><div class="dropdown"><a class="dropdown-toggle" data-toggle="dropdown" href="#">Link2</a><ul class="dropdown-menu" role="menu" aria-labelledby="dLabel" ><li><a tabindex="-1" href="#">Action</a></li><li><a tabindex="-1" href="#">Another action</a></li><li><a tabindex="-1" href="#">Something else here</a></li><li class="divider"></li><li><a tabindex="-1" href="#">Separated link</a></li></ul></div>                </div>            </div></body><script src="https://cdn.jsdelivr.net/npm/@bootcss/v3.bootcss.com@1.0.9/dist/js/bootstrap.min.js"></script></html>
from selenium.webdriver.common.by import By
from selenium.webdriver import  Edge
import time
# 创建一个浏览器
edge=Edge()
# 发送请求
edge.get(r'test01.html')
# 设置等待时间
time.sleep(3)
# 找到class属性
edge.find_element(By.CLASS_NAME,"dropdown-toggle").click()
time.sleep(1)
# 找到要移动的位置加入点击事件
edge.find_element(By.LINK_TEXT,'Action').click()
# 设置等待时间
time.sleep(3)
# 关闭浏览器
edge.quit()

五、层级定位 

在现代 Web 应用中,常常会使用框架(iframe)或新窗口,这可能会给元素定位带来挑战。即使定位器正确,如果元素位于一个框架内,也可能无法成功定位。这时,就需要检查元素是否在框架中。

Selenium WebDriver 提供了 switch_to.frame() 方法,可以轻松切换到指定框架,从而解决问题。

 switch_to.frame()

1.界面展示

 inner.html

<html>
<head><meta http-equiv="content-type" content="text/html;charset=utf-8" /><title>inner</title>
</head>
<body><div class="row-fluid"><div class="span6 well"><h3>inner</h3><iframe id="f2" src="https://www.csdn.net/?spm=1001.2014.3001.4476" width="1400" height="1100"></iframe></div></div>
</body>
</html>

outer.html

<html>
<head><meta http-equiv="content-type" content="text/html;charset=utf-8" /><title>frame</title><script type="text/javascript" src="https://cdn.jsdelivr.net/npm/jquery@1.12.4/dist/jquery.min.js"></script><link href="http://netdna.bootstrapcdn.com/twitter-bootstrap/2.3.2/css/bootstrap-combined.min.css"rel="stylesheet" />
</head><body><div class="row-fluid"><div class="span10 well"><h3>frame</h3><iframe id="f1" src="inner.html" width="1500" , height="1200"></iframe></div></div>
</body>
<script src="https://cdn.jsdelivr.net/npm/@bootcss/v3.bootcss.com@1.0.8/dist/js/bootstrap.min.js"></script></html>
</html>
from selenium.webdriver.common.by import By
from selenium.webdriver import  Edge
import time
# 创建一个浏览器
edge=Edge()
# 发送请求
edge.get(r'outer.html')
# 设置等待时间
time.sleep(3)
# 切换frame
edge.switch_to.frame('f1')
edge.switch_to.frame('f2')
# 设置等待时间
time.sleep(3)
# 定位元素,输入要搜索的内容
edge.find_element(By.ID,'toolbar-search-input').send_keys('蹦蹦跳跳真可爱589')
# 设置等待时间
time.sleep(3)
# 定位按钮,点击搜索
edge.find_element(By.ID,'toolbar-search-button').click()
# 设置等待时间
time.sleep(3)
# 关闭浏览器
edge.quit()

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com