189 8069 5689

Python爬虫中Xpath指的是什么

Python爬虫中Xpath指的是什么?这个问题可能是我们日常学习或工作经常见到的。希望通过这个问题能让你收获颇深。下面是小编给大家带来的参考内容,让我们一起来看看吧!

公司主营业务:成都网站制作、成都网站设计、移动网站开发等业务。帮助企业客户真正实现互联网宣传,提高企业的竞争能力。创新互联建站是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化,感谢他们对我们的高要求,感谢他们从不同领域给我们带来的挑战,让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联建站推出松滋免费做网站回馈大家。

xpath简介

前面介绍了这么多种解析网页的方式,今天再来介绍一种xpath,

XPath即为XML路径语言(XML Path Language),它是一种用来确定XML文档中某部分位置的语言。

它可以确定元素在XML中的位置,同样我们也可以用它来获取dom节点在html中的位置,就可以便利我们爬取数据

这是今天大概内容的简介

Python爬虫中Xpath指的是什么

我在这里也就不详细介绍XPath的语法了,介绍一些我们够用的就行,想了解自己去看API了:https://www.w3school.com.cn/xpath/index.asp

Python爬虫中Xpath指的是什么

至于语法当然可以不需要我们自己手动写,我们可以利用浏览器的工具,就哪CSND来举例子,我要获取左侧导航‘程序人生’这个标签的xpath路径。

首先要利用浏览器的元素选择器,找到它的html位置

Python爬虫中Xpath指的是什么

然后我们选择我们要的元素右击copy XPath

Python爬虫中Xpath指的是什么

然后我们粘贴下来://*[@id=“nav”]/div/div/ul/li[3]

这就是程序人生的XPath路径,然后我们就能根据这个来爬取它的这一整块的信息了,后面我的案例就是这样做的。

爬取51job招聘信息

案例就直接上代码了,思路都大同小异,分析信息的页面、页码、元素等等,然后写代码。

"""
爬取  51job 相关职位信息,并保存成cvs文件格式
"""
import requests
from lxml import etree
import csv
# csv后缀的格式就是excel文件打开的格式,我们等于是直接存入了excel中
import time
headers = {
    "User-Agent": "Opera/9.80 (Windows NT 6.0) Presto/2.12.388 Version/12.14"
}
f = open("java职位.cvs","w",newline="")
writer = csv.writer(f)
writer.writerow(['编号', '职位名称', '公司名称', '薪资', '地址', '发布时间'])
i = 1;
for page in range(1,159):
    requests_get = requests.get(
        f"https://search.51job.com/list/020000,000000,0000,00,9,99,java,2,{page}.html?lang=c&stype=&postchannel
        =0000&workyear=99&cotype=99°reefrom=99&jobterm=99&companysize=99&providesalary=99&lonlat=0%2C0&radius
        =-1&ord_field=0&confirmdate=9&fromType=&dibiaoid=0&address=&line=&specialarea=00&from=&welfare=",
        headers=headers)
    requests_get.encoding="gbk"
    if requests_get.status_code == 200:
        html = etree.HTML(requests_get.text)
        els = html.xpath("//div[@class='el']")[4:]
        for el in els:
            jobname = str(el.xpath("p[contains(@class,'t1')]/span/a/@title")).strip("[']")
            jobcom = str(el.xpath("span[@class='t2']/a/@titlr")).strip("[']")
            jobaddress = str(el.xpath("span[@class='t3']/text()")).strip("[']")
            jobsalary = str(el.xpath("span[@class='t4']/text()")).strip("[']")
            jobdate = str(el.xpath("span[@class='t5']/text()")).strip("[']")
            writer.writerow([i, jobname, jobcom, jobaddress, jobsalary, jobdate])
            i += 1
        print(f"第{page}页获取完毕")

最后存入excel中的样子。

Python爬虫中Xpath指的是什么

感谢各位的阅读!看完上述内容,你们对Python爬虫中Xpath指的是什么大概了解了吗?希望文章内容对大家有所帮助。如果想了解更多相关文章内容,欢迎关注创新互联行业资讯频道。


标题名称:Python爬虫中Xpath指的是什么
文章路径:http://cdxtjz.cn/article/pipisi.html

其他资讯