当前位置：首页 > news >正文

BeautifulSoup的使用与入门

news 2026/4/1 16:03:14

1. 介绍

BeautifulSoup是用来从HTML、XML文档中提取数据的一个python库，安装如下:

pip install beautifulsoup4

它支持多种解析器，包括python标准库、lxml HTML解析器、lxml XML解析器、html5lib等。结合稳定性和速度，这里推荐使用lxml HTML解析器。安装：

pip install lxml

如果lxml不能正确解析内容，这是可以使用html5lib。安装：

pip install html5lib

2. 使用

2.1 一般流程

beautifulsoup的使用流程一般包括：1.导入库 2.实例化对象 3.调用对象

在实例化对象的时候要传入两个参数，一个是待解析的html或xml字符串(markup)，另一个是选择的解析器(features)。如果未指定解析器，会调用默认解析器。

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_str, 'lxml'）

2.2 选择器

要定位到指定的地方提取想要的数据，就需要借助选择器进行定位。beautifulsoup有三种选择器：节点选择器、方法选择器、css选择器。

节点选择器的使用

选取标签：节点选择器是通过HTML标签进行定位的，使用方法是实例化soup对象后直接加.tag，tag就是html标签名。

import requests
from bs4 import BeautifulSoupurl = 'https://www.baidu.com'
response = requests.get(url=url)
response.encoding = response.apparent_encoding
soup = BeautifulSoup(response.text, 'lxml')
print(soup.a)

# out:

这样选取的缺点是：如果有多个相同标签，只会提取第一个标签，其他的被忽略。

获取标签信息：在获取到的标签的基础上，还可以进一步获取标签名、属性、值

print(soup.a)
print(soup.a.name)
print(soup.a.attrs)
print(soup.a.string)
# out:

<a class="mnav" href="http://news.baidu.com" name="tj_trnews">新闻</a>
a
{'href': 'http://news.baidu.com', 'name': 'tj_trnews', 'class': ['mnav']}
新闻

嵌套选择：如果一个标签里还包含一个子标签，我们还可以通过嵌套选择的方法取出子标签

print(soup.head.title)
print(soup.head.title.string)
# out:

<title>百度一下，你就知道</title>
百度一下，你就知道

子标签列举：有两种方式，包括contents(返回列表)、children(返回可迭代对象)。该方法会把所有子标签取出，这样我们就可以拿到指定位置的子标签。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.tr.contents)
print(soup.tr.children)
for index, child in enumerate(soup.tr.children):print(f'({index}):{child}')
# out:

[<th>IP</th>, <th>PORT</th>, <th>匿名度</th>, <th>类型</th>, <th>位置</th>, <th>响应速度</th>, <th>录取时间<div>test</div></th>]
<list_iterator object at 0x000001C4BF512E00>
(0):<th>IP</th>
(1):<th>PORT</th>
(2):<th>匿名度</th>
(3):<th>类型</th>
(4):<th>位置</th>
(5):<th>响应速度</th>
(6):<th>录取时间<div>test</div></th>

父标签列举：.parent会列出标签的父标签，.parents会列出所有的祖先元素并整合在可迭代对象里。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.div.parent)
print(soup.div.parents)
for index, parents in enumerate(soup.tr.parents):print(f'({index}):{parents}')
# out：

<th>录取时间
<div>test</div>
</th>
<generator object PageElement.parents at 0x0000028479C541C0>
(0):<body><tr>
<th>IP</th>
<th>PORT</th>
<th>匿名度</th>
<th>类型</th>
<th>位置</th>
<th>响应速度</th>
<th>录取时间
<div>test</div>
</th>
</tr></body>
(1):<html><body><tr>
<th>IP</th>
<th>PORT</th>
<th>匿名度</th>
<th>类型</th>
<th>位置</th>
<th>响应速度</th>
<th>录取时间
<div>test</div>
</th>
</tr></body></html>

兄弟节点选取： next_sibling获取下一个兄弟节点，next_siblings获取后续所有兄弟节点，previous_sibling获取前一个兄弟节点，previous_siblings获取前面所有兄弟节点。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.th.next_sibling)
print(soup.th.next_siblings)
print(list(soup.th.next_siblings)[1].previous_sibling)
print(soup.th.previous_siblings)
# out：

<th>PORT</th>
<generator object PageElement.next_siblings at 0x000001EB1EEB4280>
<th>PORT</th>
<generator object PageElement.previous_siblings at 0x000001EB1EEB4280>

CSS选择器的使用

使用CSS选择器，只需要调用select()方法，结合CSS语法即可定位到元素。

在css语法中，我们可以使用类选择器、id选择器、标签选择器、以及混合使用来定位。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.select('th'))
# out:

[<th>IP</th>, <th>PORT</th>, <th>匿名度</th>, <th>类型</th>, <th>位置</th>, <th>响应速度</th>, <th>录取时间<div>test</div></th>]

我们只需传入css同样的定位语法即可，返回结果为列表。

获取节点的属性和文本用法与前面的节点选择器相同。

方法选择器的使用

使用方法选择器主要使用其中的find()和findALL()方法，finaALL方法需要传入的参数有name，attrs，text，kwargs。

name为定位条件，可以为标签名如'a'，也可以是多个标签名组成的列表，还可以是正则表达式。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.findAll(name='th'))
# out:

[<th>IP</th>, <th>PORT</th>, <th>匿名度</th>, <th>类型</th>, <th>位置</th>, <th>响应速度</th>, <th>录取时间<div>test</div></th>]

attrs为属性，可根据属性定位标签。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div id='te'>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.findAll(attrs={"id":"te"}))

# out:

[<div id="te">test</div>]

string为文本，可以搜索文本信息，常与其他name或attr混用来获取标签。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div id='te'>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.findAll(name='th', string='匿名度'))

# out:

[<th>匿名度</th>]

kwargs为关键字参数，比attr使用更方便，传入指定关键字参数以定位标签。class与python中的关键字冲突了，所以需要加下划线避免冲突。

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div class='te'>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.findAll(class_='te'))

# out:

[<div class="te">test</div>]

limit为限制参数，限制返回结果的数量

from bs4 import BeautifulSoup
hh = '''<tr><th>IP</th><th>PORT</th><th>匿名度</th><th>类型</th><th>位置</th><th>响应速度</th><th>录取时间<div class='te'>test</div></th></tr>'''
soup = BeautifulSoup(hh, 'lxml')
print(soup.findAll(name='th', limit=3))

# out:

[<th>IP</th>, <th>PORT</th>, <th>匿名度</th>]

find方法：相比于find_all()方法，除了limit参数不能用,其他参数均与find_all()方法相同，不过find方法只会返回一个值，而不是像find_all返回所有值。

BeautifulSoup的使用与入门

1. 介绍 BeautifulSoup是用来从HTML、XML文档中提取数据的一个python库，安装如下: pip install beautifulsoup4 它支持多种解析器，包括python标准库、lxml HTML解析器、lxml XML解析器、html5lib等。结合稳定性和速度，这里推荐使用lxml HT…...

编程日记 2024/2/22 8:54:27

LLM之RAG实战（二十七）| 如何评估RAG系统

有没有想过今天的一些应用程序是如何看起来几乎神奇地智能的？这种魔力很大一部分来自于一种叫做RAG和LLM的东西。把RAG（Retrieval Augmented Generation）想象成人工智能世界里聪明的书呆子，它会挖掘大量信息，准确地找到…...

编程日记 2024/2/22 8:49:23

Linux Docker 关闭开机启动

说说自己为什么需要关闭自启动：Linux中安装Docker后，自启动会占用80和443端口，然后使用自己的SSL认证，导致自己Nginx配置的SSL认证失效，网站通过https打开显示不安全。 Docker是一个容器化平台，它可以让开…...

编程日记 2024/2/22 8:48:23

处理器管理补充——线程

传送门：操作系统——处理器管理http://t.csdnimg.cn/avaDO 1.1 线程的概念回忆：[未引入线程前] 进程有两个基本属性：拥有资源的独立单位、处理器调度和分配的基本单位。引入线程以后，线程将作为处理器调度和运行的基本单位&…...

编程日记 2024/2/22 8:47:21

RESTful 风格是指什么

RESTful（Representational State Transfer）是一种基于 HTTP 协议的软件架构风格，用于设计网络应用程序的接口。它的设计理念是利用 HTTP 协议中的方法（如 GET、POST、PUT、DELETE 等）来对资源进行 CRUD，使得…...

编程日记 2024/2/22 8:46:20

Python 二维矩阵加一个变量运算该如何避免 for 循环

Python 二维矩阵加一个变量运算该如何避免 for 循环引言正文方法1------使用 for 循环方法2------不使用 for 循环引言今天写代码的时候遇到了一个问题，比如我们需要做一个二维矩阵运算，其中一个矩阵是 2x2 的，另一个是 2x1 的。在这个二维矩阵中，其中各个参数会随着一个…...

编程日记 2024/2/22 8:42:17

Nginx 配置详解

官网：http://www.nginx.org/ 序言 Nginx是lgor Sysoev为俄罗斯访问量第二的rambler.ru站点设计开发的。从2004年发布至今，凭借开源的力量，已经接近成熟与完善。 Nginx功能丰富，可作为HTTP服务器，也可作为反向代理服务…...

编程日记 2024/2/22 8:41:16

python读写文件操作的三大基本步骤

目录基本步骤常用函数 open()函数 close()函数 read()函数 readlines()函数 readline()函数 write()函数 writelines()函数 with语句读写操作的应用： 拷贝文件 with 语句的嵌套逐行拷贝基本步骤 1. 打开文件：open(filepath, mode, en…...

编程日记 2024/2/22 8:36:09

《Go 简易速速上手小册》第3章：数据结构（2024 最新版）

文章目录 3.1 数组与切片：Go 语言的动态队伍3.1.1 基础知识讲解3.1.2 重点案例：动态成绩单功能描述实现代码扩展功能 3.1.3 拓展案例 1：数据分析功能描述实现代码扩展功能 3.1.4 拓展案例 2：日志过滤器功能描述实现代码扩展功能 3…...

编程日记 2024/2/22 8:35:08

雷达模拟触摸屏，支持tuio\鼠标\Touch

案例展示： 雷达精度测试星秒雷达互动软件测试功能说明： 雷达互动系统支持各种品牌雷达，支持4-256点校准（校准点越大精度越高 ，而市场上基本都是4点校准 ，碰到大面积范围无法保证精准度）&…...

编程日记 2024/2/22 8:32:05

一文了解大数据生态

大数据一词最早指的是传统数据处理应用软件无法处理的过于庞大或过于复杂的数据集。现在，对“大数据”一词的使用倾向于使用预测分析、用户行为分析或者其他一些从大数据中提取价值的高级数据分析方法，很少用于表示特定规模的数据集。定义大数据是…...

编程日记 2024/2/22 8:28:02

Linux篇:指令

一基本常识： 1. 文件文件内容文件的属性 2. 文件的操作对文件内容的操作对文件属性的操作 3. 文件的类型： d：目录文件 -：普通文件 4. 指令是可执行程序，指令的代码文件在系统的某一个位置存在的。/u…...

编程日记 2024/2/22 8:27:01

Linux eject命令教程：如何控制可移动介质的弹出和收回(附案例详解和注意事项)

Linux eject命令介绍 eject命令在Linux中用于弹出可移动介质，通常是CD-ROM、软盘、磁带或JAZ或ZIP磁盘。您还可以使用此命令来控制一些多盘CD-ROM切换器，一些设备支持的自动弹出功能，以及关闭一些CD-ROM驱动器的光盘托盘。 Linux eject命令…...

编程日记 2024/2/22 8:23:59

【已解决】PPT无法复制内容怎么办？

想要复制PPT文件里的内容，却发现复制不了，怎么办？ 这种情况，一般是PPT文件被设置了以“只读方式”打开，“只读方式”下的PPT无法进行编辑更改，也无法进行复制粘贴的操作。想要解决这个问题，我…...

编程日记 2024/2/22 8:22:58

六大设计原则 (SOLID)

一、设计原则概述古人云: 有道无术,术可求.有术无道,止于术. 而设计模式通常需要遵循一些设计原则，在设计原则的基础之上衍生出了各种各样的设计模式。设计原则是设计要求，设计模式是设计方案，使用设计模式的代码则是具体的实现。设计模式中主要有六大设计原则，简称为SOL…...

编程日记 2024/2/22 8:20:56

深度解析Sora的核心技术

Sora要解决的核心问题 Sora面临的挑战是将不同类型的视觉信息，如视频、文本、图像和声音等，整合为一种共同的表征形式。这种转换是实现统一训练过程的关键，旨在将各类数据集中到一个训练框架中，以便于进行大规模的统一学习。简而…...

编程日记 2024/2/22 8:16:53

设计模式面试系列-02

1. Java 中工厂模式有什么优势？ 1、工厂模式是最常用的实例化对象模式，是用工厂方法代替new操作的一种模式。 2、利用工厂模式可以降低程序的耦合性，为后期的维护修改提供了很大的便利。 3、将选择实现类、创建对象统一管理和控制，从而将调用者跟我们的实现类解耦。 2. …...

编程日记 2024/2/22 8:14:51

MKdocs添加顶部公告栏

效果如图： docs/overrides下新建main.html ，针对main.html文件树状结构如下: $ tree -a . ├── .github │ ├── .DS_Store │ └── workflows │ └── PublishMySite.yml ├── docs │ └── index.md │ └──overrides │…...

编程日记 2024/2/22 8:10:47

Android全新UI框架之常用ComposeUI组件

在Compose中，每个组件都是一个带有Composable注解的函数，被称为Composable。Compose已经预置了很多基于MD设计规范的Composable组件。在布局方面，Compose提供了Column、Row、Box三种布局组件(感觉跟flutter差不多)，类似于传统视图…...

编程日记 2024/2/22 8:05:43

网络防御保护综合练习

一、实验拓扑二、实验要求 1, Fw1和Fw2组成主备模式的双机热备 2，DMZ区存在两台服务器，现在要求生产区的设备仅能在办公时间（9：00 - 18：00）访问，办公区的设备全天都可以访问。 3，办…...

编程日记 2024/2/22 8:02:40

微信聊天记录永久保存与深度分析：WeChatMsg让你的数字记忆不再流失

微信聊天记录永久保存与深度分析：WeChatMsg让你的数字记忆不再流失【免费下载链接】WeChatMsg 提取微信聊天记录，将其导出成HTML、Word、CSV文档永久保存，对聊天记录进行分析生成年度聊天报告项目地址: https://gitcode.com/GitHub_Trend…...

编程新知 2026/4/1 14:35:00

3步掌握AntiMicroX：让游戏手柄变身全能控制中心【免费下载链接】antimicrox Graphical program used to map keyboard buttons and mouse controls to a gamepad. Useful for playing games with no gamepad support. 项目地址: https://gitcode.com/GitHub_Tren…...

编程新知 2026/4/1 14:09:52

MoveIt2新手必看：如何正确选择安装分支（main vs. tutorials）及使用vcs管理多仓库

MoveIt2分支选择与多仓库管理实战指南当你在ROS2生态中开始使用MoveIt2时，第一个拦路虎往往不是算法理解或代码编写，而是如何正确搭建开发环境。MoveIt2作为由数十个独立Git仓库组成的复杂项目，其分支管理和版本协同问题困扰着许多中级开发者…...

编程新知 2026/4/1 14:03:45

即时通讯私有化，BeeWorks让每一次内网沟通都安全、安心、高效

BeeWorks以全维度安全防护体系为支撑，将安全设计深度融入每一项核心功能，让员工在日常办公中既能享受高效协同，又能全程守护企业核心数据安全。同时，规范的使用操作是发挥安全优势的关键，本文将重点介绍BeeWorks核心功…...

编程新知 2026/4/1 13:57:38

基于SpringBoot + Vue的校园流浪动物救助平台

文章目录前言一、详细操作演示视频二、具体实现截图三、技术栈1.前端-Vue.js2.后端-SpringBoot3.数据库-MySQL4.系统架构-B/S四、系统测试1.系统测试概述2.系统功能测试3.系统测试结论五、项目代码参考六、数据库代码参考七、项目论文示例结语前言 💛博主介绍&#…...

编程新知 2026/4/1 13:18:53

瑞芯微RK3399固件急救指南：用upgrade_tool搞定系统崩溃后的快速还原

RK3399固件灾难恢复实战：从分区表重建到全系统还原当一块搭载RK3399的开发板因固件损坏而变砖时，那种面对黑屏的无力感，相信每个嵌入式开发者都深有体会。去年我们产线就遭遇过因批量升级失败导致30台设备集体罢工的紧急状况，正…...

编程新知 2026/4/1 11:29:40

nanobot应用场景：用Qwen3-4B构建Linux运维助手，自动解析nvidia-smi输出

nanobot应用场景：用Qwen3-4B构建Linux运维助手，自动解析nvidia-smi输出 1. 项目介绍：超轻量级AI运维助手 nanobot是一款受OpenClaw启发的超轻量级个人人工智能助手，专门为Linux运维场景设计。这个工具最大的特点是轻量高效&…...

编程新知 2026/4/1 11:11:31

为“自感”留白

为“自感”留白早晨醒来，手机屏幕亮着，几条推送已经整齐地排好了队。它们比我自己更清楚我昨天看过什么、想过什么、可能在今天还想看些什么。我划掉几条，点开一条，于是更多的、相似的推送便如约而至。这本是极便利的事&#xff0…...

编程新知 2026/4/1 11:11:31

ALM代码编辑器实战教程：从HTML到TSX的转换技巧

ALM代码编辑器实战教程：从HTML到TSX的转换技巧【免费下载链接】alm :rose: A :cloud: ready IDE just for TypeScript :heart: 项目地址: https://gitcode.com/gh_mirrors/al/alm ALM代码编辑器是一款专为TypeScript开发打造的云端IDE，提供了丰富…...

编程新知 2026/4/1 10:55:13

Delayed Job测试策略完整指南：如何在开发和测试环境中高效测试异步任务

Delayed Job测试策略完整指南：如何在开发和测试环境中高效测试异步任务【免费下载链接】delayed_job 项目地址: https://gitcode.com/gh_mirrors/de/delayed_job Delayed Job是Ruby on Rails生态系统中最受欢迎的异步任务处理库之一，它让开发者…...

编程新知 2026/4/1 10:45:10

1. 介绍

2. 使用

2.1 一般流程

2.2 选择器

相关文章：