当前位置： 首页 > news >正文

Beautiful Soup 入门指南：从零开始掌握网页解析

news 文章来源：https://blog.csdn.net/dnnyyq/article/details/145381303 2025/5/9 20:13:13

Beautiful Soup 入门指南：从零开始掌握网页解析

前言

在数据驱动的时代，网页数据是非常宝贵的资源。很多时候我们需要从网页上提取数据，进行分析和处理。Beautiful Soup 是一个非常流行的 Python 库，可以帮助我们轻松地解析和提取网页中的数据。本文将详细介绍 Beautiful Soup 的基础知识和常用操作，帮助初学者快速入门和精通这一强大的工具。

什么是 Beautiful Soup？

Beautiful Soup 是一个 Python 库，用于从 HTML 和 XML 文件中提取数据。它将复杂的文件结构转化为一个易于遍历和搜索的解析树，使我们能够轻松地查找、修改和提取数据。

安装 Beautiful Soup

在开始使用 Beautiful Soup 之前，我们首先需要安装它。你可以使用 pip 命令来安装：

pip install beautifulsoup4
pip install lxml  # 可选的解析器，速度更快

基本使用

1. 加载 HTML 内容

首先，我们需要加载网页内容。你可以通过从文件中读取或通过 HTTP 请求获取 HTML 内容。这里我们使用一个简单的 HTML 示例文件：

<!DOCTYPE html>
<html>
<head><title>示例页面</title>
</head>
<body><h1 id="main-heading">欢迎来到示例页面</h1><p class="description">这里是一个简单的 HTML 示例。</p><a href="https://example.com" class="link">访问示例网站</a><ul><li>项目一</li><li>项目二</li><li>项目三</li></ul>
</body>
</html>

我们可以使用以下代码加载这个 HTML 内容：

from bs4 import BeautifulSouphtml_content = """
<!DOCTYPE html>
<html>
<head><title>示例页面</title>
</head>
<body><h1 id="main-heading">欢迎来到示例页面</h1><p class="description">这里是一个简单的 HTML 示例。</p><a href="https://example.com" class="link">访问示例网站</a><ul><li>项目一</li><li>项目二</li><li>项目三</li></ul>
</body>
</html>
"""soup = BeautifulSoup(html_content, 'lxml')  # 使用 lxml 解析器
2. 查找元素

Beautiful Soup 提供了多种方法来查找元素：

  • 通过标签名查找：
title_tag = soup.title
print(title_tag.text)  # 输出：示例页面
  • 通过属性查找：
heading_tag = soup.find('h1', id='main-heading')
print(heading_tag.text)  # 输出：欢迎来到示例页面link_tag = soup.find('a', class_='link')
print(link_tag['href'])  # 输出：https://example.com
  • 查找所有符合条件的元素：
list_items = soup.find_all('li')
for item in list_items:print(item.text)
# 输出：
# 项目一
# 项目二
# 项目三
3. 遍历解析树

Beautiful Soup 允许我们轻松地遍历解析树：

  • 父节点和子节点：
body_tag = soup.body
for child in body_tag.children:print(child)  # 输出 body 的直接子节点
  • 兄弟节点：
first_item = soup.find('li')
next_item = first_item.find_next_sibling('li')
print(next_item.text)  # 输出：项目二
  • 前后节点：
description = soup.find('p', class_='description')
previous_node = description.find_previous()
print(previous_node)  # 输出 <h1 id="main-heading">欢迎来到示例页面</h1>
4. 修改和操作元素

我们还可以修改 HTML 内容：

  • 修改标签内容：
heading_tag.string = 'Hello, Beautiful Soup!'
print(heading_tag)  # 修改后的 h1 标签
  • 添加新元素：
new_tag = soup.new_tag('p')
new_tag.string = '这是一个新段落。'
soup.body.append(new_tag)
print(soup.body)  # 输出包含新段落的 body

进阶操作

1. CSS 选择器

除了基本的查找方法，Beautiful Soup 还支持 CSS 选择器：

link_tag = soup.select_one('.link')
print(link_tag['href'])  # 输出：https://example.comlist_items = soup.select('ul > li')
for item in list_items:print(item.text)
# 输出：
# 项目一
# 项目二
# 项目三
2. 处理复杂的 HTML 结构

Beautiful Soup 提供了灵活的解析和处理复杂 HTML 结构的能力。例如，处理嵌套的结构和动态内容：

nested_html = """
<div class="outer"><div class="inner"><p>嵌套内容</p></div>
</div>
"""nested_soup = BeautifulSoup(nested_html, 'lxml')
inner_div = nested_soup.select_one('.outer .inner')
print(inner_div.p.text)  # 输出：嵌套内容

总结

Beautiful Soup 是一个功能强大的网页解析工具，适合初学者快速上手和精通。本文介绍了如何安装和使用 Beautiful Soup 进行基本的网页解析操作，包括查找元素、遍历解析树、修改和操作元素等。通过这些示例和操作，你可以轻松地从网页中提取所需的数据，进行进一步的分析和处理。

希望本文对你有所帮助，Happy Scraping!

相关文章：

Beautiful Soup 入门指南：从零开始掌握网页解析

Beautiful Soup 入门指南&#xff1a;从零开始掌握网页解析 前言 在数据驱动的时代&#xff0c;网页数据是非常宝贵的资源。很多时候我们需要从网页上提取数据&#xff0c;进行分析和处理。Beautiful Soup 是一个非常流行的 Python 库&#xff0c;可以帮助我们轻松地解析和提…...

编程日记 2025/1/28 12:25:08

网络通信---MCU移植LWIP

使用的MCU型号为STM32F429IGT6&#xff0c;PHY为LAN7820A 目标是通过MCU的ETH给LWIP提供输入输出从而实现基本的Ping应答 OK废话不多说我们直接开始 下载源码 LWIP包源码&#xff1a;lwip源码 -在这里下载 ST官方支持的ETH包&#xff1a;ST-ETH支持包 这里下载 创建工程 …...

编程日记 2025/1/28 12:24:07

Go-并行编程新手指南

Go 并行编程新手指南 在Go语言中&#xff0c;并行编程是充分利用多核CPU资源、提升程序性能的重要手段。它的核心概念包括goroutine和channel&#xff0c;这些特性使得Go在处理并发任务时表现出色。 goroutine&#xff1a;轻量级的并发执行单元 goroutine是Go并行编程的基础…...

编程日记 2025/1/28 12:21:56

基于Django的个人博客系统的设计与实现

【Django】基于Django的个人博客系统的设计与实现&#xff08;完整系统源码开发笔记详细部署教程&#xff09;✅ 目录 一、项目简介二、项目界面展示三、项目视频展示 一、项目简介 系统采用Python作为主要开发语言&#xff0c;结合Django框架构建后端逻辑&#xff0c;并运用J…...

编程日记 2025/1/28 12:16:49

Python爬虫获取custom-1688自定义API操作接口

一、引言 在电子商务领域&#xff0c;1688作为国内领先的B2B平台&#xff0c;提供了丰富的API接口&#xff0c;允许开发者获取商品信息、店铺信息等。其中&#xff0c;custom接口允许开发者进行自定义操作&#xff0c;获取特定的数据。本文将详细介绍如何使用Python调用1688的…...

编程日记 2025/1/28 12:10:41

kaggle-ISIC 2024 - 使用 3D-TBP 检测皮肤癌-学习笔记

问题描述&#xff1a; 通过从 3D 全身照片 (TBP) 中裁剪出单个病变来识别经组织学确诊的皮肤癌病例 数据集描述&#xff1a; 图像临床文本信息 评价指标&#xff1a; pAUC&#xff0c;用于保证敏感性高于指定阈值下的AUC 主流方法分析&#xff08;文本&#xff09; 基于CatBoo…...

编程日记 2025/1/28 12:09:40

滤波电路汇总

0、前言 1. 引言 滤波电路是电子系统中不可或缺的组成部分，其主要功能是选择性地通过或衰减特定频率范围内的信号。在现代电子技术中，滤波电路广泛应用于信号处理、通信系统、音频设备、电源设计等多个领域。通过滤波，可以去除信号中的噪声和干扰，提高信号的质量和稳定性…...

编程日记 2025/1/28 12:05:22

1.Template Method 模式

模式定义 定义一个操作中的算法的骨架&#xff08;稳定&#xff09;&#xff0c;而将一些步骤延迟&#xff08;变化)到子类中。Template Method 使得子类可以不改变&#xff08;复用&#xff09;一个算法的结构即可重定义&#xff08;override 重写&#xff09;该算法的某些特…...

编程日记 2025/1/28 12:04:20

MySQL分表自动化创建的实现方案(存储过程、事件调度器)

《MySQL 新年度自动分表创建项目方案》 一、项目目的 在数据库应用场景中&#xff0c;随着数据量的不断增长&#xff0c;单表存储数据可能会面临性能瓶颈&#xff0c;例如查询、插入、更新等操作的效率会逐渐降低。分表是一种有效的优化策略&#xff0c;它将数据分散存储在多…...

编程日记 2025/1/28 12:02:18

基于回归分析法的光伏发电系统最大功率计算simulink建模与仿真

目录 1.课题概述 2.系统仿真结果 3.核心程序与模型 4.系统原理简介 5.完整工程文件 1.课题概述 基于回归分析法的光伏发电系统最大功率计算simulink建模与仿真。选择回归法进行最大功率点的追踪&#xff0c;使用光强和温度作为影响因素&#xff0c;电压作为输出进行建模。…...

编程日记 2025/1/28 12:01:09

计算机毕业设计【任务书】怎么写？

1. 什么是毕业设计任务书 毕业设计任务书是学生在毕业设计初期向指导教师提交的文档&#xff0c;主要用于说明毕业设计的选题、研究内容、目标、方法、进度安排等。 2. 撰写任务书的步骤 2.1 确定选题 选题是撰写任务书的第一步。选题应结合自身兴趣、专业方向和实际应用需…...

编程日记 2025/1/28 11:57:03

GRAPHARG——学习

20250106 项目git地址&#xff1a;https://github.com/microsoft/graphrag.git 版本&#xff1a;1.2.0 ### This config file contains required core defaults that must be set, along with a handful of common optional settings. ### For a full list of available setti…...

编程日记 2025/1/28 11:52:57

【Rust自学】15.6. RefCell与内部可变性：“摆脱”安全性限制

题外话&#xff0c;这篇文章一共4050字&#xff0c;是截止到目前为止最长的文章&#xff0c;如果你能坚持读完并理解&#xff0c;那真的很强&#xff01; 喜欢的话别忘了点赞、收藏加关注哦&#xff08;加关注即可阅读全文&#xff09;&#xff0c;对接下来的教程有兴趣的可以…...

编程日记 2025/1/28 11:44:36

14.模型，纹理，着色器

模型、纹理和着色器是计算机图形学中的三个核心概念&#xff0c;用通俗易懂的方式来解释&#xff1a; 1. 模型&#xff1a;3D物体的骨架 通俗解释&#xff1a; 模型就像3D物体的骨架&#xff0c;定义了物体的形状和结构。 比如&#xff0c;一个房子的模型包括墙、屋顶、窗户等…...

编程日记 2025/1/28 11:40:27

【C语言分支与循环结构详解】

目录 ---------------------------------------begin--------------------------------------- 一、分支结构 1. if语句 2. switch语句 二、循环结构 1. for循环 2. while循环 3. do-while循环 三、嵌套结构 结语 -----------------------------------------end----…...

编程日记 2025/1/28 11:38:09

新项目上传gitlab

Git global setup git config --global user.name “FUFANGYU” git config --global user.email “fyfucnic.cn” Create a new repository git clone gitgit.dev.arp.cn:casDs/sawrd.git cd sawrd touch README.md git add README.md git commit -m “add README” git push…...

编程日记 2025/1/28 11:35:53

qt-QtQuick笔记之常见项目类简要介绍

qt-QtQuick笔记之常见项目类简要介绍 code review! 文章目录 qt-QtQuick笔记之常见项目类简要介绍1.QQuickItem2.QQuickRectangle3.QQuickImage4.QQuickText5.QQuickBorderImage6.QQuickTextInput7.QQuickButton8.QQuickSwitch9.QQuickListView10.QQuickGridView11.QQuickPopu…...

编程日记 2025/1/28 11:23:20

Continuous Batching 连续批处理

原始论文题目： Continuous Batching — ORCA: a distributed serving system for Transformer-based generative models 关键词： Continuous Batching， iteration-level scheduling， selective batching 1.迭代级调度(iteration-level scheduling) Orca系统又由几个关键…...

编程日记 2025/1/28 11:22:16

海外问卷调查渠道查如何设置：最佳实践+示例

随着经济全球化和一体化进程的加速&#xff0c;企业间的竞争日益加剧&#xff0c;为了获得更大的市场份额&#xff0c;对企业和品牌而言&#xff0c;了解受众群体的的需求、偏好和痛点才是走向成功的关键。而海外问卷调查才是获得受众群体痛点的关键&#xff0c;制作海外问卷调…...

编程日记 2025/1/28 11:19:57

把本地搭建的hexo博客部署到自己的服务器上

配置远程服务器的git 安装git 安装依赖工具包 yum install -y curl-devel expat-devel gettext-devel openssl-devel zlib-devel安装编译工具 yum install -y gcc perl-ExtUtils-MakeMaker package下载git&#xff0c;也可以去官网下载了传到服务器上 wget https://www.ke…...

编程日记 2025/1/28 11:18:52

初阶数据结构：链表（二）

目录 一、前言 二、带头双向循环链表 1.带头双向循环链表的结构 &#xff08;1)什么是带头&#xff1f; (2)什么是双向呢&#xff1f; &#xff08;3&#xff09;那什么是循环呢&#xff1f; 2.带头双向循环链表的实现 &#xff08;1&#xff09;节点结构 &#xff08;2…...

编程日记 2025/1/28 11:13:46

postgresql根据主键ID字段分批删除表数据

生产环境针对大表的处理相对比较麻烦。 方案1、直接truncate&#xff0c;可能会遇到系统卡主的情况&#xff0c;因为truncate的过程中会对表进行加锁&#xff0c;会导致数据不能正常的写入 方案2、创建一个同结构的表结构&#xff0c;rename旧表&#xff0c;不停业务rename表担…...

编程日记 2025/1/28 11:10:41

10.business english-global market

eco-friendly case study: 案例学习 At the workshop工作坊, they agreed to emphasize eco-friendliness,adapt messageing, and boost digital marketing to stand out globally. Our study shows that more people want eco-friendly products in different places.Looks …...

编程日记 2025/1/28 11:08:27

C 语言实现计算一年中指定日期是第几天 题】

引言 在编程的世界里&#xff0c;处理日期和时间相关的问题是非常常见的。比如在日历应用、任务管理系统、数据分析等场景中&#xff0c;经常需要计算某个日期在一年中是第几天。本文将详细介绍如何使用 C 语言来实现这一功能&#xff0c;通过分析代码的结构、逻辑以及可能存在…...

编程日记 2025/1/28 11:06:11

深入理解三高架构：高可用性、高性能、高扩展性的最佳实践

引言 在现代互联网环境下&#xff0c;随着用户规模和业务需求的快速增长&#xff0c;系统架构的设计变得尤为重要。为了确保系统能够在高负载和复杂场景下稳定运行&#xff0c;"三高架构"&#xff08;高可用性、高性能、高扩展性&#xff09;成为技术架构设计中的核…...

编程日记 2025/1/28 11:03:02

【反悔堆】力扣1642. 可以到达的最远建筑

给你一个整数数组 heights &#xff0c;表示建筑物的高度。另有一些砖块 bricks 和梯子 ladders 。 你从建筑物 0 开始旅程&#xff0c;不断向后面的建筑物移动&#xff0c;期间可能会用到砖块或梯子。 当从建筑物 i 移动到建筑物 i1&#xff08;下标 从 0 开始 &#xff09;…...

编程日记 2025/1/28 11:00:58

关于使用Mybatis-plus的TableNameHandler动态表名处理器实现分表业务的详细介绍

引言 随着互联网应用的快速发展&#xff0c;数据量呈爆炸式增长。传统的单表设计在面对海量数据时显得力不从心&#xff0c;容易出现性能瓶颈、查询效率低下等问题。为了提高数据库的扩展性和响应速度&#xff0c;分表&#xff08;Sharding&#xff09;成为了一种常见的解决方案…...

编程日记 2025/1/28 10:59:54

docker 安装 redis 详解

在平常的开发工作中&#xff0c;我们经常会用到 redis&#xff0c;那么 docker 下应该如何安装 redis 呢&#xff1f;简单来说&#xff1a;第一步&#xff1a;拉取redis镜像&#xff1b;第二步&#xff1a;设置 redis.conf 配置文件&#xff1b;第三步&#xff1a;编写 docker-…...

编程日记 2025/1/28 10:57:51

56. 合并区间

【题目】&#xff1a;56. 合并区间 class Solution { public:vector<vector<int>> merge(vector<vector<int>>& intervals) {// 按照左端点排序sort(intervals.begin(), intervals.end(), [&](vector<int> lhs, vector<int> rhs)…...

编程日记 2025/1/28 10:56:49

BOM对象location与数组操作结合——查询串提取案例

BOM对象location与数组操作结合——查询串提取案例 前置知识 1. Location 对象 Location 对象是 JavaScript 提供的内置对象之一&#xff0c;它表示当前窗口或框架的 URL&#xff0c;并允许你通过它操作或获取 URL 的信息。可以通过 window.location 访问。 主要属性&#…...

编程日记 2025/1/28 10:54:45