当前位置： 首页 > news >正文

Beautiful Soup 入门指南：从零开始掌握网页解析

news 2025/12/29 13:57:17

Beautiful Soup 入门指南：从零开始掌握网页解析

前言

在数据驱动的时代，网页数据是非常宝贵的资源。很多时候我们需要从网页上提取数据，进行分析和处理。Beautiful Soup 是一个非常流行的 Python 库，可以帮助我们轻松地解析和提取网页中的数据。本文将详细介绍 Beautiful Soup 的基础知识和常用操作，帮助初学者快速入门和精通这一强大的工具。

什么是 Beautiful Soup？

Beautiful Soup 是一个 Python 库，用于从 HTML 和 XML 文件中提取数据。它将复杂的文件结构转化为一个易于遍历和搜索的解析树，使我们能够轻松地查找、修改和提取数据。

安装 Beautiful Soup

在开始使用 Beautiful Soup 之前，我们首先需要安装它。你可以使用 pip 命令来安装：

pip install beautifulsoup4
pip install lxml  # 可选的解析器，速度更快

基本使用

1. 加载 HTML 内容

首先，我们需要加载网页内容。你可以通过从文件中读取或通过 HTTP 请求获取 HTML 内容。这里我们使用一个简单的 HTML 示例文件：

<!DOCTYPE html>
<html>
<head><title>示例页面</title>
</head>
<body><h1 id="main-heading">欢迎来到示例页面</h1><p class="description">这里是一个简单的 HTML 示例。</p><a href="https://example.com" class="link">访问示例网站</a><ul><li>项目一</li><li>项目二</li><li>项目三</li></ul>
</body>
</html>

我们可以使用以下代码加载这个 HTML 内容：

from bs4 import BeautifulSouphtml_content = """
<!DOCTYPE html>
<html>
<head><title>示例页面</title>
</head>
<body><h1 id="main-heading">欢迎来到示例页面</h1><p class="description">这里是一个简单的 HTML 示例。</p><a href="https://example.com" class="link">访问示例网站</a><ul><li>项目一</li><li>项目二</li><li>项目三</li></ul>
</body>
</html>
"""soup = BeautifulSoup(html_content, 'lxml')  # 使用 lxml 解析器
2. 查找元素

Beautiful Soup 提供了多种方法来查找元素：

  • 通过标签名查找：
title_tag = soup.title
print(title_tag.text)  # 输出：示例页面
  • 通过属性查找：
heading_tag = soup.find('h1', id='main-heading')
print(heading_tag.text)  # 输出：欢迎来到示例页面link_tag = soup.find('a', class_='link')
print(link_tag['href'])  # 输出：https://example.com
  • 查找所有符合条件的元素：
list_items = soup.find_all('li')
for item in list_items:print(item.text)
# 输出：
# 项目一
# 项目二
# 项目三
3. 遍历解析树

Beautiful Soup 允许我们轻松地遍历解析树：

  • 父节点和子节点：
body_tag = soup.body
for child in body_tag.children:print(child)  # 输出 body 的直接子节点
  • 兄弟节点：
first_item = soup.find('li')
next_item = first_item.find_next_sibling('li')
print(next_item.text)  # 输出：项目二
  • 前后节点：
description = soup.find('p', class_='description')
previous_node = description.find_previous()
print(previous_node)  # 输出 <h1 id="main-heading">欢迎来到示例页面</h1>
4. 修改和操作元素

我们还可以修改 HTML 内容：

  • 修改标签内容：
heading_tag.string = 'Hello, Beautiful Soup!'
print(heading_tag)  # 修改后的 h1 标签
  • 添加新元素：
new_tag = soup.new_tag('p')
new_tag.string = '这是一个新段落。'
soup.body.append(new_tag)
print(soup.body)  # 输出包含新段落的 body

进阶操作

1. CSS 选择器

除了基本的查找方法，Beautiful Soup 还支持 CSS 选择器：

link_tag = soup.select_one('.link')
print(link_tag['href'])  # 输出：https://example.comlist_items = soup.select('ul > li')
for item in list_items:print(item.text)
# 输出：
# 项目一
# 项目二
# 项目三
2. 处理复杂的 HTML 结构

Beautiful Soup 提供了灵活的解析和处理复杂 HTML 结构的能力。例如，处理嵌套的结构和动态内容：

nested_html = """
<div class="outer"><div class="inner"><p>嵌套内容</p></div>
</div>
"""nested_soup = BeautifulSoup(nested_html, 'lxml')
inner_div = nested_soup.select_one('.outer .inner')
print(inner_div.p.text)  # 输出：嵌套内容

总结

Beautiful Soup 是一个功能强大的网页解析工具，适合初学者快速上手和精通。本文介绍了如何安装和使用 Beautiful Soup 进行基本的网页解析操作，包括查找元素、遍历解析树、修改和操作元素等。通过这些示例和操作，你可以轻松地从网页中提取所需的数据，进行进一步的分析和处理。

希望本文对你有所帮助，Happy Scraping!

相关文章：

Beautiful Soup 入门指南：从零开始掌握网页解析

Beautiful Soup 入门指南&#xff1a;从零开始掌握网页解析 前言 在数据驱动的时代&#xff0c;网页数据是非常宝贵的资源。很多时候我们需要从网页上提取数据&#xff0c;进行分析和处理。Beautiful Soup 是一个非常流行的 Python 库&#xff0c;可以帮助我们轻松地解析和提…...

编程日记 2025/1/28 12:25:08

网络通信---MCU移植LWIP

使用的MCU型号为STM32F429IGT6&#xff0c;PHY为LAN7820A 目标是通过MCU的ETH给LWIP提供输入输出从而实现基本的Ping应答 OK废话不多说我们直接开始 下载源码 LWIP包源码&#xff1a;lwip源码 -在这里下载 ST官方支持的ETH包&#xff1a;ST-ETH支持包 这里下载 创建工程 …...

编程日记 2025/1/28 12:24:07

Go-并行编程新手指南

Go 并行编程新手指南 在Go语言中&#xff0c;并行编程是充分利用多核CPU资源、提升程序性能的重要手段。它的核心概念包括goroutine和channel&#xff0c;这些特性使得Go在处理并发任务时表现出色。 goroutine&#xff1a;轻量级的并发执行单元 goroutine是Go并行编程的基础…...

编程日记 2025/1/28 12:21:56

基于Django的个人博客系统的设计与实现

【Django】基于Django的个人博客系统的设计与实现&#xff08;完整系统源码开发笔记详细部署教程&#xff09;✅ 目录 一、项目简介二、项目界面展示三、项目视频展示 一、项目简介 系统采用Python作为主要开发语言&#xff0c;结合Django框架构建后端逻辑&#xff0c;并运用J…...

编程日记 2025/1/28 12:16:49

Python爬虫获取custom-1688自定义API操作接口

一、引言 在电子商务领域&#xff0c;1688作为国内领先的B2B平台&#xff0c;提供了丰富的API接口&#xff0c;允许开发者获取商品信息、店铺信息等。其中&#xff0c;custom接口允许开发者进行自定义操作&#xff0c;获取特定的数据。本文将详细介绍如何使用Python调用1688的…...

编程日记 2025/1/28 12:10:41

kaggle-ISIC 2024 - 使用 3D-TBP 检测皮肤癌-学习笔记

问题描述&#xff1a; 通过从 3D 全身照片 (TBP) 中裁剪出单个病变来识别经组织学确诊的皮肤癌病例 数据集描述&#xff1a; 图像临床文本信息 评价指标&#xff1a; pAUC&#xff0c;用于保证敏感性高于指定阈值下的AUC 主流方法分析&#xff08;文本&#xff09; 基于CatBoo…...

编程日记 2025/1/28 12:09:40

滤波电路汇总

0、前言 1. 引言 滤波电路是电子系统中不可或缺的组成部分，其主要功能是选择性地通过或衰减特定频率范围内的信号。在现代电子技术中，滤波电路广泛应用于信号处理、通信系统、音频设备、电源设计等多个领域。通过滤波，可以去除信号中的噪声和干扰，提高信号的质量和稳定性…...

编程日记 2025/1/28 12:05:22

1.Template Method 模式

模式定义 定义一个操作中的算法的骨架&#xff08;稳定&#xff09;&#xff0c;而将一些步骤延迟&#xff08;变化)到子类中。Template Method 使得子类可以不改变&#xff08;复用&#xff09;一个算法的结构即可重定义&#xff08;override 重写&#xff09;该算法的某些特…...

编程日记 2025/1/28 12:04:20

MySQL分表自动化创建的实现方案(存储过程、事件调度器)

《MySQL 新年度自动分表创建项目方案》 一、项目目的 在数据库应用场景中&#xff0c;随着数据量的不断增长&#xff0c;单表存储数据可能会面临性能瓶颈&#xff0c;例如查询、插入、更新等操作的效率会逐渐降低。分表是一种有效的优化策略&#xff0c;它将数据分散存储在多…...

编程日记 2025/1/28 12:02:18

基于回归分析法的光伏发电系统最大功率计算simulink建模与仿真

目录 1.课题概述 2.系统仿真结果 3.核心程序与模型 4.系统原理简介 5.完整工程文件 1.课题概述 基于回归分析法的光伏发电系统最大功率计算simulink建模与仿真。选择回归法进行最大功率点的追踪&#xff0c;使用光强和温度作为影响因素&#xff0c;电压作为输出进行建模。…...

编程日记 2025/1/28 12:01:09

计算机毕业设计【任务书】怎么写？

1. 什么是毕业设计任务书 毕业设计任务书是学生在毕业设计初期向指导教师提交的文档&#xff0c;主要用于说明毕业设计的选题、研究内容、目标、方法、进度安排等。 2. 撰写任务书的步骤 2.1 确定选题 选题是撰写任务书的第一步。选题应结合自身兴趣、专业方向和实际应用需…...

编程日记 2025/1/28 11:57:03

GRAPHARG——学习

20250106 项目git地址&#xff1a;https://github.com/microsoft/graphrag.git 版本&#xff1a;1.2.0 ### This config file contains required core defaults that must be set, along with a handful of common optional settings. ### For a full list of available setti…...

编程日记 2025/1/28 11:52:57

【Rust自学】15.6. RefCell与内部可变性：“摆脱”安全性限制

题外话&#xff0c;这篇文章一共4050字&#xff0c;是截止到目前为止最长的文章&#xff0c;如果你能坚持读完并理解&#xff0c;那真的很强&#xff01; 喜欢的话别忘了点赞、收藏加关注哦&#xff08;加关注即可阅读全文&#xff09;&#xff0c;对接下来的教程有兴趣的可以…...

编程日记 2025/1/28 11:44:36

14.模型，纹理，着色器

模型、纹理和着色器是计算机图形学中的三个核心概念&#xff0c;用通俗易懂的方式来解释&#xff1a; 1. 模型&#xff1a;3D物体的骨架 通俗解释&#xff1a; 模型就像3D物体的骨架&#xff0c;定义了物体的形状和结构。 比如&#xff0c;一个房子的模型包括墙、屋顶、窗户等…...

编程日记 2025/1/28 11:40:27

【C语言分支与循环结构详解】

目录 ---------------------------------------begin--------------------------------------- 一、分支结构 1. if语句 2. switch语句 二、循环结构 1. for循环 2. while循环 3. do-while循环 三、嵌套结构 结语 -----------------------------------------end----…...

编程日记 2025/1/28 11:38:09

新项目上传gitlab

Git global setup git config --global user.name “FUFANGYU” git config --global user.email “fyfucnic.cn” Create a new repository git clone gitgit.dev.arp.cn:casDs/sawrd.git cd sawrd touch README.md git add README.md git commit -m “add README” git push…...

编程日记 2025/1/28 11:35:53

qt-QtQuick笔记之常见项目类简要介绍

qt-QtQuick笔记之常见项目类简要介绍 code review! 文章目录 qt-QtQuick笔记之常见项目类简要介绍1.QQuickItem2.QQuickRectangle3.QQuickImage4.QQuickText5.QQuickBorderImage6.QQuickTextInput7.QQuickButton8.QQuickSwitch9.QQuickListView10.QQuickGridView11.QQuickPopu…...

编程日记 2025/1/28 11:23:20

Continuous Batching 连续批处理

原始论文题目： Continuous Batching — ORCA: a distributed serving system for Transformer-based generative models 关键词： Continuous Batching， iteration-level scheduling， selective batching 1.迭代级调度(iteration-level scheduling) Orca系统又由几个关键…...

编程日记 2025/1/28 11:22:16

海外问卷调查渠道查如何设置：最佳实践+示例

随着经济全球化和一体化进程的加速&#xff0c;企业间的竞争日益加剧&#xff0c;为了获得更大的市场份额&#xff0c;对企业和品牌而言&#xff0c;了解受众群体的的需求、偏好和痛点才是走向成功的关键。而海外问卷调查才是获得受众群体痛点的关键&#xff0c;制作海外问卷调…...

编程日记 2025/1/28 11:19:57

把本地搭建的hexo博客部署到自己的服务器上

配置远程服务器的git 安装git 安装依赖工具包 yum install -y curl-devel expat-devel gettext-devel openssl-devel zlib-devel安装编译工具 yum install -y gcc perl-ExtUtils-MakeMaker package下载git&#xff0c;也可以去官网下载了传到服务器上 wget https://www.ke…...

编程日记 2025/1/28 11:18:52

idea大量爆红问题解决

问题描述 在学习和工作中&#xff0c;idea是程序员不可缺少的一个工具&#xff0c;但是突然在有些时候就会出现大量爆红的问题&#xff0c;发现无法跳转&#xff0c;无论是关机重启或者是替换root都无法解决 就是如上所展示的问题&#xff0c;但是程序依然可以启动。 问题解决…...

编程新知 2025/12/28 20:48:11

CVPR 2025 MIMO: 支持视觉指代和像素grounding 的医学视觉语言模型

CVPR 2025 | MIMO&#xff1a;支持视觉指代和像素对齐的医学视觉语言模型 论文信息 标题&#xff1a;MIMO: A medical vision language model with visual referring multimodal input and pixel grounding multimodal output作者&#xff1a;Yanyuan Chen, Dexuan Xu, Yu Hu…...

编程新知 2025/10/6 14:17:21

逻辑回归：给不确定性划界的分类大师

想象你是一名医生。面对患者的检查报告&#xff08;肿瘤大小、血液指标&#xff09;&#xff0c;你需要做出一个**决定性判断**&#xff1a;恶性还是良性&#xff1f;这种“非黑即白”的抉择&#xff0c;正是**逻辑回归&#xff08;Logistic Regression&#xff09;** 的战场&a…...

编程新知 2025/10/27 21:25:04

2025年能源电力系统与流体力学国际会议 (EPSFD 2025)

2025年能源电力系统与流体力学国际会议&#xff08;EPSFD 2025&#xff09;将于本年度在美丽的杭州盛大召开。作为全球能源、电力系统以及流体力学领域的顶级盛会&#xff0c;EPSFD 2025旨在为来自世界各地的科学家、工程师和研究人员提供一个展示最新研究成果、分享实践经验及…...

编程新知 2025/12/21 21:20:38

Cesium1.95中高性能加载1500个点

一、基本方式&#xff1a; 图标使用.png比.svg性能要好 <template><div id"cesiumContainer"></div><div class"toolbar"><button id"resetButton">重新生成点</button><span id"countDisplay&qu…...

编程新知 2025/12/17 2:10:10

深入浅出：JavaScript 中的 `window.crypto.getRandomValues()` 方法

深入浅出&#xff1a;JavaScript 中的 window.crypto.getRandomValues() 方法 在现代 Web 开发中&#xff0c;随机数的生成看似简单&#xff0c;却隐藏着许多玄机。无论是生成密码、加密密钥&#xff0c;还是创建安全令牌&#xff0c;随机数的质量直接关系到系统的安全性。Jav…...

编程新知 2025/10/8 4:56:09

连锁超市冷库节能解决方案：如何实现超市降本增效

在连锁超市冷库运营中&#xff0c;高能耗、设备损耗快、人工管理低效等问题长期困扰企业。御控冷库节能解决方案通过智能控制化霜、按需化霜、实时监控、故障诊断、自动预警、远程控制开关六大核心技术&#xff0c;实现年省电费15%-60%&#xff0c;且不改动原有装备、安装快捷、…...

编程新知 2025/11/30 16:55:29

CentOS下的分布式内存计算Spark环境部署

一、Spark 核心架构与应用场景 1.1 分布式计算引擎的核心优势 Spark 是基于内存的分布式计算框架&#xff0c;相比 MapReduce 具有以下核心优势&#xff1a; 内存计算&#xff1a;数据可常驻内存&#xff0c;迭代计算性能提升 10-100 倍&#xff08;文档段落&#xff1a;3-79…...

编程新知 2025/12/26 8:10:47

2.Vue编写一个app

1.src中重要的组成 1.1main.ts // 引入createApp用于创建应用 import { createApp } from "vue"; // 引用App根组件 import App from ./App.vue;createApp(App).mount(#app)1.2 App.vue 其中要写三种标签 <template> <!--html--> </template>…...

编程新知 2025/12/21 4:10:41

什么是库存周转？如何用进销存系统提高库存周转率？

你可能听说过这样一句话&#xff1a; “利润不是赚出来的&#xff0c;是管出来的。” 尤其是在制造业、批发零售、电商这类“货堆成山”的行业&#xff0c;很多企业看着销售不错&#xff0c;账上却没钱、利润也不见了&#xff0c;一翻库存才发现&#xff1a; 一堆卖不动的旧货…...

编程新知 2025/12/27 9:19:19