Python爬虫---解析---BeautifulSoup
BeautifulSoup简称：bs4
作用：解析和提取数据
1. 安装：pip install bs4 或pip install bs4 -i https://pypi.douban.com/simple（使用国内镜像下载）
注意：需要安装在python解释器相同的位置,例如：D:\Program Files\Python3.11.4\Scripts
2. 导入： from bs4 import BeautifulSoup
3. 创建对象：
1）服务器响应的文件生成对象：
soup = Bequtifulsoup(response.read().decode(),'lxml')
2）本地文件生成对象 soup = BeautifulSoup(open('1.html'),'lxml')
注意:默认打开文件的编码格式gbk所以需要指定打开编码格式
4.使用：
4.1. bs4的一些函数: 1) find 2) findall 3) select
1) find：获取第一个符合条件的数据
2) findall:返回的是一个列表，且返回所有符合条件的标签，如果获取多个标签的数据，需要放在列表中
3) select：返回的是一个列表，并且会返回多个数据
4.2. 例子：
from bs4 import BeautifulSoup# 通过解析本地文件
soup = BeautifulSoup(open("1224-解析-BeautifulSoup.html", encoding="utf-8"), "lxml")
# print(soup)# 根据标签名查找节点
print(soup.a) # 获取第一个符合条件的数据的 a标签
print(soup.a.attrs) # 获取第一个a标签的属性和属性值# bs4的一些函数: 1) find 2) findall 3) select# 1) find：获取第一个符合条件的数据
print(soup.find("a")) # 获取第一个a标签
print(soup.find("a", title="a2")) # 根据title值来找到对应的标签对象
print(soup.find("a", class_="a1")) # 根据class值找到对应标签对象，注意class需要添加下划线# 2) findall:返回的是一个列表，且返回所有符合条件的标签，如果获取多个标签的数据，需要放在列表中
print(soup.find_all("a")) # 返回所有符合条件的a标签
print(soup.find_all(["a", "span"])) # 多个需要放在列表中
print(soup.find_all("li", limit=2)) # limit：查找前几个数据# 3) select：返回的是一个列表，并且会返回多个数据
print(soup.select("a"))
print(soup.select(".a1")) # 可以通过.代表class
print(soup.select("#l1")) # 可以通过#代表id
# 属性选择器------通过属性查找对应的标签
print(soup.select("li[id]")) # 查找到li标签中有id的标签
print(soup.select("li[id='l2']")) # 查找li标签中id为l2的标签
# 层级选择器
print(soup.select("div li")) # 后代选择器 div下面的li
print(soup.select("div>ul>li")) # 子代选择器
print(soup.select("a,li")) # 找到a标签和li标签的所有的对象# 节点信息：
# 1）获取节点内容
obj = soup.select("#d1")[0]
# 如果标签对象中，只有内容，那么string和get_text()都可以用
# 如果标签对象中，除了内容还有标签，那么string就获取不到数据，而get_text()可以获取到数据
print(obj.string) # None
print(obj.get_text()) # 我是第二个span
# 2）节点的属性
obj1 = soup.select("#p1")[0]
print(obj1.name) # name:标签的名字 p
print(obj.attrs) # 将属性值作为一个字典返回 {'id': 'd1'}# 3）获取节点的属性
obj2 = soup.select("#p1")[0]
print(obj2.attrs.get("class")) # ['p1']
print(obj2.get("class")) # ['p1']
print(obj2["class"]) # ['p1']html：
<!doctype html>
<html lang="en">
<head><meta charset="UTF-8"><meta name="viewport"content="width=device-width, user-scalable=no, initial-scale=1.0, maximum-scale=1.0, minimum-scale=1.0"><meta http-equiv="X-UA-Compatible" content="ie=edge"><title>Document</title>
</head>
<body><div><ul><li id="l1">张三</li><li id="l2">李四</li><li>王五</li><a href="" id="" class="a1">BeautifulSoup</a><span>我是span</span></ul></div><a href="" title="a2">百度</a><div id="d1"><span>我是第二个span</span></div><p id="p1" class="p1">我是p标签</p>
</body>
</html>相关文章：
Python爬虫---解析---BeautifulSoup
BeautifulSoup简称：bs4 作用：解析和提取数据 1. 安装：pip install bs4 或pip install bs4 -i https://pypi.douban.com/simple（使用国内镜像下载） 注意：需要安装在python解释器相同的位置,例如…...
Argument list too long when copying files
for i in /path/to/dir/*; do cp "$i" /path/to/other/dir/; done...
configure
configure 配置软件./configure --prefix$PWD/output CCaarch64-linux-gcc --hostaarch64-linux --enable-shared --enable-staticconfig.sub 文件 这个文件用于确定主机系统的类型，并返回与该系统相关的标识符。它包含一系列 shell 函数，用于检测主机…...
HOJ 项目部署-前端定制 默认勾选显示标签、 在线编辑器主题和字号大小修改、增加一言功能 题目AC后礼花绽放
# 项目拉取地址： https://gitee.com/himitzh0730/hoj.git # 切换到hoj-vue目录执行以下命令 #安装依赖 npm install #运行服务 npm run serve #修改代码后构建项目到dist文件夹，到服务器docker-compose.yml中修改hoj-frontend文件映射即可 npm run build…...
)
Scikit-Learn线性回归(二)
Scikit-Learn线性回归二：多项式回归 1、多项式回归2、多项式回归的原理3、Scikit-Learn多项式回归3.1、Scikit-Learn多项式回归API1、多项式回归 线性回归研究的是一个自变量与一个因变量之间的回归问题。在实际应用中，并不是所有的情景都符合线性关系，大多数情况都是非线性…...
07 Vue3框架简介
文章目录 一、Vue3简介1. 简介2. 相关网站3. 前端技术对比4. JS前端框架5. Vue核心内容6. 使用方式 二、基础概念1. 创建一个应用2. 变量双向绑定（v-model）3. 条件控制（v-if）4. 数组遍历（v-for）5. 绑定事件…...
前端八股文（js篇）
一.强制类型转换规则 首先需要了解隐式转换所调用的函数。 当程序员显示调用Boolean（value）,Number（value），String（value）完成的类型转换，叫做显示类型转换。 当通过new Boolean&…...
windows+ubuntu离线安装翻译软件有道词典
背景： 某些情况下，需要在无法连接互联网的电脑上翻译单词，句子以及段落，就需要能离线安装和翻译的翻译软件，具备一定的词库量，目前找到了《有道词典》。 windows 亲测，无法联网的win10中安装…...
DevC++ easyx实现视口编辑，在超过屏幕大小的地图上画点，与解决刮刮乐bug效果中理解C语言指针的意义
继上篇文案， DevC easyx实现地图拖动，超过屏幕大小的巨大地图的局部显示在屏幕的方法——用悬浮窗的原理来的实现一个视口-CSDN博客 实现了大地图拖动，但是当时野心不止，就想着一气能搓啥就继续搓啥，看着地图移动都搓…...
Kali Linux—借助 SET+MSF 进行网络钓鱼、生成木马、获主机shell、权限提升、远程监控、钓鱼邮件等完整渗透测试（一）
社会工程学—世界头号黑客凯文米特尼克在《欺骗的艺术》中曾提到，这是一种通过对受害者心理弱点、本能反应、好奇心、信任、贪婪等心理陷阱进行诸如欺骗、伤害等危害手段。 SET最常用的攻击方法有：用恶意附件对目标进行 E-mail 钓鱼攻击、Java Applet攻…...
时间与时间戳转换及android和ios对时间识别的区别
注意： "2021-05-01 12:53:59.55" 时间对象在 ios 中会出现 NaN-NaN1-NaN 需要将对象格式化为："2021/05/01 12:53:59.55" 可同时兼容 android 和 ios。 //将某时间转时间戳 /* var time new Date("2021-05-01 12:53:59.55&qu…...
飞天使-k8s知识点7-kubernetes升级
文章目录 验证新版本有没有问题需要安装的版本微微 1.20.6.0kubeadm upgrade plan 验证新版本有没有问题 查看可用版本的包 现有的状态 查看版本 yum list kubeadm --showduplicates |grep 1.20 yum list kubelet --showduplicates |grep 1.20 yum list kubectl --showduplic…...
【Unity游戏制作】游戏模型导入之前需要注意的三个基本点
👨💻个人主页：元宇宙-秩沅 👨💻 hallo 欢迎 点赞👍 收藏⭐ 留言📝 加关注✅! 👨💻 本文由 秩沅 原创 👨💻 收录于专栏：Uni…...
三列布局 css
实现如下图的三列布局： .box {width:1400px;margin:0 auto;padding-bottom:40px;> .left {float:left;width:180px;margin-top:100px;text-align:center;}> .center {float:left;margin-top:100px;margin-left:130px;item-box {float:left;text-align:left;…...
Android开发之生命周期（App、Activity）
在Android开发中，应用程序（App）和活动（Activity）的生命周期是非常重要的概念。它们各自都有一系列的生命周期方法，这些方法会在特定的时刻被系统自动调用，以便于开发者对应用或活动进行相应的操…...
利用html2Canvas将表格下载为html
给到我的需求是点击按钮时请求后端接口，根据后端返回的数据，生成表格,并将表格的内容直接下载为html,如下图。 平常做的下载都是后端返回二进制流，这次前端做下载那就必须把页面先画出来，因为下载下来的表格在页面上是不显示的&a…...
《Git快速入门》Git分支
1.master、origin、origin/master 区别 首先搞懂git分支的一些名称区别： master ： Git 的默认分支名字。它并不是一个特殊分支、跟其它分支完全没有区别。 之所以几乎每一个仓库都有 master 分支，是因为 git init 命令默认创建它，…...
HarmonyOS应用性能与功耗云测试
性能测试 性能测试主要验证HarmonyOS应用在华为真机设备上运行的性能问题，包括启动时长、界面显示、CPU占用和内存占用。具体性能测试项的详细说明请参考性能测试标准。 性能测试支持Phone和TV设备，包格式包括Hap/App。 前提条件 已注册华为开发者帐号&a…...
【AI】人工智能本地环境集成安装
目录 1、基础安装 1.1 GPU安装 1.1.1 GPU版本支持 1.1.2 下载CUDA 1.1.3安装CUDA 1.1.4配置环境变量 1.1.5检测CUDA是否安装成功 1.2 CUDNN安装 1.2.1 下载CUDNN 1.2.2 添加配置 1.2.3验证结果 2、pytorch安装...
主流级显卡的新选择，Sparkle（撼与科技）Intel Arc A750兽人体验分享
▼前言 对于玩家而言，英特尔独显的出现不仅打破了NVIDIA与AMD双雄天下的局面，而且旗下的Arc A系列显卡还拥有不俗的做工性能以及颇具优势的价格，无论是升级或者是装新机都非常合适。如果要在Arc A系列当中选一个性能不俗，能够满足…...
JeecgBoot低代码开发平台终极实战指南：从零开始构建企业级应用
JeecgBoot低代码开发平台终极实战指南：从零开始构建企业级应用 【免费下载链接】jeecg-boot jeecgboot/jeecg-boot 是一个基于 Spring Boot 的 Java 框架，用于快速开发企业级应用。适合在 Java 应用开发中使用，提高开发效率和代码质量。特点是…...
目标检测实战：从VOC XML到YOLO格式的自动化数据流水线
1. 为什么需要VOC转YOLO格式 在目标检测任务中，数据格式的统一性直接影响着模型训练的效率。VOC（PASCAL VOC）和YOLO是两种最常见的标注格式，但它们的存储方式截然不同。VOC采用XML文件记录目标的类别和边界框坐标，而YO…...
BiliTools：全能B站资源管理工具，让离线学习与内容备份无忧
BiliTools：全能B站资源管理工具，让离线学习与内容备份无忧 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱，支持视频、音乐、番剧、课程下载……持续更新 项目地址: https://gitcode.com/GitHub_Tren…...
3步解锁数据自由：WeChatMsg让聊天记录成为数字资产
3步解锁数据自由：WeChatMsg让聊天记录成为数字资产 【免费下载链接】WeChatMsg 提取微信聊天记录，将其导出成HTML、Word、CSV文档永久保存，对聊天记录进行分析生成年度聊天报告 项目地址: https://gitcode.com/GitHub_Trending/we/WeChatMs…...
EVA-01场景应用：电商商品分析、文档信息提取，真实工作流分享
EVA-01场景应用：电商商品分析、文档信息提取，真实工作流分享 1. 从科幻到现实：EVA-01的商业价值 在电商运营和文档处理的日常工作中，我们常常面临这样的挑战：海量商品图片需要人工标注关键信息，繁杂的合同…...
MCP3202 12位SPI ADC驱动开发与嵌入式工程实践
1. MCP3202 12位串行ADC嵌入式驱动深度解析与工程实践1.1 芯片特性与系统定位MCP3202 是 Microchip 推出的低功耗、逐次逼近型（SAR）12位模数转换器，专为嵌入式系统中高精度模拟信号采集场景设计。其核心电气特性如下：参数规格工程…...
Polars 2.0清洗架构解密（含完整数据流拓扑图）：为什么92%的团队还在用Pandas硬扛TB级脏数据？
第一章：Polars 2.0清洗架构解密：从设计哲学到性能跃迁Polars 2.0 的清洗架构并非简单功能叠加，而是以“零拷贝流式处理”与“惰性执行图优化”为双核驱动的范式重构。其设计哲学根植于两个核心信条：数据不应在内存中被无谓复制&am…...
链式前向星：高效图存储的进阶指南
1. 为什么需要链式前向星？ 当你第一次接触图论算法时，可能会被邻接矩阵和邻接表搞得晕头转向。我刚开始学图论的时候，就经常在这两种存储方式之间纠结。邻接矩阵写起来简单，一个二维数组就能搞定，但当节点数超过10000时…...
Qwen3.5-4B-Claude-Opus行业落地：高校编程教学辅助与算法解题思路生成
Qwen3.5-4B-Claude-Opus行业落地：高校编程教学辅助与算法解题思路生成 1. 模型介绍与教育场景适配性 Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-GGUF是一个专为推理任务优化的轻量级AI模型，特别适合教育领域的应用场景。该模型基于Qwen3.5-4B架…...
多模态扩展实验：OpenClaw+Qwen3-32B处理图片描述生成
多模态扩展实验：OpenClawQwen3-32B处理图片描述生成 1. 实验背景与动机 最近在探索如何将OpenClaw的自动化能力扩展到视觉领域。作为一个长期依赖文本交互的框架，OpenClaw能否结合多模态大模型处理图像任务？这引发了我的兴趣。恰好手头有台…...