当前位置： 首页 > news >正文

python爬虫常用数据保存模板（Excel、CSV、mysql）——scrapy中常用数据提取方法（CSS、XPATH、正则）（23）

news 2026/2/11 4:36:38

文章目录

  • 1、常用数据保存模板
    • 2.1 保存为Excel格式
    • 2.2 保存为CSV格式
    • 2.3 保存至mysql数据库
  • 2、scrapy中常用数据提取方法
    • 2.1 XPath选择器
    • 2.2 CSS选择器
    • 2.3 正则表达式

1、常用数据保存模板

2.1 保存为Excel格式

# 1、导入模块
from openpyxl import workbook# 2、创建一个excel对象
wb = workbook. Workbook()# 3、激活当前表
ws = wb.active# 4、将数据写入表格
ws.append(

相关文章：

python爬虫常用数据保存模板（Excel、CSV、mysql）——scrapy中常用数据提取方法（CSS、XPATH、正则）（23）

文章目录 1、常用数据保存模板2.1 保存为Excel格式2.2 保存为CSV格式2.3 保存至mysql数据库2、scrapy中常用数据提取方法2.1 XPath选择器2.2 CSS选择器2.3 正则表达式1、常用数据保存模板 2.1 保存为Excel格式 # 1、导入模块 from openpyxl import workbook# 2、创建一个exce…...

编程日记 2024/12/15 7:20:01

You need to call SQLitePCL.raw.SetProvider()

在.NET环境中使用Entity Framework Core（EF Core）连接SQLite数据库时，报错。 使用框架 .NET8 错误信息： Exception: You need to call SQLitePCL.raw.SetProvider(). If you are using a bundle package, this is done by calling…...

编程日记 2024/12/15 7:17:59

IoTDB AINode 报错，call inference 301: Error ocurred while executing inference

问题及现象 使用时序数据库 IoTDB 的 AINode 的 call inference 语句后报错： Msg: org.apache.iotdb.jdbc.IoTDBSOLException：301: Error ocurred while executing inference:[tuple object has no attribute inference]解决方法 可以替换 venv 里面的…...

编程日记 2024/12/15 7:14:56

LLM之RAG实战（五十）| FastAPI：构建基于LLM的WEB接口界面

FastAPI是WEB UI接口，随着LLM的蓬勃发展，FastAPI的生态也迎来了新的机遇。本文将围绕FastAPI、OpenAI的API以及FastCRUD，来创建一个个性化的电子邮件写作助手，以展示如何结合这些技术来构建强大的应用程序。 下面我们开始分步骤操…...

编程日记 2024/12/15 7:11:44

项目-移动端适配的几种方案

目录 一、rem方案二、vw适配方案 一、rem方案 以vue2项目为例 下载安装包：npm install amfe-flexible --save在main.js中引入：import ‘amfe-flexible’下载安装包：npm install postcss-pxtorem --save项目下新建postcss.config.js文件&…...

编程日记 2024/12/15 7:07:36

HCIA-Access V2.5_2_2网络通信基础_TCP/IP协议栈报文封装

TCP/IP协议栈的封装过程 用户从应用层发出数据先会交给传输层，传输层会添加TCP或者UDP头部，然后交给网络层，网络层会添加IP头部，然后交给数据链路层，数据链路层会添加以太网头部和以太网尾部，最后变成01这样…...

编程日记 2024/12/15 7:01:31

LSTM详解

1. LSTM设计 LSTM（长短期记忆网络）详解 长短期记忆网络（LSTM, Long Short-Term Memory） 是一种特殊的循环神经网络（RNN），特别适合处理和预测序列数据中的长时间依赖关系。LSTM 通过引入“门机制”（如输入门、遗忘门、输出门）来解决标准 RNN 在长时间序列任务中梯度消…...

编程日记 2024/12/15 7:00:29

从零开始搭建Android开发环境：简单易懂的完整教程

前言： 作为安卓开发的入门，搭建开发环境是每个开发者都必须迈出的第一步。虽然这一步看似简单，但如果没有正确的配置，可能会遇到各种问题。本篇文章将为大家详细介绍如何从零开始搭建Android开发环境，确保你能够顺利开…...

编程日记 2024/12/15 6:58:26

大模型运用-Prompt Engineering（提示工程）

什么是提示工程 提示工程 提示工程也叫指令工程，涉及到如何设计、优化和管理这些Prompt，以确保AI模型能够准确、高效地执行用户的指令，如：讲个笑话、java写个排序算法等 使用目的 1.获得具体问题的具体结果。（如&…...

编程日记 2024/12/15 6:57:24

CMake简单使用（二）

目录 五、scope 作用域5.1 作用域的类型5.1.1 全局作用域5.1.2 目录作用域5.1.3 函数作用域 六、宏6.1 基本语法6.2 演示代码 七、CMake构建项目7.1 全局变量7.2 写入源码路径7.3 调用子目录cmake脚本7.4 CMakeLists 嵌套(最常用) 八、CMake 与库8.1 CMake生成动静态库8.1.1 动…...

编程日记 2024/12/15 6:56:23

攻防世界安卓刷题笔记（新手模式）1-4

1.基础android 进入后是这样的页面。查看源代码看看。首先要注意这个软件并没有加壳，所以我们可以直接着手分析。搜索错误提示“Failed”定位到关键代码，看样子就是检验输入的内容 注意到这里有一行关键代码，cond_39对应的正是failed那个地方…...

编程日记 2024/12/15 6:54:19

发现一个对话框中的按钮，全部失效，点击都没有任何反应，已经解决

前端问题，技术vue2，ts。 发现一个对话框中的按钮，全部失效，点击都没有任何反应。 因为我只在template标签中加入下面这个代码，并没有注册。 只要有一个子组件没有注册，就会影响所有的按钮，使当前…...

编程日记 2024/12/15 6:53:16

MyBatisPlus实现多表查询

在MyBatisPlus中实现多表查询，主要有以下几种方法： 使用注解进行多表查询： 你可以在Mapper接口中使用Select注解来编写SQL查询语句，实现多表查询。例如，如果你想根据用户ID查询用户信息和对应的区域名称，可…...

编程日记 2024/12/15 6:51:10

机器学习详解(5):MLP代码详解之MNIST手写数字识别

文章目录 1 MNIST数据集2 代码详解2.1 导入库和GPU2.2 MNIST数据集处理2.2.1 下载和导入2.2.2 张量(Tensors)2.2.3 准备训练数据 2.3 创建模型2.3.1 图像展开2.3.2 输入层2.3.3 隐藏层2.3.4 输出层2.3.5 模型编译 2.4 训练模型2.4.1 损失函数与优化器2.4.2 计算准确率2.4.3 训练…...

编程日记 2024/12/15 6:49:07

如何在vue中实现父子通信

1.需要用到的组件 父组件 <template><div id"app"><BaseCount :count"count" changeCount"cahngeCount"></BaseCount></div> </template><script> import BaseCount from ./components/BaseCount.v…...

编程日记 2024/12/15 6:38:57

PHP实现华为OBS存储

一&#xff1a;华为OBS存储文档地址 官方文档&#xff1a;https://support.huaweicloud.com/obs/index.html github地址&#xff1a;https://github.com/huaweicloud/huaweicloud-sdk-php-obs 二&#xff1a;安装华为OBS拓展 composer require obs/esdk-obs-php 三&#x…...

编程日记 2024/12/15 6:37:56

嵌入式 linux Git常用命令 抽补丁 打补丁

Git常用命令 为什么要学习git呢&#xff1f;我相信刚入门的小伙伴敲打肯定碰到过这种玄学问题&#xff0c;我明明刚刚还能用的代码&#xff0c;后面不知道咋的就不能用了&#xff0c;所以每次你调出一个功能点以后都会手动复制一份代码防止出问题&#xff0c;时间一长发现整个…...

编程日记 2024/12/15 6:36:51

Alan Chhabra：MongoDB AI应用程序计划(MAAP) 为客户提供价值

MongoDB全球合作伙伴执行副总裁 Alan Chhabra 每当有人向我问询MongoDB&#xff0c;我都会说他们很可能在不觉之间已经与MongoDB有过交集。事实上&#xff0c;包括70%财富百强在内的许多世界领先企业公司都在使用MongoDB。我们在MongoDB所做的一切都是为了服务客户&#xff0c…...

编程日记 2024/12/15 6:35:49

【学习笔记】目前市面中手持激光雷达设备及参数汇总

手持激光雷达设备介绍 手持激光雷达设备是一种利用激光时间飞行原理来测量物体距离并构建三维模型的便携式高科技产品。它通过发射激光束并分析反射回来的激光信号&#xff0c;能够精确地获取物体的三维结构信息。这种设备以其高精度、适应各种光照环境的能力和便携性&#xf…...

编程日记 2024/12/15 6:34:47

Burp与小程序梦中情缘

前言 在日常渗透工作中&#xff0c;有时需要对微信小程序进行抓包渗透&#xff0c;通过抓包&#xff0c;我们可以捕获小程序与服务器之间的通信数据&#xff0c;分析这些数据可以帮助我们发现潜在的安全漏洞&#xff0c;本文通过讲述三个方法在PC端来对小程序抓包渗透 文章目…...

编程日记 2024/12/15 6:33:46

OpenLayers 可视化之热力图

注&#xff1a;当前使用的是 ol 5.3.0 版本&#xff0c;天地图使用的key请到天地图官网申请&#xff0c;并替换为自己的key 热力图&#xff08;Heatmap&#xff09;又叫热点图&#xff0c;是一种通过特殊高亮显示事物密度分布、变化趋势的数据可视化技术。采用颜色的深浅来显示…...

编程新知 2025/12/9 21:15:58

智慧医疗能源事业线深度画像分析（上）

引言 医疗行业作为现代社会的关键基础设施，其能源消耗与环境影响正日益受到关注。随着全球"双碳"目标的推进和可持续发展理念的深入，智慧医疗能源事业线应运而生，致力于通过创新技术与管理方案，重构医疗领域的能源使用模式。这一事业线融合了能源管理、可持续发…...

编程新知 2026/2/10 4:40:33

进程地址空间（比特课总结）

一、进程地址空间 1. 环境变量 1 &#xff09;⽤户级环境变量与系统级环境变量 全局属性&#xff1a;环境变量具有全局属性&#xff0c;会被⼦进程继承。例如当bash启动⼦进程时&#xff0c;环 境变量会⾃动传递给⼦进程。 本地变量限制&#xff1a;本地变量只在当前进程(ba…...

编程新知 2025/11/15 6:48:52

遍历 Map 类型集合的方法汇总

1 方法一 先用方法 keySet() 获取集合中的所有键。再通过 gey(key) 方法用对应键获取值 import java.util.HashMap; import java.util.Set;public class Test {public static void main(String[] args) {HashMap hashMap new HashMap();hashMap.put("语文",99);has…...

编程新知 2026/1/24 15:08:45

鸿蒙中用HarmonyOS SDK应用服务 HarmonyOS5开发一个医院查看报告小程序

一、开发环境准备 ​​工具安装​​&#xff1a; 下载安装DevEco Studio 4.0&#xff08;支持HarmonyOS 5&#xff09;配置HarmonyOS SDK 5.0确保Node.js版本≥14 ​​项目初始化​​&#xff1a; ohpm init harmony/hospital-report-app 二、核心功能模块实现 1. 报告列表…...

编程新知 2026/2/1 4:17:33

C++ 基础特性深度解析

目录 引言 一、命名空间&#xff08;namespace&#xff09; C 中的命名空间​ 与 C 语言的对比​ 二、缺省参数​ C 中的缺省参数​ 与 C 语言的对比​ 三、引用&#xff08;reference&#xff09;​ C 中的引用​ 与 C 语言的对比​ 四、inline&#xff08;内联函数…...

编程新知 2026/1/15 4:25:16

解决本地部署 SmolVLM2 大语言模型运行 flash-attn 报错

出现的问题 安装 flash-attn 会一直卡在 build 那一步或者运行报错 解决办法 是因为你安装的 flash-attn 版本没有对应上&#xff0c;所以报错&#xff0c;到 https://github.com/Dao-AILab/flash-attention/releases 下载对应版本&#xff0c;cu、torch、cp 的版本一定要对…...

编程新知 2025/11/3 2:11:24

Axios请求超时重发机制

Axios 超时重新请求实现方案 在 Axios 中实现超时重新请求可以通过以下几种方式&#xff1a; 1. 使用拦截器实现自动重试 import axios from axios;// 创建axios实例 const instance axios.create();// 设置超时时间 instance.defaults.timeout 5000;// 最大重试次数 cons…...

编程新知 2025/10/13 2:26:14

Pinocchio 库详解及其在足式机器人上的应用

Pinocchio 库详解及其在足式机器人上的应用 Pinocchio (Pinocchio is not only a nose) 是一个开源的 C 库&#xff0c;专门用于快速计算机器人模型的正向运动学、逆向运动学、雅可比矩阵、动力学和动力学导数。它主要关注效率和准确性&#xff0c;并提供了一个通用的框架&…...

编程新知 2025/11/28 5:32:31

【笔记】WSL 中 Rust 安装与测试完整记录

#工作记录 WSL 中 Rust 安装与测试完整记录 1. 运行环境 系统&#xff1a;Ubuntu 24.04 LTS (WSL2)架构&#xff1a;x86_64 (GNU/Linux)Rust 版本&#xff1a;rustc 1.87.0 (2025-05-09)Cargo 版本&#xff1a;cargo 1.87.0 (2025-05-06) 2. 安装 Rust 2.1 使用 Rust 官方安…...

编程新知 2026/1/26 14:15:48