当前位置： 首页 > news >正文

python爬虫常用数据保存模板（Excel、CSV、mysql）——scrapy中常用数据提取方法（CSS、XPATH、正则）（23）

news 2026/1/14 4:40:41

文章目录

  • 1、常用数据保存模板
    • 2.1 保存为Excel格式
    • 2.2 保存为CSV格式
    • 2.3 保存至mysql数据库
  • 2、scrapy中常用数据提取方法
    • 2.1 XPath选择器
    • 2.2 CSS选择器
    • 2.3 正则表达式

1、常用数据保存模板

2.1 保存为Excel格式

# 1、导入模块
from openpyxl import workbook# 2、创建一个excel对象
wb = workbook. Workbook()# 3、激活当前表
ws = wb.active# 4、将数据写入表格
ws.append(

相关文章：

python爬虫常用数据保存模板（Excel、CSV、mysql）——scrapy中常用数据提取方法（CSS、XPATH、正则）（23）

文章目录 1、常用数据保存模板2.1 保存为Excel格式2.2 保存为CSV格式2.3 保存至mysql数据库2、scrapy中常用数据提取方法2.1 XPath选择器2.2 CSS选择器2.3 正则表达式1、常用数据保存模板 2.1 保存为Excel格式 # 1、导入模块 from openpyxl import workbook# 2、创建一个exce…...

编程日记 2024/12/15 7:20:01

You need to call SQLitePCL.raw.SetProvider()

在.NET环境中使用Entity Framework Core（EF Core）连接SQLite数据库时，报错。 使用框架 .NET8 错误信息： Exception: You need to call SQLitePCL.raw.SetProvider(). If you are using a bundle package, this is done by calling…...

编程日记 2024/12/15 7:17:59

IoTDB AINode 报错，call inference 301: Error ocurred while executing inference

问题及现象 使用时序数据库 IoTDB 的 AINode 的 call inference 语句后报错： Msg: org.apache.iotdb.jdbc.IoTDBSOLException：301: Error ocurred while executing inference:[tuple object has no attribute inference]解决方法 可以替换 venv 里面的…...

编程日记 2024/12/15 7:14:56

LLM之RAG实战（五十）| FastAPI：构建基于LLM的WEB接口界面

FastAPI是WEB UI接口，随着LLM的蓬勃发展，FastAPI的生态也迎来了新的机遇。本文将围绕FastAPI、OpenAI的API以及FastCRUD，来创建一个个性化的电子邮件写作助手，以展示如何结合这些技术来构建强大的应用程序。 下面我们开始分步骤操…...

编程日记 2024/12/15 7:11:44

项目-移动端适配的几种方案

目录 一、rem方案二、vw适配方案 一、rem方案 以vue2项目为例 下载安装包：npm install amfe-flexible --save在main.js中引入：import ‘amfe-flexible’下载安装包：npm install postcss-pxtorem --save项目下新建postcss.config.js文件&…...

编程日记 2024/12/15 7:07:36

HCIA-Access V2.5_2_2网络通信基础_TCP/IP协议栈报文封装

TCP/IP协议栈的封装过程 用户从应用层发出数据先会交给传输层，传输层会添加TCP或者UDP头部，然后交给网络层，网络层会添加IP头部，然后交给数据链路层，数据链路层会添加以太网头部和以太网尾部，最后变成01这样…...

编程日记 2024/12/15 7:01:31

LSTM详解

1. LSTM设计 LSTM（长短期记忆网络）详解 长短期记忆网络（LSTM, Long Short-Term Memory） 是一种特殊的循环神经网络（RNN），特别适合处理和预测序列数据中的长时间依赖关系。LSTM 通过引入“门机制”（如输入门、遗忘门、输出门）来解决标准 RNN 在长时间序列任务中梯度消…...

编程日记 2024/12/15 7:00:29

从零开始搭建Android开发环境：简单易懂的完整教程

前言： 作为安卓开发的入门，搭建开发环境是每个开发者都必须迈出的第一步。虽然这一步看似简单，但如果没有正确的配置，可能会遇到各种问题。本篇文章将为大家详细介绍如何从零开始搭建Android开发环境，确保你能够顺利开…...

编程日记 2024/12/15 6:58:26

大模型运用-Prompt Engineering（提示工程）

什么是提示工程 提示工程 提示工程也叫指令工程，涉及到如何设计、优化和管理这些Prompt，以确保AI模型能够准确、高效地执行用户的指令，如：讲个笑话、java写个排序算法等 使用目的 1.获得具体问题的具体结果。（如&…...

编程日记 2024/12/15 6:57:24

CMake简单使用（二）

目录 五、scope 作用域5.1 作用域的类型5.1.1 全局作用域5.1.2 目录作用域5.1.3 函数作用域 六、宏6.1 基本语法6.2 演示代码 七、CMake构建项目7.1 全局变量7.2 写入源码路径7.3 调用子目录cmake脚本7.4 CMakeLists 嵌套(最常用) 八、CMake 与库8.1 CMake生成动静态库8.1.1 动…...

编程日记 2024/12/15 6:56:23

攻防世界安卓刷题笔记（新手模式）1-4

1.基础android 进入后是这样的页面。查看源代码看看。首先要注意这个软件并没有加壳，所以我们可以直接着手分析。搜索错误提示“Failed”定位到关键代码，看样子就是检验输入的内容 注意到这里有一行关键代码，cond_39对应的正是failed那个地方…...

编程日记 2024/12/15 6:54:19

发现一个对话框中的按钮，全部失效，点击都没有任何反应，已经解决

前端问题，技术vue2，ts。 发现一个对话框中的按钮，全部失效，点击都没有任何反应。 因为我只在template标签中加入下面这个代码，并没有注册。 只要有一个子组件没有注册，就会影响所有的按钮，使当前…...

编程日记 2024/12/15 6:53:16

MyBatisPlus实现多表查询

在MyBatisPlus中实现多表查询，主要有以下几种方法： 使用注解进行多表查询： 你可以在Mapper接口中使用Select注解来编写SQL查询语句，实现多表查询。例如，如果你想根据用户ID查询用户信息和对应的区域名称，可…...

编程日记 2024/12/15 6:51:10

机器学习详解(5):MLP代码详解之MNIST手写数字识别

文章目录 1 MNIST数据集2 代码详解2.1 导入库和GPU2.2 MNIST数据集处理2.2.1 下载和导入2.2.2 张量(Tensors)2.2.3 准备训练数据 2.3 创建模型2.3.1 图像展开2.3.2 输入层2.3.3 隐藏层2.3.4 输出层2.3.5 模型编译 2.4 训练模型2.4.1 损失函数与优化器2.4.2 计算准确率2.4.3 训练…...

编程日记 2024/12/15 6:49:07

如何在vue中实现父子通信

1.需要用到的组件 父组件 <template><div id"app"><BaseCount :count"count" changeCount"cahngeCount"></BaseCount></div> </template><script> import BaseCount from ./components/BaseCount.v…...

编程日记 2024/12/15 6:38:57

PHP实现华为OBS存储

一&#xff1a;华为OBS存储文档地址 官方文档&#xff1a;https://support.huaweicloud.com/obs/index.html github地址&#xff1a;https://github.com/huaweicloud/huaweicloud-sdk-php-obs 二&#xff1a;安装华为OBS拓展 composer require obs/esdk-obs-php 三&#x…...

编程日记 2024/12/15 6:37:56

嵌入式 linux Git常用命令 抽补丁 打补丁

Git常用命令 为什么要学习git呢&#xff1f;我相信刚入门的小伙伴敲打肯定碰到过这种玄学问题&#xff0c;我明明刚刚还能用的代码&#xff0c;后面不知道咋的就不能用了&#xff0c;所以每次你调出一个功能点以后都会手动复制一份代码防止出问题&#xff0c;时间一长发现整个…...

编程日记 2024/12/15 6:36:51

Alan Chhabra：MongoDB AI应用程序计划(MAAP) 为客户提供价值

MongoDB全球合作伙伴执行副总裁 Alan Chhabra 每当有人向我问询MongoDB&#xff0c;我都会说他们很可能在不觉之间已经与MongoDB有过交集。事实上&#xff0c;包括70%财富百强在内的许多世界领先企业公司都在使用MongoDB。我们在MongoDB所做的一切都是为了服务客户&#xff0c…...

编程日记 2024/12/15 6:35:49

【学习笔记】目前市面中手持激光雷达设备及参数汇总

手持激光雷达设备介绍 手持激光雷达设备是一种利用激光时间飞行原理来测量物体距离并构建三维模型的便携式高科技产品。它通过发射激光束并分析反射回来的激光信号&#xff0c;能够精确地获取物体的三维结构信息。这种设备以其高精度、适应各种光照环境的能力和便携性&#xf…...

编程日记 2024/12/15 6:34:47

Burp与小程序梦中情缘

前言 在日常渗透工作中&#xff0c;有时需要对微信小程序进行抓包渗透&#xff0c;通过抓包&#xff0c;我们可以捕获小程序与服务器之间的通信数据&#xff0c;分析这些数据可以帮助我们发现潜在的安全漏洞&#xff0c;本文通过讲述三个方法在PC端来对小程序抓包渗透 文章目…...

编程日记 2024/12/15 6:33:46

DBAPI如何优雅的获取单条数据

API如何优雅的获取单条数据 案例一 对于查询类API&#xff0c;查询的是单条数据&#xff0c;比如根据主键ID查询用户信息&#xff0c;sql如下&#xff1a; select id, name, age from user where id #{id}API默认返回的数据格式是多条的&#xff0c;如下&#xff1a; {&qu…...

编程新知 2026/1/9 14:05:24

mysql已经安装，但是通过rpm -q 没有找mysql相关的已安装包

文章目录 现象&#xff1a;mysql已经安装&#xff0c;但是通过rpm -q 没有找mysql相关的已安装包遇到 rpm 命令找不到已经安装的 MySQL 包时&#xff0c;可能是因为以下几个原因&#xff1a;1.MySQL 不是通过 RPM 包安装的2.RPM 数据库损坏3.使用了不同的包名或路径4.使用其他包…...

编程新知 2026/1/8 9:44:23

今日学习：Spring线程池|并发修改异常|链路丢失|登录续期|VIP过期策略|数值类缓存

文章目录 优雅版线程池ThreadPoolTaskExecutor和ThreadPoolTaskExecutor的装饰器并发修改异常并发修改异常简介实现机制设计原因及意义 使用线程池造成的链路丢失问题线程池导致的链路丢失问题发生原因 常见解决方法更好的解决方法设计精妙之处 登录续期登录续期常见实现方式特…...

编程新知 2025/9/17 22:26:02

如何在网页里填写 PDF 表格？

有时候&#xff0c;你可能希望用户能在你的网站上填写 PDF 表单。然而&#xff0c;这件事并不简单&#xff0c;因为 PDF 并不是一种原生的网页格式。虽然浏览器可以显示 PDF 文件&#xff0c;但原生并不支持编辑或填写它们。更糟的是&#xff0c;如果你想收集表单数据&#xff…...

编程新知 2026/1/13 17:13:18

Docker 本地安装 mysql 数据库

Docker: Accelerated Container Application Development 下载对应操作系统版本的 docker &#xff1b;并安装。 基础操作不再赘述。 打开 macOS 终端&#xff0c;开始 docker 安装mysql之旅 第一步 docker search mysql 》〉docker search mysql NAME DE…...

编程新知 2026/1/10 8:50:43

【JVM面试篇】高频八股汇总——类加载和类加载器

目录 1. 讲一下类加载过程&#xff1f; 2. Java创建对象的过程&#xff1f; 3. 对象的生命周期&#xff1f; 4. 类加载器有哪些&#xff1f; 5. 双亲委派模型的作用&#xff08;好处&#xff09;&#xff1f; 6. 讲一下类的加载和双亲委派原则&#xff1f; 7. 双亲委派模…...

编程新知 2025/12/31 20:22:15

LLMs 系列实操科普（1）

写在前面&#xff1a; 本期内容我们继续 Andrej Karpathy 的《How I use LLMs》讲座内容&#xff0c;原视频时长 ~130 分钟&#xff0c;以实操演示主流的一些 LLMs 的使用&#xff0c;由于涉及到实操&#xff0c;实际上并不适合以文字整理&#xff0c;但还是决定尽量整理一份笔…...

编程新知 2025/12/31 21:11:28

Selenium常用函数介绍

目录 一&#xff0c;元素定位 1.1 cssSeector 1.2 xpath 二&#xff0c;操作测试对象 三&#xff0c;窗口 3.1 案例 3.2 窗口切换 3.3 窗口大小 3.4 屏幕截图 3.5 关闭窗口 四&#xff0c;弹窗 五&#xff0c;等待 六&#xff0c;导航 七&#xff0c;文件上传 …...

编程新知 2026/1/4 8:28:41

Caliper 负载(Workload)详细解析

Caliper 负载(Workload)详细解析 负载(Workload)是 Caliper 性能测试的核心部分，它定义了测试期间要执行的具体合约调用行为和交易模式。下面我将全面深入地讲解负载的各个方面。 一、负载模块基本结构 一个典型的负载模块(如 workload.js)包含以下基本结构： use strict;/…...

编程新知 2025/10/31 21:11:39

安卓基础（Java 和 Gradle 版本）

1. 设置项目的 JDK 版本 方法1&#xff1a;通过 Project Structure File → Project Structure... (或按 CtrlAltShiftS) 左侧选择 SDK Location 在 Gradle Settings 部分&#xff0c;设置 Gradle JDK 方法2&#xff1a;通过 Settings File → Settings... (或 CtrlAltS)…...

编程新知 2025/7/10 0:32:50