一文掌握 Scrapy 框架的详细使用，包括实战案例
更多内容请见： 爬虫和逆向教程-专栏介绍和目录
文章目录
- 1. Scrapy 简介
- 2. Scrapy 的核心组件
- 3. 安装 Scrapy
- 4. 创建 Scrapy 项目
- 4.1 创建项目
- 4.2 创建 Spider
- 5. 编写 Spider
- 5.1 定义 Item
- 5.2 编写 Spider 逻辑
- 6. 运行 Scrapy 爬虫
- 6.1 运行爬虫
- 6.2 保存爬取数据
- 7. Scrapy 的高级用法
- 7.1 使用 Pipeline 处理数据
- 7.2 使用 Middleware 处理请求和响应
- 7.3 使用 CrawlSpider
- 7.4 使用 Item Loader
- 8. Scrapy 的调试与测试
- 8.1 使用 Scrapy Shell
- 8.2 使用 Logging
- 9. Scrapy 的常见问题与解决方案
- 9.1 请求被拒绝
- 9.2 数据提取失败
- 9.3 性能问题
- 10. 实战案例：爬取新闻网站
- 11. Scrapy 的未来发展
- 12. 总结
1. Scrapy 简介
Scrapy 是一个用于爬取网站数据并提取结构化数据的 Python 框架。它设计简洁、功能强大，广泛应用于数据挖掘、信息处理和历史数据存档等领域。Scrapy 提供了完整的爬虫开发工具链，包括请求调度、数据提取、数据存储等功能。
2. Scrapy 的核心组件
1、Spider
作用：定义如何爬取网站，包括如何跟踪链接和提取数据。
类型：scrapy.Spider、CrawlSpider、XMLFeedSpider 等。
2、Item
作用：定义爬取数据的结构。
字段：使用 scrapy.Field 定义字段。
3、Pipeline
作用：处理爬取的数据，如清洗、验证和存储。
方法：process_item、open_spider、close_spider
相关文章：
一文掌握 Scrapy 框架的详细使用，包括实战案例
更多内容请见： 爬虫和逆向教程-专栏介绍和目录 文章目录 1. Scrapy 简介2. Scrapy 的核心组件3. 安装 Scrapy4. 创建 Scrapy 项目4.1 创建项目4.2 创建 Spider5. 编写 Spider5.1 定义 Item5.2 编写 Spider 逻辑6. 运行 Scrapy 爬虫6.1 运行爬虫6.2 保存爬取数据7. Scrapy 的高…...
【Mac】git使用再学习
目录 前言 如何使用github建立自己的代码库 第一步：建立本地git与远程github的联系 生成密钥 将密钥加入github 第二步：创建github仓库并clone到本地 第三步：上传文件 常见的git命令 git commit git branch git merge/git rebase …...
【MySQL篇】数据库基础
目录 1，什么是数据库？ 2，主流数据库 3，MySQL介绍 1，MySQL架构 2，SQL分类 3，MySQL存储引擎 1，什么是数据库？ 数据库（Database，简称DB…...
SpringBoot项目注入 traceId 来追踪整个请求的日志链路
SpringBoot项目注入 traceId 来追踪整个请求的日志链路，有了 traceId， 我们在排查问题的时候，可以迅速根据 traceId 查找到相关请求的日志，特别是在生产环境的时候，用户可能只提供一个错误截图，我们作为开发…...
【Block总结】SAFMN，空间自适应调制与局部特征增强的协同设计|即插即用
论文信息 标题：Spatially-Adaptive Feature Modulation for Efficient Image Super-Resolution论文链接：https://arxiv.org/pdf/2302.13800代码与模型：https://github.com/sunny2109/SAFMN 创新点 空间自适应特征调制（SAFM&…...
Python爬虫：一文掌握PyQuery模块
文章目录 1. PyQuery 简介2. PyQuery 的安装2.1 安装 PyQuery2.2 安装依赖库3. PyQuery 的基本使用3.1 初始化 PyQuery 对象3.2 选择元素3.3 获取元素内容3.4 遍历元素4. PyQuery 的高级用法4.1 过滤元素4.2 查找子元素4.3 获取属性值4.4 修改元素4.5 添加和删除元素4.6 遍历文…...
LearnOpenGL之Shader编程用算法绘画
———————————————————— 前序 ——————————————————— AndroidLearnOpenGL是本博主自己实现的LearnOpenGL练习集合： Github地址：GitHub - wangyongyao1989/AndroidLearnOpenGL: OpenGL基础及运用 系列文章ÿ…...
如何使用Spring Boot框架整合Redis：超详细案例教程
目录 # 为什么选择Spring Boot与Redis整合？ 1. 更新 pom.xml 2. 配置application.yml 3. 创建 Redis 配置类 4. Redis 操作类 5. 创建控制器 6. 启动应用程序 7. 测试 # 为什么选择Spring Boot与Redis整合？ 将Spring Boot与Redis整合可以充分利…...
算法--贪心
贪心 原理经典例题[860. 柠檬水找零](https://leetcode.cn/problems/lemonade-change/description/)[2208. 将数组和减半的最少操作次数](https://leetcode.cn/problems/minimum-operations-to-halve-array-sum/description/)[179. 最大数](https://leetcode.cn/problems/large…...
线程控制（创建、终止、等待、分离）
目录 1.前言 2.创建线程 pthread_create函数 3.线程终止 pthread_exit函数 pthread_cancel函数 4.线程等待 5.线程分离 1.前言 在Linux系统中，并不存在真正的线程，只有轻量级进程。所以，Linux系统只提供了操作轻量级进程的系统调用…...
【备份】php项目处理跨域请求踩坑
这都是老生常谈的东西了。我还在踩坑，记录一下。 我在项目入口明明写了如下代码： // 处理预检请求 (OPTIONS) if ($_SERVER[REQUEST_METHOD] OPTIONS) {header("Access-Control-Allow-Origin: https://xxx.vip");header("Access-Cont…...
目标检测YOLO实战应用案例100讲-面向无人机图像的小目标检测
目录 知识储备 YOLO v8无人机拍摄视角小目标检测 数据集结构 环境部署说明 安装依赖 模型训练权重和指标可视化展示 训练 YOLOv8 PyQt5 GUI 开发 主窗口代码 main_window.py 使用说明 无人机目标跟踪 一、目标跟踪的基本原理 二、常用的目标跟踪算法 基于YOLOv…...
实现 Leaflet 多类型点位标记与聚合功能的实战经验分享
在现代的地理信息系统（GIS）应用中，地图功能是不可或缺的一部分。无论是展示商业网点、旅游景点还是公共服务设施，地图都能以直观的方式呈现数据。然而，当数据量较大时，地图上可能会出现大量的标记点&#x…...
Linux 环境“从零”部署 MongoDB 6.0：mongosh 安装与数据操作全攻略
前提 完成linux平台部署MongoDB【部署教程】且完成mongosh的安装 由于本人使用的是6.0版本的MongoDB，新版本 MongoDB（尤其是 6.0 及以上版本）已经不再默认捆绑传统的 mongo shell，而改用新的 MongoDB Shell（mongosh&am…...
深度学习五大模型：CNN、Transformer、BERT、RNN、GAN详细解析
# 深度学习五虎将：当CNN遇见Transformer的奇幻漂流 ## 序章：AI江湖的兵器谱排行 2012年，多伦多大学的厨房里，Hinton的学生们用GPU煎了个"AlexNet"荷包蛋，从此开启了深度学习的热兵器时代。如今五大模型各显…...
004 rocketmq集群
1、集群模式 在RocketMQ中，集群的部署模式是比较多的，有以下几种： public class ConsumerDemo {public static void main(String[] args) throws Exception {DefaultMQPushConsumer consumer new DefaultMQPushConsumer("test-group&qu…...
基于 Python 深度学习的电影评论情感分析可视化系统（2.0 全新升级）
基于 Python 深度学习的电影评论情感分析可视化系统，基于 Flask 深度学习，构建了一个 影评情感分析系统，能够 自动分析影评、计算情感趋势 并 可视化展示，对于电影行业具有重要参考价值！ 基于 Python 深度学习的电影评…...
Linux内核配置与构建原理
Kconfig文件 Kconfig是Linux内核中用于配置功能的脚本语言系统，由众多内核源码树中每个目录下的Kconfig文件组成。它定义Linux相关的配置选项层次结构和依赖关系。 menuconfig工具，会抓取Kconfig中的信息，为用户输出友好的交互式菜单选项配…...
大语言模型微调的基本概念介绍
大型语言模型（LLMs）正在以惊人的速度发展，LLM微调的潜力更是如此。大型语言模型的生命周期有几个关键步骤，今天我们将要介绍这个周期中最丰富、最耗时的一部分——LLM微调过程。 大语言模型的生命周期 在深入了解大型语言模型&a…...
实例分割 | yolov11训练自己的数据集
前言 因工作要求使用的都是yolov5系列的模型，今天学习一下最先进的yolov11，记录一下环境配置及训练过程。 1.项目下载及环境安装 源码位置：yolov11 可以看到，这里要求python版本大于等于3.8，我这里安装python3.10.…...
DeepSeek 赋能智慧能源：微电网优化调度的智能革新路径
目录 一、智慧能源微电网优化调度概述1.1 智慧能源微电网概念1.2 优化调度的重要性1.3 目前面临的挑战 二、DeepSeek 技术探秘2.1 DeepSeek 技术原理2.2 DeepSeek 独特优势2.3 DeepSeek 在 AI 领域地位 三、DeepSeek 在微电网优化调度中的应用剖析3.1 数据处理与分析3.2 预测与…...
k8s从入门到放弃之Ingress七层负载
k8s从入门到放弃之Ingress七层负载 在Kubernetes（简称K8s）中，Ingress是一个API对象，它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress，你可…...
YSYX学习记录（八）
C语言，练习0： 先创建一个文件夹，我用的是物理机： 安装build-essential 练习1： 我注释掉了 #include <stdio.h> 出现下面错误 在你的文本编辑器中打开ex1文件，随机修改或删除一部分，之后…...
在四层代理中还原真实客户端ngx_stream_realip_module
一、模块原理与价值 PROXY Protocol 回溯 第三方负载均衡（如 HAProxy、AWS NLB、阿里 SLB）发起上游连接时，将真实客户端 IP/Port 写入 PROXY Protocol v1/v2 头。Stream 层接收到头部后，ngx_stream_realip_module 从中提取原始信息…...
Robots.txt 文件
什么是robots.txt？ robots.txt 是一个位于网站根目录下的文本文件（如：https://example.com/robots.txt），它用于指导网络爬虫（如搜索引擎的蜘蛛程序）如何抓取该网站的内容。这个文件遵循 Robots…...
Springboot社区养老保险系统小程序
一、前言 随着我国经济迅速发展，人们对手机的需求越来越大，各种手机软件也都在被广泛应用，但是对于手机进行数据信息管理，对于手机的各种软件也是备受用户的喜爱，社区养老保险系统小程序被用户普遍使用，为方…...
AI，如何重构理解、匹配与决策？
AI 时代，我们如何理解消费？ 作者｜王彬 封面｜Unplash 人们通过信息理解世界。 曾几何时，PC 与移动互联网重塑了人们的购物路径：信息变得唾手可得，商品决策变得高度依赖内容。 但 AI 时代的来…...
sipsak：SIP瑞士军刀！全参数详细教程！Kali Linux教程！
简介 sipsak 是一个面向会话初始协议 (SIP) 应用程序开发人员和管理员的小型命令行工具。它可以用于对 SIP 应用程序和设备进行一些简单的测试。 sipsak 是一款 SIP 压力和诊断实用程序。它通过 sip-uri 向服务器发送 SIP 请求，并检查收到的响应。它以以下模式之一…...
基于SpringBoot在线拍卖系统的设计和实现
摘 要 随着社会的发展，社会的各行各业都在利用信息化时代的优势。计算机的优势和普及使得各种信息系统的开发成为必需。 在线拍卖系统，主要的模块包括管理员；首页、个人中心、用户管理、商品类型管理、拍卖商品管理、历史竞拍管理、竞拍订单…...
Qt 事件处理中 return 的深入解析
Qt 事件处理中 return 的深入解析 在 Qt 事件处理中，return 语句的使用是另一个关键概念，它与 event->accept()/event->ignore() 密切相关但作用不同。让我们详细分析一下它们之间的关系和工作原理。 核心区别：不同层级的事件处理 方…...