练习题 - Scrapy爬虫框架 Spider Middleware 爬虫页中间件

在 web 爬虫开发中，Scrapy 是一个非常强大且灵活的框架，它可以帮助开发者轻松地从网页中提取数据。Scrapy 的下载器中间件（Downloader Middleware）是 Scrapy 处理下载请求和响应的一个重要组件。通过使用和编写下载器中间件，开发者可以自定义请求的处理过程，增加请求头信息、设置代理、处理重定向、应对反爬策略等。

本次练习题将带领自学编程的用户深入了解 Scrapy 中的下载器中间件。通过这些实际的编程练习，用户将学会如何创建和使用下载器中间件，以应对各种实际的爬虫开发场景。

下载器中间件基础

创建自定义下载器中间件（难度：低）

在 Scrapy 项目中，创建一个简单的自定义下载器中间件，该中间件在每次请求发出前，将请求的 URL 打印到控制台中。要求你在 Scrapy 项目中正确配置这个中间件，并展示如何在 Spider 中使用。

在 Scrapy 项目的 middlewares.py 文件中定义一个新的下载器中间件类。在该类中，实现 process_request 方法来打印请求 URL。更新 Scrapy 项目的设置文件 settings.py，启用这个自定义中间件并设置其优先级。使用 Scrapy 自带的命令行工具运行爬虫࿰