如何让Python爬虫在遇到异常时继续运行

概述

在数据收集和数据挖掘中，爬虫技术是一项关键技能。然而，爬虫在运行过程中不可避免地会遇到各种异常情况，如网络超时、目标网站变化、数据格式不一致等。如果不加以处理，这些异常可能会导致爬虫程序中断，影响数据采集效率和完整性。本文将概述如何使用Python编写一个健壮的爬虫，确保其在遇到异常时能够继续运行。我们将通过使用try/except语句处理异常，结合代理IP技术和多线程技术，以提高爬虫的采集效率。

细节

1. 异常处理

异常处理是编写健壮爬虫程序的基础。在Python中，可以使用try/except语句捕获并处理可能出现的异常，确保程序在遇到问题时不会崩溃，而是能继续执行其他任务。

2. 使用代理IP

为了避免爬虫被目标网站封禁或限制，可以使用代理IP。通过代理服务器，爬虫可以伪装成不同的IP地址，分散请求的来源，提高爬取的成功率。本文将使用爬虫代理服务。

3. 多线程技术

多线程可以显著提高爬虫的采集效率。通过同时运行多个线程，爬虫可以在同一时间发出多个请求，从而加快数据采集速度。

示例代码

以下是一个实现了异常处理、代理IP、多线程技术的Python爬虫示例代码：

import requests
from concurrent.futures import ThreadPoolExecutor
import time
import sqlite3# 代理IP配置 亿牛云爬虫代理加强版
proxy_host = "www.16yun.cn"  # 代理IP地址
proxy_port = "8000"              # 代理端口
proxy_user = "user123"           # 用户名
proxy_pass = "pass123"           # 密码# 设置User-Agent
headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36"
}# 目标URL列表
urls = ["http://example.com/page1", "http://example.com/page2", ...]# 设置代理
proxies = {"http": f"http://{proxy_user}:{proxy_pass}@{proxy_host}:{proxy_port}","https": f"https://{proxy_user}:{proxy_pass}@{proxy_host}:{proxy_port}",
}# 数据库配置
db_name = "crawler_data.db"# 初始化数据库
def init_db():conn = sqlite3.connect(db_name)cursor = conn.cursor()cursor.execute('''CREATE TABLE IF NOT EXISTS pages (id INTEGER PRIMARY KEY AUTOINCREMENT,url TEXT NOT NULL,content TEXT NOT NULL,status_code INTEGER NOT NULL,timestamp DATETIME DEFAULT CURRENT_TIMESTAMP)''')conn.commit()conn.close()# 存储数据到数据库
def save_to_db(url, content, status_code):conn = sqlite3.connect(db_name)cursor = conn.cursor()cursor.execute('''INSERT INTO pages (url, content, status_code)VALUES (?, ?, ?)''', (url, content, status_code))conn.commit()conn.close()# 抓取URL并处理
def fetch_url(url, max_retries=5):retries = 0while retries < max_retries:try:response = requests.get(url, headers=headers, proxies=proxies, timeout=10)response.raise_for_status()  # 如果响应状态码不是200, 引发HTTPError异常print(f"成功抓取: {url}")save_to_db(url, response.text, response.status_code)returnexcept requests.RequestException as e:retries += 1print(f"抓取失败: {url}, 错误信息: {e}, 重试次数: {retries}")time.sleep(1)  # 等待一秒后重试print(f"最终抓取失败: {url}，超过最大重试次数: {max_retries}")# 使用多线程进行爬取
def run_crawler(urls, max_workers=5):with ThreadPoolExecutor(max_workers=max_workers) as executor:executor.map(fetch_url, urls)if __name__ == "__main__":init_db()  # 初始化数据库start_time = time.time()run_crawler(urls)print(f"总共用时: {time.time() - start_time} 秒")# 这个脚本通过使用 try/except 来处理请求过程中的各种异常情况，
# 并通过代理IP技术来提高抓取成功率。同时，通过多线程技术提高了抓取效率。
# 在抓取失败后，会重复抓取直到成功或达到最大重试次数（5次）。
# 设置了User-Agent，并将抓取的内容存储到SQLite数据库中。

代码说明：

1. 代理IP配置：设置亿牛云爬虫代理的主机、端口、用户名和密码。
2. 设置User-Agent：在请求头中添加User-Agent字段。
3. 目标URL列表：定义需要抓取的URL列表。
4. 设置代理：通过proxies字典设置HTTP和HTTPS代理。
5. 数据库配置：选择SQLite作为数据库，并定义数据库名称db_name。
6. 初始化数据库：init_db函数创建一个表pages，包含URL、内容、状态码和时间戳。
7. 存储数据到数据库：save_to_db函数将抓取到的内容存储到数据库中。
8. 抓取URL并处理：fetch_url函数尝试抓取URL，最多重试5次。使用try/except处理异常，成功抓取后将内容存储到数据库。
9. 使用多线程进行爬取：run_crawler函数使用ThreadPoolExecutor实现多线程抓取。
10. 主程序：调用init_db函数初始化数据库，然后调用run_crawler函数并计算总共用时。

结论

通过合理地使用异常处理、代理IP和多线程技术，可以显著提高Python爬虫的健壮性和效率。异常处理确保爬虫在遇到问题时能够继续运行，代理IP技术可以避免爬虫被封禁，而多线程技术则可以大幅提升数据采集的速度。希望本文的介绍和示例代码能为您的爬虫开发提供有用的参考。