当前位置：首页 > news >正文

python爬虫系列课程1：初识爬虫

news 2026/2/10 21:09:26

python爬虫系列课程1：初识爬虫

一、爬虫的概念
二、通用爬虫和自定义爬虫的区别
三、开发语言
四、爬虫流程

一、爬虫的概念

网络爬虫（又被称为网页蜘蛛、网络机器人）就是模拟浏览器发送网络请求，接收请求响应，一种按照一定的规则，自动抓取互联网信息的程序。原则上，只要是浏览器（客户端）能做的事情，爬虫都能够做。

二、通用爬虫和自定义爬虫的区别

通用爬虫可以提取大多数网站的数据，但是对于网站中某些特殊数据的提取方式没有实现。自定义爬虫可以针对某一种网站自行开发符合要求的爬虫。

三、开发语言

只要能够发送HTTP（S）请求的任何编程语言都是可以完成爬虫程序的，例如java、php、JavaScript等，但是论爬虫开发效率一般都指的是python语言。

四、爬虫流程

python爬虫系列课程1：初识爬虫

python爬虫系列课程1：初识爬虫一、爬虫的概念二、通用爬虫和自定义爬虫的区别三、开发语言四、爬虫流程一、爬虫的概念网络爬虫（又被称为网页蜘蛛、网络机器人）就是模拟浏览器发送网络请求，接收请求响应，一种按照一定的规则，自动抓取互联网信息的程序。原则上，只要是…...

编程日记 2025/2/20 2:02:19

大模型工具大比拼：SGLang、Ollama、VLLM、LLaMA.cpp 如何选择？

简介：在人工智能飞速发展的今天，大模型已经成为推动技术革新的核心力量。无论是智能客服、内容创作，还是科研辅助、代码生成，大模型的身影无处不在。然而，面对市场上琳琅满目的工具，如何挑选最适合自己的那…...

编程日记 2025/2/20 2:01:18

什么是语料清洗、预训练、指令微调、强化学习、内容安全；什么是megatron，deepspeed，vllm推理加速框架

什么是语料清洗、预训练、指令微调、强化学习、内容安全目录什么是语料清洗、预训练、指令微调、强化学习、内容安全语料清洗预训练指令微调强化学习内容安全什么是megatron，deepspeed，vllm推理加速框架语料清洗语料清洗是对原始文本数据进行处理的过程，旨在去除数据中的…...

编程日记 2025/2/20 2:00:17

HTTP的“对话”逻辑：请求与响应如何构建数据桥梁？

一、前言作为现代互联网通信的基石，HTTP协议定义了客户端与服务器之间的“对话规则”。每一次网页加载、API调用或文件传输的背后，都离不开精心构造的HTTP请求与响应。请求中封装了用户的意图——从请求方法、资源路径到提交的数据；响应则承…...

编程日记 2025/2/20 1:54:10

【深度学习】预训练和微调概述

预训练和微调概述 1. 预训练和微调的介绍1.1 预训练（Pretraining）1.2 微调（Fine-Tuning） 2. 预训练和微调的区别预训练和微调是现代深度学习模型训练中的两个关键步骤，它们通常是一个预训练-微调 (Pretrain-Finetune…...

编程日记 2025/2/20 1:48:03

自动化测试框架搭建-单次接口执行-三部曲

目的判断接口返回值和提前设置的预期是否一致，从而判断本次测试是否通过代码步骤设计第一步：前端调用后端已经写好的POST接口，并传递参数第二步：后端接收到参数，组装并请求指定接口，保存返回第三…...

编程日记 2025/2/20 1:47:01

【阮一峰】2.数组

数组简介所有成员的类型必须相同，但是成员数量是不确定的。由于成员数量可以动态变化，所以 TypeScript 不会对数组边界进行检查，越界访问数组并不会报错。第一种写法： let arr: (number | string)[];第二种写法&#xff…...

编程日记 2025/2/20 1:43:57

DeepSeek 接入PyCharm实现AI编程！（支持本地部署DeepSeek及官方DeepSeek接入）

前言在当今数字化时代，AI编程助手已成为提升开发效率的利器。DeepSeek作为一款强大的AI模型，凭借其出色的性能和开源免费的优势，成为许多开发者的首选。今天，就让我们一起探索如何将DeepSeek接入PyCharm，实现高效、智…...

编程日记 2025/2/20 1:41:54

【Java Card】Applet 使用Shareable进行数据分享以及部分问题处理

文章目录前言一、定义接口二、server端实现三、client端实现四、遇到的问题前言在进行开发时，可能会将业务放到不同的applet中，这时常常会需要进行数据的分享。比如在一个applet中存储了密钥，而在另一个业务applet中需要进行签名时&…...

编程日记 2025/2/20 1:38:51

国产FPGA开发板选择

FPGA开发板是学习和开发FPGA的重要工具，选择合适的开发板对学习效果和开发效率至关重要。随着国产FPGA的发展，淘宝上的许多FPGA开发板店铺也开始进行国产FPGA的设计和销售，本文将对国产FPGA和相关店铺做个简单梳理，帮助有需要使用…...

编程日记 2025/2/20 1:36:46

com.typesafe.config

com.typesafe.config 是 Typesafe Config 库的核心包，主要用于统一、灵活地管理应用程序配置，支持从多种格式（如 HOCON、JSON、Java Properties）加载配置，并提供类型安全的访问接口。以下是其核心功能的详细解析&…...

编程日记 2025/2/20 1:31:41

Ubuntu学习备忘

1. 打开Terminal快捷键 ctrl alt t 2.Ubuntu22.04的root没有默认初始密码， 为root设置密码，下面链接的step1, How to allow GUI root login on Ubuntu 22.04 Jammy Jellyfish Linux - LinuxConfig...

编程日记 2025/2/20 1:26:35

【C++】— 掌握STL vector 类：“Vector简介：动态数组的高效应用”

文章目录 1.vector的介绍和使用1.1vector的介绍1.2 vector的特点1.3vector的使用1.3.1vector的定义1.3.2vector iterator的使用1.3.3vector 的空间增长问题1.3.4 vector 的增删查改1.3.5vector 迭代器失效问题 1.vector的介绍和使用 1.1vector的介绍 vector是一个顺序容器&am…...

编程日记 2025/2/20 1:23:31

Docker__持续更新......

Docker 1. 基本知识1.1 为什么有Docker?1.2 Docker架构与容器化画图解释画图解释2. 项目实战 1. 基本知识 1.1 为什么有Docker? 用一行命令跨平台安装项目，在不同平台上运行项目。把项目打包分享运行应用。 1.2 Docker架构与容器化准备机器，在机…...

编程日记 2025/2/20 1:22:30

【R语言】主成分分析与因子分析

一、主成分分析主成分分析（Principal Component Analysis, PCA）是一种常用的无监督数据降维技术，广泛应用于统计学、数据科学和机器学习等领域。它通过正交化线性变换将（高维）原始数据投影到一个新的坐标系&#xff…...

编程日记 2025/2/20 1:21:29

ROS-相机话题-获取图像-颜色目标识别与定位-目标跟随-人脸检测

文章目录相机话题获取图像颜色目标识别与定位目标跟随人脸检测相机话题启动仿真 roslaunch wpr_simulation wpb_stage_robocup.launch rostopic hz /kinect2/qhd/image_color_rect/camera/image_raw：原始的、未经处理的图像数据。 /camera/image_rect&#xff…...

编程日记 2025/2/20 1:13:18

STM32 如何使用DMA和获取ADC

目录背景 ‌摇杆的原理程序端口配置 ADC 配置 DMA配置背景 DMA是一种计算机技术，允许某些硬件子系统直接访问系统内存，而不需要中央处理器（CPU）的介入，从而减轻CPU的负担。我们可以通过DMA来从外设&#xf…...

编程日记 2025/2/20 1:08:10

【JAVA实战】JAVA实现Excel模板下载并填充模板下拉选项数据

背景有这样一个场景：前端下载Excel模板，进行数据导入，这个下载模板过程需要经过后端接口去数据库查询数据进行某些列的下拉数据填充，下拉填充的数据过程中会出现错误String literals in formulas can’t be bigger than 255 cha…...

编程日记 2025/2/20 1:05:06

java面试笔记(一)

1. 一万个string类型的数据，设计一个算法如何按照String长度来排序以使用 Arrays.sort() 方法，并结合一个自定义的比较器。以下是实现的示例代码: public class StringLengthSort {public static void main(String[] args) {// 定义一万个字符串的示例…...

编程日记 2025/2/20 1:03:04

【C++】36.C++IO流

文章目录 1. C语言的输入与输出2. 流是什么3. CIO流3.1 C标准IO流3.2 C文件IO流 4. stringstream的简单介绍 1. C语言的输入与输出 C语言中我们用到的最频繁的输入输出方式就是scanf ()与printf()。 scanf(): 从标准输入设备(键盘)读取数据，并将值存放在变量中。pri…...

编程日记 2025/2/20 1:01:01

智慧工地云平台源码，基于微服务架构+Java+Spring Cloud +UniApp +MySql

智慧工地管理云平台系统，智慧工地全套源码，java版智慧工地源码，支持PC端、大屏端、移动端。智慧工地聚焦建筑行业的市场需求，提供“平台网络终端”的整体解决方案，提供劳务管理、视频管理、智能监测、绿色施工、安全管…...

编程新知 2026/1/30 15:16:32

五年级数学知识边界总结思考-下册

目录一、背景二、过程1.观察物体小学五年级下册“观察物体”知识点详解：由来、作用与意义**一、知识点核心内容****二、知识点的由来：从生活实践到数学抽象****三、知识的作用：解决实际问题的工具****四、学习的意义：培养核心素养…...

编程新知 2025/10/7 4:57:55

[10-3]软件I2C读写MPU6050 江协科技学习笔记（16个知识点）

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16...

编程新知 2026/1/28 8:34:48

【开发技术】.Net使用FFmpeg视频特定帧上绘制内容

目录一、目的二、解决方案 2.1 什么是FFmpeg 2.2 FFmpeg主要功能 2.3 使用Xabe.FFmpeg调用FFmpeg功能 2.4 使用 FFmpeg 的 drawbox 滤镜来绘制 ROI 三、总结一、目的当前市场上有很多目标检测智能识别的相关算法，当前调用一个医疗行业的AI识别算法后返回…...

编程新知 2026/2/9 17:11:06

【碎碎念】宝可梦 Mesh GO : 基于MESH网络的口袋妖怪宝可梦GO游戏自组网系统

目录游戏说明《宝可梦 Mesh GO》 —— 局域宝可梦探索Pokmon GO 类游戏核心理念应用场景Mesh 特性宝可梦玩法融合设计游戏构想要素1. 地图探索（基于物理空间广播范围）2. 野生宝可梦生成与广播3. 对战系统4. 道具与通信5. 延伸玩法安全性设计技术选…...

编程新知 2025/12/12 6:01:17

AI+无人机如何守护濒危物种？YOLOv8实现95%精准识别

【导读】野生动物监测在理解和保护生态系统中发挥着至关重要的作用。然而，传统的野生动物观察方法往往耗时耗力、成本高昂且范围有限。无人机的出现为野生动物监测提供了有前景的替代方案，能够实现大范围覆盖并远程采集数据。尽管具备这些优势&#xf…...

编程新知 2026/1/26 12:50:00

[大语言模型]在个人电脑上部署ollama 并进行管理,最后配置AI程序开发助手.

ollama官网: 下载 https://ollama.com/ 安装查看可以使用的模型 https://ollama.com/search 例如 https://ollama.com/library/deepseek-r1/tags # deepseek-r1:7bollama pull deepseek-r1:7b改token数量为409622 16384 ollama命令说明 ollama serve #&#xff1a…...

编程新知 2026/1/31 4:37:53