当前位置： 首页 > news >正文

爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会

news 2025/9/18 1:07:45

标题：爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会

网址：https://fgw.sh.gov.cn/fgw-interaction-front/biz/projectApproval/home

MD5加密：ca7f5c978b1809d15a4b228198814253

需求文档

采集数据如下所示：

数据示例

解决反爬思路

这里只提供解决思路，解决反爬，有测试代码样例，没有完整的爬虫代码

尝试抓包

首先，我们可以尝试抓包分析网站的反爬机制。

  1. 进入网站，点击"项目建议书审批"，然后点击下一页。

抓包示例1

  1. 找到需要的请求，发现它是一个POST请求。

抓包示例2

相关文章：

爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会

标题：爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会 网址：https://fgw.sh.gov.cn/fgw-interaction-front/biz/projectApproval/home MD5加密：ca7f5c978b1809d15a4b228198814253 需求文档 采集数据如下所示： 解决反爬思路 这里只提供解决思路，解决反爬，…...

编程日记 2023/10/11 15:27:28

网络代理技术的威力：保障安全、保护隐私

在如今高度互联的数字时代，网络代理技术正在崭露头角，为网络工程师和普通用户提供了保障网络安全和隐私的强大工具。本文将深入探讨Socks5代理、IP代理以及它们在网络安全、爬虫开发和HTTP协议中的关键作用。 1. Socks5代理：多功能的网络中继…...

编程日记 2023/10/11 15:26:27

【STM32 中断】

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 STM32中断 前言一、STM32的中断如何？如何管理这么复杂的中断？实际优先级如下怎么使用呢？ 二、使用步骤1.引入库函数先分组，怎么…...

编程日记 2023/10/11 15:25:25

TensorFlow入门(十二、分布式训练)

1、按照并行方式来分 ①模型并行 假设我们有n张GPU,不同的GPU被输入相同的数据,运行同一个模型的不同部分。 在实际训练过程中,如果遇到模型非常庞大,一张GPU不够存储的情况,可以使用模型并行的分布式训练,把模型的不同部分交给不同的GPU负责。这种方式存在一定的弊端:①这种方…...

编程日记 2023/10/11 15:24:22

在React中，什么是props（属性）？如何向组件传递props？

聚沙成塔每天进步一点点 ⭐ 专栏简介 前端入门之旅：探索Web开发的奇妙世界 欢迎来到前端入门之旅！感兴趣的可以订阅本专栏哦！这个专栏是为那些对Web开发感兴趣、刚刚踏入前端领域的朋友们量身打造的。无论你是完全的新手还是有一些基础的开发…...

编程日记 2023/10/11 15:22:19

java 每种设计模式的作用，与应用场景

文章目录 前言java 每种设计模式的作用，与应用场景 前言 如果您觉得有用的话，记得给博主点个赞，评论，收藏一键三连啊，写作不易啊^ _ ^。   而且听说点赞的人每天的运气都不会太差，实在白嫖的话&#xff0…...

编程日记 2023/10/11 15:21:19

Appium问题及解决：打开Appium可视化界面，点击搜索按钮，提示inspectormoved

打开Appium可视化界面，点击搜索按钮，提示inspectorMoved，那么如何解决这个问题呢？ 搜索了之后发现，由于高版本Appium（从1.22.0开始）的服务和元素查看器分离，所以还需要下载Appium In…...

编程日记 2023/10/11 15:20:18

android 不同进程之间数据传递

1.handler android.os.Message是定义一个Messge包含必要的描述和属性数据，并且此对象可以被发送给android.os.Handler处理。属性字段：arg1、arg2、what、obj、replyTo等；其中arg1和arg2是用来存放整型数据的；what是用来保存消息标…...

编程日记 2023/10/11 15:18:15

一个完整的初学者指南Django-part1

源自：https://simpleisbetterthancomplex.com/series/2017/09/04/a-complete-beginners-guide-to-django-part-1.html 一个完整的初学者指南Django - 第1部分 介绍 今天我将开始一个关于 Django 基础知识的新系列教程。这是一个完整的 Django 初学者指南。材料分为七…...

编程日记 2023/10/11 15:17:14

SpringBoot和Hibernate——如何提高数据库性能

摘要：本文由葡萄城技术团队发布。转载请注明出处：葡萄城官网，葡萄城为开发者提供专业的开发工具、解决方案和服务，赋能开发者。 前言 在软件开发领域，性能是重中之重。无论您是构建小型 Web 应用程序还是大型企业系统…...

编程日记 2023/10/11 15:16:13

五分钟Win11安装安卓（Android）子系统

十分钟，完成win11安装安卓子系统 Step1、地区设置为美国 Wini 进入设置页面，选择时间和语言-语言和区域- 区域-美国 Step2 安装 Windows Subsystem for Android™ with Amazon Appstore 访问如下连接，install即可 安卓子系统 Step3 安…...

编程日记 2023/10/11 15:15:12

基于LSTM-Adaboost的电力负荷预测的MATLAB程序

微❤关注“电气仔推送”获得资料（专享优惠） 主要内容： LSTM-AdaBoost负荷预测模型先通过 AdaBoost集成算法串行训练多个基学习器并计算每个基学习 器的权重系数,接着将各个基学习器的预测结果进行线性组合,生成最终的预测结果。代码中的LST…...

编程日记 2023/10/11 15:13:10

GLTF纹理贴图工具让模型更逼真

1、如何制作逼真的三维模型？ 要使三维模型看起来更加逼真，可以考虑以下几个方面： 高质量纹理：使用高分辨率的纹理贴图可以增强模型的细节和真实感。选择适合模型的高质量纹理图像，并确保纹理映射到模型上的UV坐标正确…...

编程日记 2023/10/11 15:12:09

HttpServletResponse对象

1.介绍 在Servlet API中，定义了一个HttpServletResponse接口，它继承自ServletResponse接口，专门用来封装HTTP响应消息。由于HTTP响应消息分为状态行、响应消息头、消息体三部分，因此，在HttpServletResponse接口中定义…...

编程日记 2023/10/11 15:11:07

在SSL中进行交叉熵学习的步骤

在半监督学习（Semi-Supervised Learning，SSL）中进行交叉熵学习通常包括以下步骤： 准备标注数据和未标注数据 首先，你需要准备带有标签的标注数据和没有标签的未标注数据。标注数据通常是在任务中手动标记的&#xff…...

编程日记 2023/10/11 15:09:06

10月TIOBE榜Java跌出前三！要不我转回C#吧

前言 Java又要完了，又要没了，你没看错，10月编程语言榜单出炉，Java跌出前三，并且即将被C#超越，很多资深人士预测只需两个月，Java就会跌出前五。 看到这样的文章，作为一名Java工程师我…...

编程日记 2023/10/11 15:08:05

优盘中毒了怎么办？资料如何恢复

在现代社会中，优盘成为我们日常生活与工作中必备的便携式存储设备。然而，正是由于其便携性，优盘也成为病毒感染的主要目标之一。本篇文章将帮助读者了解如何应对优盘中毒的情况，以及如何恢复因病毒感染丢失的资料。 ▶优盘为什么…...

编程日记 2023/10/11 15:07:03

如何查看端口占用(windows,linux,mac)

如何查看端口占用，各平台 一、背景 如何查看端口占用？网上很多，但大多直接丢出命令，没有任何解释关于如何查看命令的输出 所谓 “查端口占用”，即查看某个端口是否被某个程序占用，如果有，被哪…...

编程日记 2023/10/11 15:06:02

Photoshop与Web技术完美融合，Web版Photoshop已正式登场

通过WebAssembly Emscripten、Web Components Lit、Service Workers Workbox以及对新的Web API的支持，Chrome和Adobe之间的合作使得将Photoshop桌面应用程序引入Web成为了一项重大的里程碑。现在，您可以在浏览器上使用高度复杂和图形密集的软件&#…...

编程日记 2023/10/11 15:05:01

易点易动：提升企业固定资产管理效率的完美解决方案

在现代商业环境中，企业的固定资产管理是一项关键任务。高效的固定资产管理可以帮助企业降低成本、提高生产力，并确保资产的最佳利用。然而，传统的资产管理方法常常繁琐、低效，导致信息不准确、流程混乱。为了解决这一问题&#xf…...

编程日记 2023/10/11 15:02:59

Lombok 的 @Data 注解失效，未生成 getter/setter 方法引发的HTTP 406 错误

HTTP 状态码 406 (Not Acceptable) 和 500 (Internal Server Error) 是两类完全不同的错误，它们的含义、原因和解决方法都有显著区别。以下是详细对比： 1. HTTP 406 (Not Acceptable) 含义： 客户端请求的内容类型与服务器支持的内容类型不匹…...

编程新知 2025/9/17 5:38:47

Frozen-Flask ：将 Flask 应用“冻结”为静态文件

Frozen-Flask 是一个用于将 Flask 应用“冻结”为静态文件的 Python 扩展。它的核心用途是：将一个 Flask Web 应用生成成纯静态 HTML 文件，从而可以部署到静态网站托管服务上，如 GitHub Pages、Netlify 或任何支持静态文件的网站服务器。 &am…...

编程新知 2025/7/28 21:04:40

2023赣州旅游投资集团

单选题 1.“不登高山，不知天之高也；不临深溪，不知地之厚也。”这句话说明_____。 A、人的意识具有创造性 B、人的认识是独立于实践之外的 C、实践在认识过程中具有决定作用 D、人的一切知识都是从直接经验中获得的 参考答案: C 本题解…...

编程新知 2025/8/25 20:38:36

laravel8+vue3.0+element-plus搭建方法

创建 laravel8 项目 composer create-project --prefer-dist laravel/laravel laravel8 8.* 安装 laravel/ui composer require laravel/ui 修改 package.json 文件 "devDependencies": {"vue/compiler-sfc": "^3.0.7","axios": …...

编程新知 2025/8/1 7:53:11

使用Spring AI和MCP协议构建图片搜索服务

目录 使用Spring AI和MCP协议构建图片搜索服务 引言 技术栈概览 项目架构设计 架构图 服务端开发 1. 创建Spring Boot项目 2. 实现图片搜索工具 3. 配置传输模式 Stdio模式（本地调用） SSE模式（远程调用） 4. 注册工具提…...

编程新知 2025/9/4 1:57:51

【电力电子】基于STM32F103C8T6单片机双极性SPWM逆变（硬件篇）

本项目是基于 STM32F103C8T6 微控制器的 SPWM（正弦脉宽调制）电源模块，能够生成可调频率和幅值的正弦波交流电源输出。该项目适用于逆变器、UPS电源、变频器等应用场景。 供电电源 输入电压采集 上图为本设计的电源电路，图中 D1 为二极管， 其目的是防止正负极电源反接， …...

编程新知 2025/9/4 9:53:24

JavaScript基础-API 和 Web API

在学习JavaScript的过程中，理解API（应用程序接口）和Web API的概念及其应用是非常重要的。这些工具极大地扩展了JavaScript的功能，使得开发者能够创建出功能丰富、交互性强的Web应用程序。本文将深入探讨JavaScript中的API与Web AP…...

编程新知 2025/8/21 23:03:46

基于PHP的连锁酒店管理系统

有需要请加文章底部Q哦 可远程调试 基于PHP的连锁酒店管理系统 一 介绍 连锁酒店管理系统基于原生PHP开发，数据库mysql，前端bootstrap。系统角色分为用户和管理员。 技术栈 phpmysqlbootstrapphpstudyvscode 二 功能 用户 1 注册/登录/注销 2 个人中…...

编程新知 2025/9/3 20:37:55

Chrome 浏览器前端与客户端双向通信实战

Chrome 前端（即页面 JS / Web UI）与客户端（C 后端）的交互机制，是 Chromium 架构中非常核心的一环。下面我将按常见场景，从通道、流程、技术栈几个角度做一套完整的分析，特别适合你这种在分析和改…...

编程新知 2025/9/7 8:49:16

前端中slice和splic的区别

1. slice slice 用于从数组中提取一部分元素，返回一个新的数组。 特点： 不修改原数组：slice 不会改变原数组，而是返回一个新的数组。提取数组的部分：slice 会根据指定的开始索引和结束索引提取数组的一部分。不包含…...

编程新知 2025/6/20 15:06:56