当前位置： 首页 > news >正文

爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会

news 2025/7/12 17:49:47

标题：爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会

网址：https://fgw.sh.gov.cn/fgw-interaction-front/biz/projectApproval/home

MD5加密：ca7f5c978b1809d15a4b228198814253

需求文档

采集数据如下所示：

数据示例

解决反爬思路

这里只提供解决思路，解决反爬，有测试代码样例，没有完整的爬虫代码

尝试抓包

首先，我们可以尝试抓包分析网站的反爬机制。

  1. 进入网站，点击"项目建议书审批"，然后点击下一页。

抓包示例1

  1. 找到需要的请求，发现它是一个POST请求。

抓包示例2

相关文章：

爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会

标题：爬虫破解：解决CSRF-Token反爬问题 - 上海市发展和改革委员会 网址：https://fgw.sh.gov.cn/fgw-interaction-front/biz/projectApproval/home MD5加密：ca7f5c978b1809d15a4b228198814253 需求文档 采集数据如下所示： 解决反爬思路 这里只提供解决思路，解决反爬，…...

编程日记 2023/10/11 15:27:28

网络代理技术的威力：保障安全、保护隐私

在如今高度互联的数字时代，网络代理技术正在崭露头角，为网络工程师和普通用户提供了保障网络安全和隐私的强大工具。本文将深入探讨Socks5代理、IP代理以及它们在网络安全、爬虫开发和HTTP协议中的关键作用。 1. Socks5代理：多功能的网络中继…...

编程日记 2023/10/11 15:26:27

【STM32 中断】

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 STM32中断 前言一、STM32的中断如何？如何管理这么复杂的中断？实际优先级如下怎么使用呢？ 二、使用步骤1.引入库函数先分组，怎么…...

编程日记 2023/10/11 15:25:25

TensorFlow入门(十二、分布式训练)

1、按照并行方式来分 ①模型并行 假设我们有n张GPU,不同的GPU被输入相同的数据,运行同一个模型的不同部分。 在实际训练过程中,如果遇到模型非常庞大,一张GPU不够存储的情况,可以使用模型并行的分布式训练,把模型的不同部分交给不同的GPU负责。这种方式存在一定的弊端:①这种方…...

编程日记 2023/10/11 15:24:22

在React中，什么是props（属性）？如何向组件传递props？

聚沙成塔每天进步一点点 ⭐ 专栏简介 前端入门之旅：探索Web开发的奇妙世界 欢迎来到前端入门之旅！感兴趣的可以订阅本专栏哦！这个专栏是为那些对Web开发感兴趣、刚刚踏入前端领域的朋友们量身打造的。无论你是完全的新手还是有一些基础的开发…...

编程日记 2023/10/11 15:22:19

java 每种设计模式的作用，与应用场景

文章目录 前言java 每种设计模式的作用，与应用场景 前言 如果您觉得有用的话，记得给博主点个赞，评论，收藏一键三连啊，写作不易啊^ _ ^。   而且听说点赞的人每天的运气都不会太差，实在白嫖的话&#xff0…...

编程日记 2023/10/11 15:21:19

Appium问题及解决：打开Appium可视化界面，点击搜索按钮，提示inspectormoved

打开Appium可视化界面，点击搜索按钮，提示inspectorMoved，那么如何解决这个问题呢？ 搜索了之后发现，由于高版本Appium（从1.22.0开始）的服务和元素查看器分离，所以还需要下载Appium In…...

编程日记 2023/10/11 15:20:18

android 不同进程之间数据传递

1.handler android.os.Message是定义一个Messge包含必要的描述和属性数据，并且此对象可以被发送给android.os.Handler处理。属性字段：arg1、arg2、what、obj、replyTo等；其中arg1和arg2是用来存放整型数据的；what是用来保存消息标…...

编程日记 2023/10/11 15:18:15

一个完整的初学者指南Django-part1

源自：https://simpleisbetterthancomplex.com/series/2017/09/04/a-complete-beginners-guide-to-django-part-1.html 一个完整的初学者指南Django - 第1部分 介绍 今天我将开始一个关于 Django 基础知识的新系列教程。这是一个完整的 Django 初学者指南。材料分为七…...

编程日记 2023/10/11 15:17:14

SpringBoot和Hibernate——如何提高数据库性能

摘要：本文由葡萄城技术团队发布。转载请注明出处：葡萄城官网，葡萄城为开发者提供专业的开发工具、解决方案和服务，赋能开发者。 前言 在软件开发领域，性能是重中之重。无论您是构建小型 Web 应用程序还是大型企业系统…...

编程日记 2023/10/11 15:16:13

五分钟Win11安装安卓（Android）子系统

十分钟，完成win11安装安卓子系统 Step1、地区设置为美国 Wini 进入设置页面，选择时间和语言-语言和区域- 区域-美国 Step2 安装 Windows Subsystem for Android™ with Amazon Appstore 访问如下连接，install即可 安卓子系统 Step3 安…...

编程日记 2023/10/11 15:15:12

基于LSTM-Adaboost的电力负荷预测的MATLAB程序

微❤关注“电气仔推送”获得资料（专享优惠） 主要内容： LSTM-AdaBoost负荷预测模型先通过 AdaBoost集成算法串行训练多个基学习器并计算每个基学习 器的权重系数,接着将各个基学习器的预测结果进行线性组合,生成最终的预测结果。代码中的LST…...

编程日记 2023/10/11 15:13:10

GLTF纹理贴图工具让模型更逼真

1、如何制作逼真的三维模型？ 要使三维模型看起来更加逼真，可以考虑以下几个方面： 高质量纹理：使用高分辨率的纹理贴图可以增强模型的细节和真实感。选择适合模型的高质量纹理图像，并确保纹理映射到模型上的UV坐标正确…...

编程日记 2023/10/11 15:12:09

HttpServletResponse对象

1.介绍 在Servlet API中，定义了一个HttpServletResponse接口，它继承自ServletResponse接口，专门用来封装HTTP响应消息。由于HTTP响应消息分为状态行、响应消息头、消息体三部分，因此，在HttpServletResponse接口中定义…...

编程日记 2023/10/11 15:11:07

在SSL中进行交叉熵学习的步骤

在半监督学习（Semi-Supervised Learning，SSL）中进行交叉熵学习通常包括以下步骤： 准备标注数据和未标注数据 首先，你需要准备带有标签的标注数据和没有标签的未标注数据。标注数据通常是在任务中手动标记的&#xff…...

编程日记 2023/10/11 15:09:06

10月TIOBE榜Java跌出前三！要不我转回C#吧

前言 Java又要完了，又要没了，你没看错，10月编程语言榜单出炉，Java跌出前三，并且即将被C#超越，很多资深人士预测只需两个月，Java就会跌出前五。 看到这样的文章，作为一名Java工程师我…...

编程日记 2023/10/11 15:08:05

优盘中毒了怎么办？资料如何恢复

在现代社会中，优盘成为我们日常生活与工作中必备的便携式存储设备。然而，正是由于其便携性，优盘也成为病毒感染的主要目标之一。本篇文章将帮助读者了解如何应对优盘中毒的情况，以及如何恢复因病毒感染丢失的资料。 ▶优盘为什么…...

编程日记 2023/10/11 15:07:03

如何查看端口占用(windows,linux,mac)

如何查看端口占用，各平台 一、背景 如何查看端口占用？网上很多，但大多直接丢出命令，没有任何解释关于如何查看命令的输出 所谓 “查端口占用”，即查看某个端口是否被某个程序占用，如果有，被哪…...

编程日记 2023/10/11 15:06:02

Photoshop与Web技术完美融合，Web版Photoshop已正式登场

通过WebAssembly Emscripten、Web Components Lit、Service Workers Workbox以及对新的Web API的支持，Chrome和Adobe之间的合作使得将Photoshop桌面应用程序引入Web成为了一项重大的里程碑。现在，您可以在浏览器上使用高度复杂和图形密集的软件&#…...

编程日记 2023/10/11 15:05:01

易点易动：提升企业固定资产管理效率的完美解决方案

在现代商业环境中，企业的固定资产管理是一项关键任务。高效的固定资产管理可以帮助企业降低成本、提高生产力，并确保资产的最佳利用。然而，传统的资产管理方法常常繁琐、低效，导致信息不准确、流程混乱。为了解决这一问题&#xf…...

编程日记 2023/10/11 15:02:59

谷歌浏览器插件

项目中有时候会用到插件 sync-cookie-extension1.0.0：开发环境同步测试 cookie 至 localhost，便于本地请求服务携带 cookie 参考地址：https://juejin.cn/post/7139354571712757767 里面有源码下载下来，加在到扩展即可使用FeHelp…...

编程新知 2025/6/25 22:42:56

React hook之useRef

React useRef 详解 useRef 是 React 提供的一个 Hook，用于在函数组件中创建可变的引用对象。它在 React 开发中有多种重要用途，下面我将全面详细地介绍它的特性和用法。 基本概念 1. 创建 ref const refContainer useRef(initialValue);initialValu…...

编程新知 2025/6/11 15:21:26

《Qt C++ 与 OpenCV：解锁视频播放程序设计的奥秘》

引言：探索视频播放程序设计之旅 在当今数字化时代，多媒体应用已渗透到我们生活的方方面面，从日常的视频娱乐到专业的视频监控、视频会议系统，视频播放程序作为多媒体应用的核心组成部分，扮演着至关重要的角色。无论是在个人电脑、移动设备还是智能电视等平台上，用户都期望…...

编程新知 2025/7/10 22:40:22

React第五十七节 Router中RouterProvider使用详解及注意事项

前言 在 React Router v6.4 中&#xff0c;RouterProvider 是一个核心组件&#xff0c;用于提供基于数据路由&#xff08;data routers&#xff09;的新型路由方案。 它替代了传统的 <BrowserRouter>&#xff0c;支持更强大的数据加载和操作功能&#xff08;如 loader 和…...

编程新知 2025/7/12 17:09:49

PHP和Node.js哪个更爽?

先说结论&#xff0c;rust完胜。 php&#xff1a;laravel&#xff0c;swoole&#xff0c;webman&#xff0c;最开始在苏宁的时候写了几年php&#xff0c;当时觉得php真的是世界上最好的语言&#xff0c;因为当初活在舒适圈里&#xff0c;不愿意跳出来&#xff0c;就好比当初活在…...

编程新知 2025/7/7 10:48:47

AtCoder 第409​场初级竞赛 A~E题解

A Conflict 【题目链接】 原题链接&#xff1a;A - Conflict 【考点】 枚举 【题目大意】 找到是否有两人都想要的物品。 【解析】 遍历两端字符串&#xff0c;只有在同时为 o 时输出 Yes 并结束程序&#xff0c;否则输出 No。 【难度】 GESP三级 【代码参考】 #i…...

编程新知 2025/6/16 11:04:37

如何将联系人从 iPhone 转移到 Android

从 iPhone 换到 Android 手机时&#xff0c;你可能需要保留重要的数据&#xff0c;例如通讯录。好在&#xff0c;将通讯录从 iPhone 转移到 Android 手机非常简单&#xff0c;你可以从本文中学习 6 种可靠的方法&#xff0c;确保随时保持连接&#xff0c;不错过任何信息。 第 1…...

编程新知 2025/7/10 14:21:41

ios苹果系统，js 滑动屏幕、锚定无效

现象&#xff1a;window.addEventListener监听touch无效&#xff0c;划不动屏幕&#xff0c;但是代码逻辑都有执行到。 scrollIntoView也无效。 原因&#xff1a;这是因为 iOS 的触摸事件处理机制和 touch-action: none 的设置有关。ios有太多得交互动作&#xff0c;从而会影响…...

编程新知 2025/7/11 6:21:42

python执行测试用例，allure报乱码且未成功生成报告

allure执行测试用例时显示乱码&#xff1a;‘allure’ &#xfffd;&#xfffd;&#xfffd;&#xfffd;&#xfffd;ڲ&#xfffd;&#xfffd;&#xfffd;&#xfffd;ⲿ&#xfffd;&#xfffd;&#xfffd;Ҳ&#xfffd;&#xfffd;&#xfffd;ǿ&#xfffd;&am…...

编程新知 2025/7/8 3:51:35

算法：模拟

1.替换所有的问号 1576. 替换所有的问号 - 力扣&#xff08;LeetCode&#xff09; ​遍历字符串​&#xff1a;通过外层循环逐一检查每个字符。​遇到 ? 时处理​&#xff1a; 内层循环遍历小写字母&#xff08;a 到 z&#xff09;。对每个字母检查是否满足&#xff1a; ​与…...

编程新知 2025/7/11 1:39:46