我和爬虫的故事
文章目录
- 爬虫简介
- 个人经历
- 未来
- 总结
爬虫简介
网络爬虫(又称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
个人经历
- 本人有幸在大二时接触到爬虫(非计算机专业),于是开始走向 自学Python,放弃Python,再学Python,再次放弃,继续学
到这时已经很迷茫了,因为一来就接触语言,很模糊,不知道该学啥,学来有什么用,所以徘徊,我大概学了四遍python基础(完整看完过 小甲鱼(零基础到飞机大战设计)、慕课的python两门课程、黑马培训的python课),才对python有了一点掌握和了解,当然期间接触到了c和java的学习
- 辅修计算机学位(c,java,前端设计,java后端,计算机网络,数据结构,mysql,操作系统等等课程)。
其实上课和枯燥,学校主要还是教授以前端和后端为主,我并不感冒这些课程,所以学的时候也是三天打鱼两天晒网。课程都是以最低标准去完成要求,越学习,越觉得无趣,后来还是拾起了python。
- 实习,太幸运太幸运了,没有这一段,就没有现在的我,通过在计算机学院的朋友(杨兄),又推荐了计算机学院的就业指导老师,推荐了一份在重庆一家公司做(兼职实习生),后来成为正式实习生,最后经过试用期,转正成为正式员工
最近看到一种观点,大学只有三年学习时间,最后一年是找工作和写论文的,很庆幸当时的我笨鸟先飞,在大三下学期就开始去找实习工作,因为我已经有了点基础(不知天高地厚),但是不知道现在岗位需要什么样的人,所以就开始刷招聘软件,疯狂去争取面试,(期间发生了很多摧毁我信心的,差点还被骗进培训班,2w包就业的那种,贷款上班,o(╥﹏╥)o),最后是杨兄帮我找到就业指导老师,刚好有一家公司的管理来我们学校找兼职实习生(不需要基础),于是很幸运很幸运,再晚几天找老师可能就错过了。在这里遇到了,可以说是从0到1的 李师傅带上岸的,敢相信,当时 只会 requests.get,连post都不会,我真的哭死,后来在李师傅和其他小伙伴的带领下,开始 base64加密、cookie加密、js逆向、混淆、正则匹配、mysql的实际运用、服务器的使用等等,后来又有婷姐教了很多后端的知识,字符匹配,代码的规范等待,真的在这里学到的太多太多了。我在这里学到这么多,为什么离职?(重庆的就业环境太差了,想挑战自己,想去外面看一看,因为我还有小弟这里面,具体就不到那么具体了,不能动摇军心,但是我对前公司都是抱感激的态度,而我更想一个白眼狼,养大了就跑,我都替公司感到不值,如果能重来,我还是会选这家公司)
- 第一次跳槽,在去年年底,正好赶上新公司(现在的公司,定位:广东东莞)缺人,工资开到前公司的一倍,心动不如行动,星期天就提离职,星期四早上走完流程,星期四晚上已经在新公司宿舍了,星期五就已经在工位上开始工作,一直工作到现在。
和前公司提离职时,我还没说我已经确定下来工作了,只是想快点交接完工作,主要还是和李师傅和婷姐,我有提前跟他们说,所以交接很快,在3天内就做完了交接,最后离职。我承认我有赌的成分,我也对未知也有恐惧,但是奈何新公司给的太多(当时),换算下来比在重庆的待遇翻了一倍还多。新公司为小型的科技公司,所以很多都是需要独立完成,我在这里学的东西还是很有限的,自能靠自学,前任同事留下来的代码,可以毫不夸张的说一个星期看完了,但是留下来的代码没有规范化的书写,所以我也不打算重构,只是面试往里面塞,诠释了“能跑就行”,再不行,就我跑!!!
(2024.05.13)
未来
(2024.05.13)
- 未知
其实我很想穿越到未来看我到底过得怎么样,我是以放弃结尾还是小有成就。
- 短期目标
找到一家新公司,给的足够多,赚点存款 or 找到一个好的项目,带回重庆发展。两条线路并行
- 长期目标
找到合适自己的项目,花几年经营,然后躺平赚被动收入;
or
有某项了不起的能力,能够回重庆当管理层;
or
就看我的朋友有没有发财的,养我了。
总结
(2024.05.13)
- 搞清楚兴趣;学习
兴趣是最好的老师,我是因为喜欢逆向,所以才能走到现在这一步,并不是喜欢写程序,前端和后端明明有更好的选择,但是我还是选择了离我最遥远的python-爬虫,并在这条路上越走越远。
- 需要正向反馈;
在一定程度上,如果从一件事情上没有任何反馈,就没有动力;我的动力来源于能够靠这个赚到$了,为什么我放弃了python两次,因为在学python基础的时候,就像我一个人走在条无尽的黑路上,我不知道能得到什么反馈;但是自从我学会了爬虫,能够独自赚钱了,我发现我只能做几十到一两百的单子,但是技术越高,能得到的越多,这是我学技术这么拼命的一个很重要的原因。这个反馈不一定是要是钱,也可以是其他的奖励,但是一定要有,否则一个人太难了。
- 学习
其他行业不清楚,但是爬虫行业,必须得跟上技术的脚步,因为反爬是在最近几年才兴起的,而且有更多更难的,是爆发式的增长,这个行业也是 一个人与整个团队的斗智斗勇,我太喜欢这种感觉了,这也是我的兴趣点,所以喜欢这个行业,我不是证明我比一个安全团队更厉害,只是享受在破解后的那一刻“爽”。
ps: 其实这是一篇为了凑发布量的一篇文章,我也不知道为啥要写这个,还憋了1个小时,写了2k+字,真是睡不着觉,后面我也会不定期更新这篇文章,保证文章不改的同时,向里面添加新的内容,欢迎关注,也期待听到其他人的故事。
欢迎交流:
vx: lyj_txd
qq: 1416279170
相关文章:
我和爬虫的故事
文章目录 爬虫简介个人经历未来总结 爬虫简介 网络爬虫(又称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外…...
常用的简单友好的工单系统(免费)- WGCAT
最近在项目中,有工单系统的需求场景,所以想寻找一款轻量简单的运维工单软件,主要用来记录和处理工作中的一些故障、维护,主要用来记录设备的维护状态,包括服务器、主机、交换机那些 WGCAT,是一款简单轻量的…...
使用Pycharm编写Python程序时对基本类结构中方法的重写的两种初步操作方式
使用Pycharm编写Python程序时对基本类结构中方法的重写的两种初步操作方式 Python和其他一些高级面向对象的编程语言中,子类可继承父类中的方法,而不需要重新编写相同的方法。但有时子类并不想原封不动地继承父类的方法,而是想作一定的修改&…...
HTTP URL 详解
概述 URL 提供了一种定位因特网上任意资源的手段,大多数 URL 语法都由以下九个结构的通用格式组成: <scheme>://<user>:<password><host>:<port>/<path>;<params>?<query>#<frag> 方案&#…...
Python 原生爬虫
Python 描述代码 描述 爬网站的页面配合正则表达式设置定时任务 仅学习参考,切勿使用其他用途 代码 import re import schedule import timefrom urllib.request import urlopenclass Spider:def __init__(self):# 初始化代码...pass# self.start_schedule()# 需要…...
数据结构---经典链表OJ
乐观学习,乐观生活,才能不断前进啊!!! 我的主页:optimistic_chen 我的专栏:c语言 点击主页:optimistic_chen和专栏:c语言, 创作不易,大佬们点赞鼓…...
HTML_CSS学习:CSS像素与颜色
一、像素 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><title>像素</title> </head><style>.atguigu1{/*单位可以是cm,但不能是m,dm*/width: 1cm;height: 1cm;background-c…...
华为交换机配置导出备份python脚本
一、脚本编写思路 (一)针对设备型号 主要针对华为(Huawei)和华三(H3C)交换机设备的配置备份 (二)导出前预处理 1.在配置导出前,自动打开crt软件或者MobaXterm软件&am…...
DS:时间复杂度和空间复杂度
欢迎各位来到 Harper.Lee 的学习世界! 博主主页传送门:Harper.Lee的博客主页 想要一起进步的uu欢迎来后台找我哦! 本片博客主要介绍的是数据结构中关于算法的时间复杂度和空间复杂度的概念。 一、算法 1.1 什么是算法? 算法(Alg…...
AI跟踪报道第41期-新加坡内哥谈技术-本周AI新闻:本周Al新闻: 准备好了吗?事情即将変得瘋狂
每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领…...
Go 之 interface接口理解
go语言并没有面向对象的相关概念,go语言提到的接口和java、c等语言提到的接口不同,它不会显示的说明实现了接口,没有继承、子类、implements关键词。go语言通过隐性的方式实现了接口功能,相对比较灵活。 interface是go语言的一大…...
简约在线生成短网址系统源码 短链防红域名系统 带后台
简约在线生成短网址系统源码 短链防红域名系统 带后台 安装教程:访问 http://你的域名/install 进行安装 源码免费下载地址抄笔记 (chaobiji.cn)https://chaobiji.cn/...
设置默认表空间和重命名
目录 设置默认表空间 创建的临时表空间 tspace4 修改为默认临时表空间 创建的永久性表空间 tspace3 修改为默认永久表空间 重命名表空间 将表空间 tspace3 修改为 tspace3_1 Oracle从入门到总裁:https://blog.csdn.net/weixin_67859959/article/details/13520…...
Hive大表join大表如何调优
目录 一、调优思路1、SQL优化1.1 大小表join1.2 大大表join 2、insert into替换union all3、排序order by换位sort by4、并行执行5、数据倾斜优化6、小文件优化 二、实战2.1 场景2.2 限制所需的字段,间接mapjoin2.2 解决异常值倾斜,如NULL加随机数打散2.…...
SAF文件选择、谷歌PhotoPicker图片视频选择与真实路径转换
一、构建选择文件与回调方法 //文件选择回调ActivityResultLauncher<String[]> pickFile registerForActivityResult(new ActivityResultContracts.OpenDocument(), uri->{if (uri ! null) {Log.e("cxy", "返回的uri:" uri);Log.e("cxy&q…...
java可变参数
前言 我们虽然能够用重载实现,但多个参数无法弹性匹配 代码 class mycalculator{//下面的四个calculate方法构成了重载//计算2个数的和,3个数的和,4,5,6个数的和// public void calculate(int n1){// System.out.…...
Flutter 中的 Expanded 小部件:全面指南
Flutter 中的 Expanded 小部件:全面指南 在 Flutter 中,Expanded 是一个用于控制子控件占据可用空间的布局小部件,通常与 Row、Column 或 Flex 等父级布局小部件一起使用。Expanded 允许你创建灵活的布局,其中子控件可以按照指定…...
[Kubernetes] KubeKey 部署 K8s v1.28.8
文章目录 1.K8s 部署方式2.操作系统基础配置3.安装部署 K8s4.验证 K8s 集群5.部署测试资源 1.K8s 部署方式 kubeadm: kubekey, sealos, kubespray二进制: kubeaszrancher 2.操作系统基础配置 主机名内网IP外网IPmaster192.168.66.2139.198.9.7node1192.168.66.3139.198.40.17…...
C# 与 Qt 的对比分析
C# 与 Qt 的对比分析 目录 C# 与 Qt 的对比分析 1. 语言特性 2. 开发环境 3. 框架和库 4. 用户界面设计 5. 企业级应用 6. 性能考量 在软件开发领域,C# 和 Qt 是两种常用的技术栈,它们分别在.NET平台和跨平台桌面应用开发中占据重要位置。本文将深…...
MapReduce | 二次排序
1.需求 主播数据--按照观众人数降序排序,如果观众人数相同,按照直播时长降序 # 案例数据 用户id 观众人数 直播时长 团团 300 1000 小黑 200 2000 哦吼 400 7000 卢本伟 100 6000 八戒 250 5000 悟空 100 4000 唐僧 100 3000 # 期望结果 哦吼 4…...
springboot 百货中心供应链管理系统小程序
一、前言 随着我国经济迅速发展,人们对手机的需求越来越大,各种手机软件也都在被广泛应用,但是对于手机进行数据信息管理,对于手机的各种软件也是备受用户的喜爱,百货中心供应链管理系统被用户普遍使用,为方…...
ES6从入门到精通:前言
ES6简介 ES6(ECMAScript 2015)是JavaScript语言的重大更新,引入了许多新特性,包括语法糖、新数据类型、模块化支持等,显著提升了开发效率和代码可维护性。 核心知识点概览 变量声明 let 和 const 取代 var…...
【磁盘】每天掌握一个Linux命令 - iostat
目录 【磁盘】每天掌握一个Linux命令 - iostat工具概述安装方式核心功能基础用法进阶操作实战案例面试题场景生产场景 注意事项 【磁盘】每天掌握一个Linux命令 - iostat 工具概述 iostat(I/O Statistics)是Linux系统下用于监视系统输入输出设备和CPU使…...
Auto-Coder使用GPT-4o完成:在用TabPFN这个模型构建一个预测未来3天涨跌的分类任务
通过akshare库,获取股票数据,并生成TabPFN这个模型 可以识别、处理的格式,写一个完整的预处理示例,并构建一个预测未来 3 天股价涨跌的分类任务 用TabPFN这个模型构建一个预测未来 3 天股价涨跌的分类任务,进行预测并输…...
Python爬虫(二):爬虫完整流程
爬虫完整流程详解(7大核心步骤实战技巧) 一、爬虫完整工作流程 以下是爬虫开发的完整流程,我将结合具体技术点和实战经验展开说明: 1. 目标分析与前期准备 网站技术分析: 使用浏览器开发者工具(F12&…...
Cloudflare 从 Nginx 到 Pingora:性能、效率与安全的全面升级
在互联网的快速发展中,高性能、高效率和高安全性的网络服务成为了各大互联网基础设施提供商的核心追求。Cloudflare 作为全球领先的互联网安全和基础设施公司,近期做出了一个重大技术决策:弃用长期使用的 Nginx,转而采用其内部开发…...
Spring AI与Spring Modulith核心技术解析
Spring AI核心架构解析 Spring AI(https://spring.io/projects/spring-ai)作为Spring生态中的AI集成框架,其核心设计理念是通过模块化架构降低AI应用的开发复杂度。与Python生态中的LangChain/LlamaIndex等工具类似,但特别为多语…...
Kafka入门-生产者
生产者 生产者发送流程: 延迟时间为0ms时,也就意味着每当有数据就会直接发送 异步发送API 异步发送和同步发送的不同在于:异步发送不需要等待结果,同步发送必须等待结果才能进行下一步发送。 普通异步发送 首先导入所需的k…...
基于IDIG-GAN的小样本电机轴承故障诊断
目录 🔍 核心问题 一、IDIG-GAN模型原理 1. 整体架构 2. 核心创新点 (1) 梯度归一化(Gradient Normalization) (2) 判别器梯度间隙正则化(Discriminator Gradient Gap Regularization) (3) 自注意力机制(Self-Attention) 3. 完整损失函数 二…...
Vue 模板语句的数据来源
🧩 Vue 模板语句的数据来源:全方位解析 Vue 模板(<template> 部分)中的表达式、指令绑定(如 v-bind, v-on)和插值({{ }})都在一个特定的作用域内求值。这个作用域由当前 组件…...
