当前位置： 首页 > news >正文

深度学习基础(一)

news 2026/2/10 7:24:33

记得17年第一次阅读深度学习相关文献及代码觉得不是很顺畅，做客户端开发时间久了，思维惯性往往觉得比较迷茫。

而且文章中涉及的数学公式及各种符号又觉得很迷惑，虽然文章读下来了，代码也调试过了，意识里并没有轻松的感觉，隔段时间再看，脑子里又是空空如也。

其实目前来看，深度学习的底层逻辑很简单，只是当时完全迷失在了数学逻辑的符号，公式推导，及代码对应层面，对于神经网络学习的精髓并未完全把握。

我尝试着就自己的理解，极简化其中的数学逻辑，阐述最简单的神经网络学习模型具体原理，不会涉及什么Tensorflow，卷积神经网络这些经常听到的概念，就是很朴素的语言。

可以参考 Michael Nielsen 的经典文章 Neural Networks and Deep Learning

神经网络 - Hello Wrold

具体神经网络缘由介绍很多，此处就不冗余跳过，从一个最简单的问题开始

在这里插入图片描述

上面的手写数字，计算机如何识别 就是神经网络中的 Hello World

在这里插入图片描述

比如手写体数字 3， 如何识别出 罗马数字3

解决输入问题

抽象

先把这个Hello World看做一个黑盒，输入就是一个手写体的数，也就是一张图

在这里插入图片描述

我们把 上图中的 圈计为一个神经元，圈中标注 0 ~ 1 范围的数字，表明神经元被激活的强度

在这里插入图片描述
手写体数字9 就被划分为 28*28 个小单元，也就是784个神经元

在这里插入图片描述

每个神经元中标注的数字，就是图中对应像素的灰度值

可以理解为相应位置的神经元被激活的强度

0表示纯黑像素，1表示纯白像素

激活强度，暂时命个名 - Activation (激活值)

变换

把这784个神经元经过以下变换

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

其中，中间的两层暂时当做大黑盒，黑盒里面就进行着处理识别数字的具体工作

最左边的一层 784 个神经元

最右边的一层神经元，激活值也为 0~1，表明输入的图像 是具体某一个罗马数字的可能性

至于中间为啥两层，每层16个神经元，可以认为就这么着，重在理解模型为主

最终构成了一个神经网络，这个网络包含了 784+16+16+10 个神经元

网络认知

我们认知手写数字的逻辑可能是这样的

在这里插入图片描述

数字整体拆分成 几个大的部分

在这里插入图片描述
在这里插入图片描述

每个部分进一步拆分成小一点的笔画

在这里插入图片描述

中间一层 对应着 拆分的较大的部分

较右边的一层 对应着 笔画部分

神经元 - 神经元

那么，如何拆分部件，怎么拆分才是正确的呢，而且输入图像，也就是784个神经元 与 网络中间的黑盒又是如何工作的？

就着这个网络，可能我们直观的逻辑就是希望这样

在这里插入图片描述

比如，手写体数字7 中的 水平一部分，中间较粗明亮的水平部分，如何提取出来

在这里插入图片描述

为了简单，拆分的大组件 用一个神经元表示

在这里插入图片描述

其中 横 组件边缘较 暗的部分，也就是 输入层横 边缘激活值较低的神经元, 对第二层 对应 横组件的 那个神经元 作用就弱，具体表现就是 第一层的神经元连过来的线就弱一些

第一层其余的神经元(跟横无关的神经元) 此刻 练过来的线 甚至可能看不见，影响微乎其微

w表示 - 神经元之间的连线强弱

a表示 - 神经元的激活值

此时，这个装着 横 的神经元的激活值 就是 w1a1 + w2a2 + … + w784*a784

在这里插入图片描述

前面说过，每个神经元的激活值 在 0~1之间

但此时 得到的这个 代表 横 的神经元的激活值 可能为任意值，并不在0~1之间

为了让 激活值 能继续 收敛在 0~1之间，用到Sigmoid 函数

在这里插入图片描述

这个 装着 横 的神经元 并不能随便激发，必须有个门槛，过门槛才能激发，比如这个门槛为1，才能激发

在这里插入图片描述

Sigmoid(w1a1 + w2a2 + … + w784*a784 - 1), 正好对应 超过上图中的 标注点，神经元激发

最终 Sigmoid(w1a1 + w2a2 + … + w784*a784 + bias), bias 就是 上面的 -1

抽象网络关系

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

这是线性代数中的矩阵 相乘

整个网络中 包含的

开关变量总数：78416 + 1616 + 1610 + 162 + 10 = 13002

也就是 总权重开关：78416 + 1616 + 16*10 = 12960

总bias开关：16*2 + 10 = 42

接下来就是 这 13000 个开关变量 的设置问题了，可以认为 这个黑盒函数 有 13000 个变量，要对这13000个变量求解，得到一个完全函数，然后使用这个函数 就可以得到 识别结果了

求解的过程就是 学习的过程

未完，待续 深度学习基础(二)-梯度下降

相关文章：

深度学习基础(一)

记得17年第一次阅读深度学习相关文献及代码觉得不是很顺畅，做客户端开发时间久了，思维惯性往往觉得比较迷茫。 而且文章中涉及的数学公式及各种符号又觉得很迷惑，虽然文章读下来了，代码也调试过了，意识里并没有轻松的…...

编程日记 2023/2/22 11:36:41

Maven 常用命令

mvn archetype: create :创建Maven 项目mvn compile :编译源代码。mvn deploy:发布项目。mvn test-compile :编译测试源代码mvn test:运行应用程序中的单元测试mvn site:生成项目相关信息的网站mvn clean:清除项目目录中的生成结果mvn package:根据项目生成的iar/war等mvn inst…...

编程日记 2023/2/22 11:35:36

2023年100道最新Android面试题，常见面试题及答案汇总

除了需要掌握牢固的专业技术之外，还需要刷更多的面试去在众多的面试者中杀出重围。小编特意整理了100道Android面试题，送给大家，希望大家都能顺利通过面试，拿下高薪。赶紧拿去吧~~文末有答案Q1.组件化和arouter原理Q2.自定义view&…...

编程日记 2023/2/22 11:34:29

[JavaEE系列] 详解面试中HTTP协议HTTPS协议

文章目录HTTP不安全HTTPS中的加密算法对称加密非对称加密混合加密HTTPS中的摘要算法HTTPS中的数字证书SSL /TLS握手TCP建立连接（三次握手）三次握手中常见的面试题：TCP断开连接（四次挥手）四次挥手中常见的面试题&#x…...

编程日记 2023/2/22 11:33:22

mac 好用的类似Xshell工具

下载royal TSX 5.1.1 http://share.uleshi.com/f/9490615-685692355-33bf1e修改mac的etc/hosts文件权限访达(鼠标右键) -> 前往文件夹 ->输入/private --> 打开etc/hosts --> 显示简洁(鼠标右键) --> 权限改成读和写hosts文件写入如下内容：# Royal T…...

编程日记 2023/2/22 11:32:17

浅谈SQL中的union和union all

文章目录概念基础语法使用技巧区别总结概念 MySQL UNION 操作符用于连接两个以上的 SELECT 语句的结果组合到一个结果集合中。多个 SELECT 语句会删除重复的数据。 UNION 操作符选取不同的值，如果允许得到重复的值，可以使用 UNION ALL 基础语法 -- u…...

编程日记 2023/2/22 11:31:11

P6软件应用的核心收益

卷首语 提供了多用户、多项目的功能模块，支持多层次项目等级划分，资源分配计划，记录实际数据，自定义视图，并具有用户定义字段的扩展功能。 利用最佳实践，建立企业模板库 P6软件支持用户使用模板编制项目…...

编程日记 2023/2/22 11:30:03

性能测试中，我遇到的8个常见问题总结

性能压测中我们需要明白以下几点： 1、好的开始是成功的一半，前期的准备非常重要； 2、过程中，关注每个细节，多个维度监控； 3、在调优中多积累经验； 4、对结果负责，测试报告要清晰…...

编程日记 2023/2/22 11:28:56

kafka架构体系

Kafka简介 Kafka是一个由Scala和Java编写的企业级的消息发布和订阅系统，最早是由Linkedin公司开发，最终开源到Apache软件基金会的项目。Kafka是一个分布式的，支持分区的，多副本的和多订阅者的高吞吐量的消息系统，被广…...

编程日记 2023/2/22 11:27:50

【Kafka】三.Kafka怎么保证高可用 学习总结

Kafka 的副本机制 Kafka 的高可用实现主要依赖副本机制。 Broker 和 Partition 的关系 在分析副本机制之前，先来看一下 Broker 和 Partition 之间的关系。Broker 在英文中是代理、经纪人的意思，对应到 Kafka 集群中，是一个 Kafka 服务器节…...

编程日记 2023/2/22 11:26:46

Python学习笔记7：再谈抽象

再谈抽象 对象 多态 即便你不知道变量指向的是哪种对象，也能够对其执行操作封装 向外部隐藏不必要的细节。继承 类 class Person: def set_name(self, name): self.name name def get_name(self): return self.name def greet(self): print("Hello, world…...

编程日记 2023/2/22 11:25:39

钣金行业mes解决方案，缩短产品在制周期

钣金加工行业具有多品种、小批量离散制造行业的典型特点。一些常见的下料车间、备料车间、冲压车间、冲剪生产线等。一般来说，核心业务是钣金加工的生产单位。 一般来说，与大规模生产相比，这种生产方式效率低、成本高，自动化难度…...

编程日记 2023/2/22 11:24:34

【Linux】——git和gdb的简单使用技巧

目录 1.\r&&\n 2.缓冲区 3.做一个Linux的小程序——进度条 1.makefile代码： 2.proc.h代码 3.proc.c代码 4.main.c代码 4.git（上传做好的小程序） 5.Linux调试器-gdb使用 1.\r&&\n 在Linux中，可以将\r看成…...

编程日记 2023/2/22 11:23:26

Fiddler的简单使用

目录 1.断点应用 2.网络限速测试 2.1.为什么需要弱网测试 2.2.Fiddler弱网测试配置 1.断点应用 通过断点功能，可以在测试时方便的篡改request，response以达到测试的目的，如果：在请求头中的参数修改成错误的，或在响应…...

编程日记 2023/2/22 11:22:19

MySql 事务

概述 事务 是一组操作的集合，它是一个不可分割的工作单位，事务会把所有的操作作为一个整体一起向系统提交或撤销操作请求，即这些操作要么同时成功，要么同时失败。 注意： 默认MySQL的事务是自动提交的，也就是…...

编程日记 2023/2/22 11:21:14

微信社区小程序/h5/圈子论坛贴吧交友/博客/社交/陌生人社交/宠物/话题/私域/同城交友

内容目录一、详细介绍二、效果展示1.部分代码2.效果图展示三、学习资料下载一、详细介绍 小程序/app/H5多端圈子社区论坛系统,交友/博客/社交/陌生人社交,即时聊天,私域话题,社区论坛圈子,信息引流小程序源码,广场/微校园/微小区/微同城/ 圈子论坛社区系统，含完整…...

编程日记 2023/2/22 11:19:01

Python os和sys模块

一、os模块 os 模块是 Python中的一个内置模块，也是 Python中整理文件和目录最为常用的模块。 该模块提供了非常丰富的方法用来处理文件和目录。比如：显示当前目录下所有文件/删除某个文件/获取文件大小 1、获取当前的工作路径 在 Python 中&#xff0…...

编程日记 2023/2/22 11:17:53

JS中数组如何去重（ES6新增的Set集合类型）+经典two sum面试题

现在有这么一个重复数组：const arr [a,a,b,a,b,c]只推荐简单高效的方法，复杂繁琐的方法不做推荐方法一：const res [...new Set(arr)]Set类型是什么呢？Set 是ES6新增的一种新集合类型。具体知识点可以看下面附录：根据…...

编程日记 2023/2/22 11:16:47

HDLC简介及相应hdlc实训

HDLC简介 HDLC 协议 高级数据链路控制（HDLC，High-level Data Link Control）是一种面向比特的链路层协议， 其最大特点是对任何一种比特流，均可以实现透明的传输。HDLC协议具有以下优点。 透明传输：HDLC不…...

编程日记 2023/2/22 11:15:38

公司技术团队为什么选择使用 YApi 作为 Api 管理平台？

在 2021 年 12 月份的时候我就推荐过一款软件程序员软件推荐：Apifox，当时体验了一下里面的功能确实很实用，但是当时公司有一套自己的 API 管理方案，所有 Apifox 暂时就没在内部使用。 直到最近要使用其他的 API 管理方案的时候才…...

编程日记 2023/2/22 11:14:29

日语AI面试高效通关秘籍：专业解读与青柚面试智能助攻

在如今就业市场竞争日益激烈的背景下，越来越多的求职者将目光投向了日本及中日双语岗位。但是，一场日语面试往往让许多人感到步履维艰。你是否也曾因为面试官抛出的“刁钻问题”而心生畏惧？面对生疏的日语交流环境，即便提前恶补了…...

编程新知 2026/2/8 4:37:01

k8s从入门到放弃之Ingress七层负载

k8s从入门到放弃之Ingress七层负载 在Kubernetes（简称K8s）中，Ingress是一个API对象，它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress，你可…...

编程新知 2025/9/7 0:12:53

边缘计算医疗风险自查APP开发方案

核心目标：在便携设备（智能手表/家用检测仪）部署轻量化疾病预测模型，实现低延迟、隐私安全的实时健康风险评估。 一、技术架构设计 #mermaid-svg-iuNaeeLK2YoFKfao {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg…...

编程新知 2026/1/28 10:02:54

五年级数学知识边界总结思考-下册

目录 一、背景二、过程1.观察物体小学五年级下册“观察物体”知识点详解：由来、作用与意义**一、知识点核心内容****二、知识点的由来：从生活实践到数学抽象****三、知识的作用：解决实际问题的工具****四、学习的意义：培养核心素养…...

编程新知 2025/10/7 4:57:55

linux 错误码总结

1，错误码的概念与作用 在Linux系统中，错误码是系统调用或库函数在执行失败时返回的特定数值，用于指示具体的错误类型。这些错误码通过全局变量errno来存储和传递，errno由操作系统维护，保存最近一次发生的错误信息。值得注意的是，errno的值在每次系统调用或函数调用失败时…...

编程新知 2025/9/16 22:48:47

屋顶变身“发电站” ，中天合创屋面分布式光伏发电项目顺利并网！

5月28日，中天合创屋面分布式光伏发电项目顺利并网发电，该项目位于内蒙古自治区鄂尔多斯市乌审旗，项目利用中天合创聚乙烯、聚丙烯仓库屋面作为场地建设光伏电站，总装机容量为9.96MWp。 项目投运后，每年可节约标煤3670…...

编程新知 2026/2/9 17:55:49

sqlserver 根据指定字符 解析拼接字符串

DECLARE LotNo NVARCHAR(50)A,B,C DECLARE xml XML ( SELECT <x> REPLACE(LotNo, ,, </x><x>) </x> ) DECLARE ErrorCode NVARCHAR(50) -- 提取 XML 中的值 SELECT value x.value(., VARCHAR(MAX))…...

编程新知 2025/10/29 4:33:03

【git】把本地更改提交远程新分支feature_g

创建并切换新分支 git checkout -b feature_g 添加并提交更改 git add . git commit -m “实现图片上传功能” 推送到远程 git push -u origin feature_g...

编程新知 2025/12/13 4:20:30

Mysql中select查询语句的执行过程

目录 1、介绍 1.1、组件介绍 1.2、Sql执行顺序 2、执行流程 2.1. 连接与认证 2.2. 查询缓存 2.3. 语法解析&#xff08;Parser&#xff09; 2.4、执行sql 1. 预处理&#xff08;Preprocessor&#xff09; 2. 查询优化器&#xff08;Optimizer&#xff09; 3. 执行器…...

编程新知 2026/2/7 5:16:05

Razor编程中@Html的方法使用大全

文章目录 1. 基础HTML辅助方法1.1 Html.ActionLink()1.2 Html.RouteLink()1.3 Html.Display() / Html.DisplayFor()1.4 Html.Editor() / Html.EditorFor()1.5 Html.Label() / Html.LabelFor()1.6 Html.TextBox() / Html.TextBoxFor() 2. 表单相关辅助方法2.1 Html.BeginForm() …...

编程新知 2026/1/28 4:50:33