当前位置： 首页 > article >正文

快速入门深度学习系列(3)----神经网络

article 2025/10/2 8:06:26

本文只针对图进行解释重要内容 这就是入门所需要掌握的大部分内容

对于不懂的名词或概念 你可以及时去查

对于层数 标在上面 对于该层的第几个元素 标在下面  输入层算作第0层

对于第一层的w b 参数

维度如下w:4*3  b:4*1

这个叫做神经元 比如对于第一层的神经元

这里说的很清楚了 首先计算z 然后通过激活函数 计算出a

解释一下 

为什么是四个w 因为第一层对应着四个神经元

比如w1对应第一层a11 w1的维度应该是(1,3)这与第0层的三个输入相对应 以计算三个输入对于a11的影响

而这样的神经元在第一层有四个 所以W的维度是(4*3)

激活函数并不会改变维度

这是对于多样本的书写方式

对于多样本 W是不需要改变的 

W的维度是(4*3) 当我们的X变成多样本之后维度是(n,m) 这里n是3 依然可以和W维度匹配

这里的物理意义就是 对于第i个样本 可以通过W去调整你的参数

但你要知道最后的W是该特征m个输入样本的平均值决定的

这里确实很难理解 可以参考下图理解

对于激活函数 不只有relu 和sigmoid 很有很多其他的比如leaky relu tanh

曲线如下

为什么要激活函数 因为需要非线性 对于无限次的线性叠加 还是线性 这是无意义的

这个很好理解

与逻辑回归类似 

注意的关键点是

W参数是M个样本的平均值 这里也有体现

对b参数是M个样本的平均值 得到一个常数

对于dz1的求解 把正向传播的1式代入3式可以看出

随机初始化

W的初始值不能全是0

这导致了隐藏层对称 进而隐藏层个数多也没有意义

训练多少次两个神经元都是相同的

所以随机初始化 一般是高斯分布

相关文章：

快速入门深度学习系列(3)----神经网络

本文只针对图进行解释重要内容 这就是入门所需要掌握的大部分内容 对于不懂的名词或概念 你可以及时去查 对于层数 标在上面 对于该层的第几个元素 标在下面 输入层算作第0层 对于第一层的w b 参数 维度如下w:4*3 b:4*1 这个叫做神经元 比如对于第一层的神经元 这里说的很…...

编程日记 2025/9/28 20:01:03

在线工具源码_字典查询_汉语词典_成语查询_择吉黄历等255个工具数百万数据 养站神器，安装教程

在线工具源码_字典查询_汉语词典_成语查询_择吉黄历等255个工具数百万数据 养站神器，安装教程 资源宝分享：https://www.httple.net/154301.html 一次性打包涵盖200个常用工具！无论是日常的图片处理、文件格式转换，还是实用的时间…...

编程日记 2025/9/20 7:40:43

ORB-SLAM3和VINS-MONO的对比

直接给总结，整体上orbslam3（仅考虑带imu）在初始化阶段是松耦合，localmap和全局地图优化是紧耦合。而vins mono则是全程紧耦合。然后两者最大的区别就在于vins mono其实没有对地图点进行优化，为了轻量化，它一…...

编程日记 2025/6/13 0:37:36

大数据处理利器：Hadoop 入门指南

一、Hadoop 是什么？—— 分布式计算的基石 在大数据时代，处理海量数据需要强大的技术支撑，Hadoop 应运而生。Apache Hadoop 是一个开源的分布式计算框架，致力于为大规模数据集提供可靠、可扩展的分布式处理能力。其核心设计理念是…...

编程日记 2025/7/17 22:12:37

Docker容器网络架构深度解析与技术实践指南——基于Linux内核特性的企业级容器网络实现

第1章 容器网络基础架构 1 Linux网络命名空间实现原理 1.1内核级隔离机制深度解析 1.1.1进程隔离的底层实现 通过clone()系统调用创建新进程时，设置CLONE_NEWNET标志位将触发内核执行以下操作： 内核源码示例（linux-6.8.0/kernel/fork.c&a…...

编程日记 2025/6/17 9:44:37

基于Kubernetes的Apache Pulsar云原生架构解析与集群部署指南（下）

文章目录 k8s安装部署Pulsar集群前期准备版本要求 安装 Pulsar Helm chart管理pulsarClustersBrokersTopic k8s安装部署Pulsar集群 前期准备 版本要求 Kubernetes 集群，版本 1.14 或更高版本Helm v3（3.0.2 或更高版本）数据持久化&#xff…...

编程日记 2025/9/13 8:34:46

IoTDB端边云同步技术的五大常见场景及简便使用方式

IoTDB端边云同步技术提供了一种高效、可靠的数据同步解决方案，通过简洁灵活的SQL操作和直观的配置方式，实现了数据在端、边、云之间的无缝流动。以下是IoTDB端边云同步的五大常见场景及其简便的使用方式。 一、基础数据同步 基础数据同步包括全量数据同…...

编程日记 2025/9/15 20:09:56

Linux 阻塞和非阻塞 I/O 简明指南

目录 声明 1. 阻塞和非阻塞简介 2. 等待队列 2.1 等待队列头 2.2 等待队列项 2.3 将队列项添加/移除等待队列头 2.4 等待唤醒 2.5 等待事件 3. 轮询 3.1 select函数 3.2 poll函数 3.3 epoll函数 4. Linux 驱动下的 poll 操作函数 声明 本博客所记录的关于正点原子…...

编程日记 2025/9/28 22:46:01

libtorch配置指南（包含Windows和Linux）

libtorch libtorch是pytorch的c库，提供了用于深度学习和张量计算的功能，允许开发者在c环境中使用pytorch的核心功能。特别是当一些pt模型无法转换到ncnn、mnn等模型时（ncnn、mnn可能还不支持某些层），可以在libtorch直…...

编程日记 2025/5/24 12:01:42

Java开发经验——阿里巴巴编码规范经验总结2

摘要 这篇文章是关于Java开发中阿里巴巴编码规范的经验总结。它强调了避免使用Apache BeanUtils进行属性复制，因为它效率低下且类型转换不安全。推荐使用Spring BeanUtils、Hutool BeanUtil、MapStruct或手动赋值等替代方案。文章还指出不应在视图模板中加入复杂逻…...

编程日记 2025/9/24 13:00:36

机器人手臂“听不懂“指令？Ethercat转PROFINET网关妙解通信僵局

机器人手臂"听不懂"指令？Ethercat转PROFINET网关妙解产线通信僵局 协作机器人（如KUKA iiWA）使用EtherCAT控制，与Profinet主站（如西门子840D CNC）同步动作。 客户反馈：基于Profinet…...

编程日记 2025/9/25 2:18:08

深度学习 CNN

CNN 简介 什么是 CNN？ 卷积神经网络（Convolutional Neural Network）是专为处理网格数据（如图像）设计的神经网络。核心组件： 卷积层 ：提取局部特征（如边缘、纹理）通过卷…...

编程日记 2025/9/23 1:15:53

GrassRoot备份项目

Windows服务项目 Grass.cs using System; using System.Collections.Generic; using System.Linq; using System.Net; using System.Net.Http.Headers; using System.Net.Http; using System.Text; using System.Threading; using System.Threading.Tasks; using System.Time…...

编程日记 2025/8/27 19:49:36

iOS开发架构——MVC、MVP和MVVM对比

文章目录 前言MVC（Model - View - Controller）MVP（Model - View - Presenter）MVVM（Model - View - ViewModel） 前言 在 iOS 开发中，MVC、MVVM、和 MVP 是常见的三种架构模式，它们主…...

编程日记 2025/6/12 17:40:46

typecho中的Widget设计文档

组成系统的最基本元素 什么是Widget Widget是组成Typecho的最基本元素，除了已经抽象出来的类库外，其它几乎所有的功能都会通过Widget来完成。在实践中我们发现，在博客这种小型但很灵活的系统中实施一些大型框架的思想是不合适的&#xff0c…...

编程日记 2025/9/8 20:55:38

MySQL索引原理以及SQL优化（二）

目录 1. 索引与约束 1.1 索引是什么 1.2 索引的目的 1.3 索引分类 1.3.1 数据结构 1.3.2 物理存储 1.3.3 列属性 1.3.4 列的个数 1.4 主键的选择 1.5 索引使用场景 1.6 索引的底层实现 1.6.1 索引存储 1.6.2 页 1.6.3 B 树 1.6.4 B 树层高问题 1.6.5 自增 id 1.7 innod…...

编程日记 2025/9/20 7:18:37

MATLAB中矩阵和数组的区别

文章目录 前言环境配置1. 数据结构本质2. 运算规则（1）基本运算（2）特殊运算 3. 函数与操作4. 高维支持5. 创建方式 前言 在 MATLAB 中，矩阵（Matrix） 和 数组（Array） 的概…...

编程日记 2025/9/26 5:55:09

Desfire Ev1\Ev2\Ev3卡DES\3K3DES\AES加解密读写C#示例源码

本示例使用的发卡器：https://item.taobao.com/item.htm?spma21dvs.23580594.0.0.1d292c1bYhsS9c&ftt&id917152255720 using System; using System.Collections.Generic; using System.ComponentModel; using System.Data; using System.Drawing; using S…...

编程日记 2025/9/20 8:53:28

MySQL核心内容【完结】

MySQL核心内容 文章目录 MySQL核心内容1.MySQL核心内容目录2.MySQL知识面扩展3.MySQL安装4.MySQL配置目录介绍Mysql配置远程ip连接 5.MySQL基础1.MySQL数据类型1.数值类型2.字符串类型3.日期和时间类型4.enum和set 2.MySQL运算符1.算数运算符2.逻辑运算符3.比较运算符 3.MySQL完…...

编程日记 2025/9/30 1:06:09

C++类和对象进阶 —— 与数据结构的结合

🎁个人主页：工藤新一 🔍系列专栏：C面向对象（类和对象篇） 🌟心中的天空之城，终会照亮我前方的路 🎉欢迎大家点赞👍评论📝收藏⭐文章 文章目录 […...

编程日记 2025/9/19 22:17:06

Django之账号登录及权限管理

账号登录及权限管理 目录 1.登录功能 2.退出登录 3.权限管理 4.代码展示合集 这篇文章, 会讲到如何实现账号登录。账号就是我们上一篇文章写的账号管理功能, 就使用那里面已经创建好的账号。这一次登录, 我们分为三种角色, 分别是员工, 领导, 管理员。不同的角色, 登录进去…...

编程日记 2025/9/25 12:31:25

从一城一云到AI CITY，智慧城市进入新阶段

AI将如何改变城市面貌？AI能否为城市创造新的商业价值？AI的落地应用将对日常生活有什么样的影响？ 几乎在每一场和城市发展相关的论坛上，都会出现以上几个问题。城市既是AI技术创新融合应用的综合性载体，普罗大众对AI产…...

编程日记 2025/8/11 23:06:52

Oracle数据库DBF文件收缩

这两天新部署了一套系统，数据库结构保持不变，牵扯导出表结构还有函数，图省事就直接新建用户，还原数据库了。然后咔咔咔，一顿删除delete，truncate，发现要不就是表删了，还有num_rows&a…...

编程日记 2025/8/6 2:08:59

EXCEL中嵌入其他表格等文件

在EXCEL中嵌入其他表格 先放链接：https://jingyan.baidu.com/article/295430f11708c34d7e00509a.html 步骤如下： 1、打开一个需要嵌入新表格的excel表。 2、切换至“插入”菜单中，单击选择“对象”。 3、如下图所示，会弹出“对象…...

编程日记 2025/9/20 5:55:23

21. LangChain金融领域：合同审查与风险预警自动化

引言：当AI成为24小时不眠的法律顾问 2025年某商业银行的智能合同系统，将百万级合同审查时间从平均3周缩短至9分钟，风险条款识别准确率达98.7%。本文将基于LangChain的金融法律框架，详解如何构建合规、精准、可追溯的智能风控体系…...

编程日记 2025/9/25 18:38:55

Springboot使用事件流调用大模型接口

什么是事件流 事件流（Event Stream） 是一种处理和传递事件的方式，通常用于系统中的异步消息传递或实时数据流。在事件驱动架构（Event-Driven Architecture）中，事件流扮演着至关重要的角色。 事件流的概念…...

编程日记 2025/9/29 23:11:12

计算机网络--2

TCP三次握手 TCP连接为什么需要三次握手 1. 由于网络情况复杂，可能会出现丢包现象，如果第二次握手的时候服务器就认为这个端口可用，然后一直开启，但是如果客户端未收到服务器发送的回复，那么就会重新发送请求，服务器就会重新开启一个端口连接，这样就会浪费一个端口。 三…...

编程日记 2025/9/25 10:40:15

【已解决】WORD域相关问题；错误 未找到引用源；复制域出错；交叉引用域到底是个啥

（微软赶紧倒闭 所有交叉引用域，有两个状态：1.锁定。2.手动。可通过编辑->链接查看。 “锁定”状态域的能力： 1. 导出PDF格式稳定（【已解决】WORD导出PDF时，参考文献上标自动被取消/变为正常文本_word…...

编程日记 2025/6/13 12:48:51

尤雨溪宣布：Vue 生态正式引入 AI

在前端开发领域，Vue 框架一直以其易用性和灵活性受到广大开发者的喜爱。 而如今，Vue 生态在人工智能（AI）领域的应用上又迈出了重要的一步。 尤雨溪近日宣布，Vue、Vite 和 Rolldown 的文档网站均已添加了llms.txt文件，这一举措旨在让大型语言模型（LLM）更方便地理解这些…...

编程日记 2025/9/19 0:11:42

蓝桥杯第十六届c组c++题目及个人理解

本篇文章只是部分题目的理解&#xff0c;代码和思路仅供参考&#xff0c;切勿当成正确答案&#xff0c;欢迎各位小伙伴在评论区与博主交流&#xff01; 题目&#xff1a;2025 题目解析 核心提取 要求的数中至少有1个0、2个2、1个5 代码展示 #include<iostream> #incl…...

编程日记 2025/9/29 9:57:56