当前位置： 首页 > news >正文

机器学习笔记-2

news 2026/2/8 22:32:48

文章目录

  • 一、Linear model
  • 二、How to represent this function
  • 三、Function with unknown parameter
  • 四、ReLU
  • 总结、A fancy name

一、Linear model

线性模型过于简单，有很大限制，我们需要更多复杂模式
在这里插入图片描述

蓝色是线性模型，线性模型无法去表示红色的那个线
所以线性模型有严重的局限性这被成为
Model Bias(模型偏差)

我们需要一个复杂的有位置参数的function
在这里插入图片描述

所有分段线性曲线=常数+多个分段线性函数的叠加

在这里插入图片描述

二、How to represent this function

用这个Sigmoid function来逼近这条蓝色的Hard Sigmoid function
在这里插入图片描述

例：
分别改变w，b，c

在这里插入图片描述

假设要写出红色的这条线
在这里插入图片描述

从简单模型到复杂模型

在这里插入图片描述

初始线性回归模型

引入非线性（sigmoid 函数）：将模型扩展为使用 sigmoid 激活函数引入更多权重和偏移

多特征线性模型：在此基础上，模型扩展为多输入特征

多特征与非线性结合：非线性函数 sigmoid 被应用在多个输入特征的线性组合上

通过多个输入特征和权重计算激活函数
在这里插入图片描述
简化成矩阵

在这里插入图片描述

将线性加权求和的结果通过非线性激活函数进行转换。

在这里插入图片描述

最后输出计算

在这里插入图片描述

在这里插入图片描述
最后用线性代数得到式子

在这里插入图片描述

三、Function with unknown parameter

将神经网络中的所有权重和偏置统一为一个参数向量 𝜃，便于进行优化

在这里插入图片描述

ML框架

在这里插入图片描述

定Loss

在这里插入图片描述

新模型优化

在这里插入图片描述
通过梯度下降法优化模型参数 𝜃 来最小化损失函数L。

在这里插入图片描述

找到最优的𝜃使L值最小

在这里插入图片描述

四、ReLU

在这里插入图片描述
也可以用ReLU，将Sigmoid的地方换成ReLU

在这里插入图片描述

例：

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

总结、A fancy name

我们给这些起了一个好听的名字
Neuron
Neuron Network
Deep Learning
在这里插入图片描述

发展变化

在这里插入图片描述

相关文章：

机器学习笔记-2

文章目录 一、Linear model二、How to represent this function三、Function with unknown parameter四、ReLU总结、A fancy name 一、Linear model 线性模型过于简单，有很大限制，我们需要更多复杂模式 蓝色是线性模型，线性模型无法去表示…...

编程日记 2024/10/17 2:28:54

SpringSecurity（一）——认证实现

一、初步理解 SpringSecurity的原理其实就是一个过滤器链，内部包含了提供各种功能的过滤器。 当前系统中SpringSecurity过滤器链中有哪些过滤器及它们的顺序。 核心过滤器： （认证）UsernamePasswordAuthenticationFilter:负责处理…...

编程日记 2024/10/17 2:26:52

VMWare NAT 模式下 虚拟机上不了网原因排查

vmware 按照了Linux之后 无法上网，搞定后，记录一些信息。 window有两个虚拟网卡 VMnet1 对应的是 Host-Only（仅主机模式） VMnet8 对应的是 NAT（网络地址转换模式） 在NAT模式中，需要设置NAT和D…...

编程日记 2024/10/17 2:24:50

R语言手工实现主成分分析 PCA | 奇异值分解(svd) 与PCA | PCA的疑问和解答

几个问题： pca可以用相关系数矩阵做吗？效果比协方差矩阵比怎么样？pca做完后变量和样本的新坐标怎么旋转获得？pca做不做scale和center对结果有影响吗？pca用因子分解和奇异值分解有啥区别？后者怎么获得变量和样本的新坐标？1. 用R全手工实现 PCA(对比 prcomp() ) 不借助包…...

编程日记 2024/10/17 2:23:48

第三届OpenHarmony技术大会在上海成功举办

10月12日，以“技术引领筑生态，万物智联创未来”为主题的第三届OpenHarmony技术大会（以下简称“大会”）在上海成功举办。本次大会由OpenAtom OpenHarmony（以下简称“OpenHarmony”）项目群技术指导委员会&…...

编程日记 2024/10/17 2:22:47

数字化：IT部门主导还是业务部门主导？

在这个瞬息万变的数字化时代，企业如同在大海中航行的小船，面对波涛汹涌的市场竞争，数字化转型已成为生存的必经之路。然而，在这条充满挑战的航线上，常常会出现一个让人纠结的问题：数字化转型究竟应该由IT部…...

编程日记 2024/10/17 2:21:46

MySQL表的基本查询下/分组聚合统计

1，update 对查询到的结果进行列值更新，可以和older by，where，limit合并使用，为了方便讲解，将会以题目练习的方式进行说明： 1，将孙悟空同学的数学成绩变更为 80 分 本道题和where联…...

编程日记 2024/10/17 2:20:45

条款3： 理解decltype

目录 一、decltype + 变量 二、decltype + 表达式 三、decltype 使用场景 一、decltype + 变量 🥭 所有的信息都会保留，数组和函数也不会退化 const int &&carref = std::move(ca); decltype(carref) bb; // bb推导为const int &&,不会被忽略掉co…...

编程日记 2024/10/17 2:19:44

TCP：过多的TIME_WAIT

过多的TIME_WAIT 线上问题紧急处理方式tcp_tw_reuse启用主要特点：源码 线上问题 线上机器出现了几万个TIME_WAIT，怎么办？ 紧急处理方式 tcp_tw_reuse 启用 默认情况下tcp_tw_reuse是关闭状态，使用sysctl -w net.ipv4.tcp_tw_…...

编程日记 2024/10/17 2:18:43

化学元素分子量、氧化物系数计算python类

在网上找到的分子量计算类，做了少量修改,有原子量、分子量、氧化物系数的计算。 import re wt_dict{ #该原子量数据从CRC手册第95版提取。"H": 1.008,"He": 4.002602,"Li": 6.94,"Be": 9.0121831,"B": 10.…...

编程日记 2024/10/17 2:17:42

torch.utils.data.DataLoader参数介绍

torch.utils.data.DataLoader 是 PyTorch 用于加载数据的重要工具，特别是在深度学习模型训练中。它可以高效地处理大规模数据集，并支持多线程数据加载。以下是 DataLoader 的关键参数及其功能： 主要参数 dataset: 要加载的数据集，可以是 PyTorch 自带的 torch.utils.data.…...

编程日记 2024/10/17 2:16:40

echarts 入门

工作中第一次碰到echarts&#xff0c;当时有大哥。二进宫没办法&#xff0c;只能搞定它。 感觉生活就是这样&#xff0c;不能解决的问题总是会反复出现。通过看视频、查资料&#xff0c;完成了工作要求。写一篇Hello World&#xff0c;进行备查。 基本使用 快速上手 <!DO…...

编程日记 2024/10/17 2:14:38

WPF实现类似网易云音乐的菜单切换

这里是借助三方UI框架实现了&#xff0c;感兴趣的小伙伴可以看一下。 深色模式&#xff1a;​ 浅色模式&#xff1a; ​这里主要使用了以下三个包&#xff1a; MahApps.Metro&#xff1a;UI库&#xff0c;提供菜单导航和其它控件​​​​​​​ 实现步骤&#xff1a;1、使用B…...

编程日记 2024/10/17 2:13:37

OpenCV人脸检测与识别：构建智能识别系统

在当今科技日新月异的时代&#xff0c;人脸识别技术以其独特的便利性和安全性&#xff0c;在各个领域都展现出了巨大的应用潜力。从智能手机的面部解锁&#xff0c;到机场的自动安检&#xff0c;再到商场的顾客行为分析&#xff0c;人脸识别技术无处不在。本文将深入探讨如何使…...

编程日记 2024/10/17 2:12:36

H5 Canvas 举牌小人

之前看到这种的举牌小人的图片觉得很有意思&#xff0c;最近有时间所以就尝试写写看。 在线链接 https://linyisonger.github.io/H5.Examples/?name./080.Canvas%20%E4%B8%BE%E7%89%8C%E5%B0%8F%E4%BA%BA.html 生成效果 实现代码 <!DOCTYPE html> <html lang"…...

编程日记 2024/10/17 2:10:34

rom定制系列------小米6x_澎湃os1.0.28安卓13定制固件修改 刷写过程与界面预览

&#x1f49d;&#x1f49d;&#x1f49d; 在接待很多定制化系统过程中。小米6x机型为很多工作室客户使用。但官方低版本固件无法适应新应用的使用。有些第三方固件却可以完美解决。此固件是客户分享的卡刷固件。需要修改为可以批量刷写的线刷固件。去除一些内置应用。需要自带…...

编程日记 2024/10/17 2:09:33

电脑硬件性能：HDD + SSD + CPU + GPU

文章目录 任务管理器&#xff1a;性能参数详解一、电脑的硬件组成二、机械硬盘和固态硬盘2.1、详细介绍&#xff1a;HDD SSD2.2、读写性能2.2.1、&#xff08;HDD&#xff09;读写性能的影响因素&#xff1a;寻道时间 旋转延迟 数据传输时间2.2.2、&#xff08;SSD&#xff…...

编程日记 2024/10/17 2:06:30

通过粒子系统customData传值给材质球

粒子特效使用的材质球&#xff0c;如果通过动画控制shader的某个参数&#xff0c;例如溶解阈值&#xff0c;所有的粒子都会按照相同的数值变化&#xff0c;如果需要每个粒子在自己的生命周期内按照曲线变化&#xff0c;则可以通过customData实现。 1.ParticleSystem中勾选Cust…...

编程日记 2024/10/17 2:05:27

常用分布的数学期望、方差、特征函数

文章目录 相关教程相关文献常用分布的数学期望&方差&特征函数定义事件域概率条件概率随机变量分布函数连续随机变量的概率密度函数数学期望离散随机变量连续随机变量 方差与标准差最大似然估计特征函数 不等式Chebyshev&#xff08;切比雪夫&#xff09;不等式 作者&am…...

编程日记 2024/10/17 2:02:24

ssh-配置

生成 SSH 密钥是一项重要的安全措施&#xff0c;用于在客户端和服务器之间建立加密连接。以下是在 Windows 和 Linux 系统上生成 SSH 密钥的详细步骤。 一、在 Linux 上生成 SSH 密钥 Linux 通常预装了 ssh-keygen 工具&#xff0c;可以通过以下步骤生成 SSH 密钥&#xff1a…...

编程日记 2024/10/17 2:00:22

【论文阅读28】-CNN-BiLSTM-Attention-（2024）

本文把滑坡位移序列拆开、筛优质因子&#xff0c;再用 CNN-BiLSTM-Attention 来动态预测每个子序列&#xff0c;最后重构出总位移&#xff0c;预测效果超越传统模型。 文章目录 1 引言2 方法2.1 位移时间序列加性模型2.2 变分模态分解 (VMD) 具体步骤2.3.1 样本熵&#xff08;S…...

编程新知 2026/2/2 3:06:53

DeepSeek 技术赋能无人农场协同作业：用 AI 重构农田管理 “神经网”

目录 一、引言二、DeepSeek 技术大揭秘2.1 核心架构解析2.2 关键技术剖析 三、智能农业无人农场协同作业现状3.1 发展现状概述3.2 协同作业模式介绍 四、DeepSeek 的 “农场奇妙游”4.1 数据处理与分析4.2 作物生长监测与预测4.3 病虫害防治4.4 农机协同作业调度 五、实际案例大…...

编程新知 2025/9/24 13:35:36

Docker 本地安装 mysql 数据库

Docker: Accelerated Container Application Development 下载对应操作系统版本的 docker &#xff1b;并安装。 基础操作不再赘述。 打开 macOS 终端&#xff0c;开始 docker 安装mysql之旅 第一步 docker search mysql 》〉docker search mysql NAME DE…...

编程新知 2026/2/6 21:43:26

Golang——9、反射和文件操作

反射和文件操作 1、反射1.1、reflect.TypeOf()获取任意值的类型对象1.2、reflect.ValueOf()1.3、结构体反射 2、文件操作2.1、os.Open()打开文件2.2、方式一&#xff1a;使用Read()读取文件2.3、方式二&#xff1a;bufio读取文件2.4、方式三&#xff1a;os.ReadFile读取2.5、写…...

编程新知 2026/1/30 6:20:08

C语言中提供的第三方库之哈希表实现

一. 简介 前面一篇文章简单学习了C语言中第三方库&#xff08;uthash库&#xff09;提供对哈希表的操作&#xff0c;文章如下&#xff1a; C语言中提供的第三方库uthash常用接口-CSDN博客 本文简单学习一下第三方库 uthash库对哈希表的操作。 二. uthash库哈希表操作示例 u…...

编程新知 2025/11/9 14:40:17

elementUI点击浏览table所选行数据查看文档

项目场景&#xff1a; table按照要求特定的数据变成按钮可以点击 解决方案&#xff1a; <el-table-columnprop"mlname"label"名称"align"center"width"180"><template slot-scope"scope"><el-buttonv-if&qu…...

编程新知 2026/2/4 18:42:53

前端中slice和splic的区别

1. slice slice 用于从数组中提取一部分元素&#xff0c;返回一个新的数组。 特点&#xff1a; 不修改原数组&#xff1a;slice 不会改变原数组&#xff0c;而是返回一个新的数组。提取数组的部分&#xff1a;slice 会根据指定的开始索引和结束索引提取数组的一部分。不包含…...

编程新知 2025/11/27 20:15:13

大数据治理的常见方式

大数据治理的常见方式 大数据治理是确保数据质量、安全性和可用性的系统性方法&#xff0c;以下是几种常见的治理方式&#xff1a; 1. 数据质量管理 核心方法&#xff1a; 数据校验&#xff1a;建立数据校验规则&#xff08;格式、范围、一致性等&#xff09;数据清洗&…...

编程新知 2025/10/6 12:34:16

CSS3相关知识点

CSS3相关知识点 CSS3私有前缀私有前缀私有前缀存在的意义常见浏览器的私有前缀 CSS3基本语法CSS3 新增长度单位CSS3 新增颜色设置方式CSS3 新增选择器CSS3 新增盒模型相关属性box-sizing 怪异盒模型resize调整盒子大小box-shadow 盒子阴影opacity 不透明度 CSS3 新增背景属性ba…...

编程新知 2026/2/5 1:50:16

高效的后台管理系统——可进行二次开发

随着互联网技术的迅猛发展&#xff0c;企业的数字化管理变得愈加重要。后台管理系统作为数据存储与业务管理的核心&#xff0c;成为了现代企业不可或缺的一部分。今天我们要介绍的是一款名为 若依后台管理框架 的系统&#xff0c;它不仅支持跨平台应用&#xff0c;还能提供丰富…...

编程新知 2026/2/4 15:23:03