当前位置： 首页 > news >正文

机器学习笔记(二)

news 2025/7/9 7:32:12

过拟合

在这里插入图片描述

如下图左边,模型出现了过拟合现象

为了解决过拟合现象, 其中一个做法是多收集数据,如右图。

第二种做法是减少模型的特征数量,即x

第三种做法是正则化

在这里插入图片描述
正则化就是减少x前面的参数 w的数值, 不用消除x
在这里插入图片描述

正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变
在这里插入图片描述

正则化的工作原理就是缩小参数w的值

在这里插入图片描述
假如 wj(1-0.0028) 那么wj就会一点点变小

神经网络

下图是神经网络基本的传递

在这里插入图片描述

下图是神经网络构成集型的一种方式
在这里插入图片描述
在这里插入图片描述

这里 A_in 和 W 都是代表矩阵,其中 w是两行三列

常见的激活函数g(Z)

在这里插入图片描述

多分类问题

在这里插入图片描述
前面讨论只有两种情况,这次问题是有多种类型需要分类

需要构建决策边界

SoftMax回归模型

下面的例子是当有四种分类的情况下

在这里插入图片描述

由此可以推出Softmax的公式如下
在这里插入图片描述

SoftMax的损失

在这里插入图片描述
左侧是逻辑回归即二元回归
右侧是 SoftMax多元回归

loss 指的是 单次 计算的损失

J 值的是整个计算过程的损失

相关文章：

机器学习笔记(二)

过拟合 如下图左边,模型出现了过拟合现象 为了解决过拟合现象, 其中一个做法是多收集数据,如右图。 第二种做法是减少模型的特征数量,即x 第三种做法是正则化 正则化就是减少x前面的参数 w的数值, 不用消除x 正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变 …...

编程日记 2023/10/10 7:39:45

Java @Override 注解

在代码中，你可能会看到大量的 Override 注解。 这个注解简单来说就是让编译器去读的，能够避免你在写代码的时候犯一些低级的拼写错误。 Java Override 注解用来指定方法重写（Override），只能修饰方法并且只能用于方法…...

编程日记 2023/10/10 7:38:45

用rabbitMq 怎么处理“延迟消息队列”？

延迟消息队列是一种允许消息在发送后等待一段时间，然后再被消费的机制。这种机制通常用于需要延迟处理的应用场景，如定时任务、消息重试、消息调度等。在 RabbitMQ 中，实现延迟消息队列需要使用一些额外的组件和技术，因为 RabbitM…...

编程日记 2023/10/10 7:37:44

不常见的JS加密分析

前言 ​ 今天发现一个很少见的JS加密代码，他由一段十分少见的环境检测逻辑，修改一个字符都会被检测到，十分神奇，今天献上。 源代码 let hiJsJiami;!function(){const Zg3GArray.prototype.slice.call(arguments);return eval(&…...

编程日记 2023/10/10 7:35:42

TCP原理特性详解

文章目录 可靠传输机制1.确认应答2.超时重传2.连接管理1.三次握手2.四次挥手 传输效率1.滑动窗口2.流量控制3.拥塞控制4.延时应答5.捎带应答 面向字节流粘包问题 TCP异常情况 可靠传输机制 可靠性：即发送方知道数据是发送成功了，还是失败了。 1.确认应答…...

编程日记 2023/10/10 7:34:41

什么是懒加载,JS如何实现懒加载,在php中如何去实现懒加载

懒加载（Lazy Loading）是一种前端优化技术，用于推迟加载页面中的某些资源（如图片、脚本、样式等），直到用户需要访问或者接近该资源时才进行加载。这可以减少初始页面加载时间，并提高页面性能和用…...

编程日记 2023/10/10 7:33:40

Cesium 展示——读取文件——加载 geojson 文件数据

文章目录 需求分析方法一：加载 geojson 文件方法二：加载 后台解析后的 geojson 文件结果需求 在做项目时，对加载 geojson 格式的数据有了一定的了解，因此试着尝试接手后台解析的 geojson 数据进行绘制，因此做了总结如下 分析 方法一：加载 geojson 文件 this.od6 = wi…...

编程日记 2023/10/10 7:32:39

（二）Apache log4net™ 手册 - 配置

0、引言 在上一篇文章中我们简单介绍了 Log4Net 及其核心的三大组件。本文将在上一篇文章的基础上继续探讨与 Log4Net 配置相关的内容。 1、配置 将日志请求插入到应用程序代码中需要进行大量的计划和工作。观察表明，大约4%的代码专门用于日志记录。因此&#xf…...

编程日记 2023/10/10 7:31:38

Elasticsearch：时间点 API

Elasticsearch：时间点 API-CSDN博客 在今天的文章中，我将着重介绍 Point in time API。在接下来的文章中，我将介绍如何运用 PIT 来对搜索结果进行分页。这也是被推荐使用的方法。 Point in time API 默认情况下，搜索请求针对目标…...

编程日记 2023/10/10 7:30:37

hive数据表定义

分隔符 CREATE TABLE emp( userid bigint, emp_name array<string>, emp_date map<string,date>, other_info struct<deptname:string, gender:string>) ROW FORMAT DELIMITED FIELDS TERMINATED BY \t COLLECTION ITEMS TERMINATED BY , MAP KEYS TERMINAT…...

编程日记 2023/10/10 7:29:36

OpenMesh 网格简化之顶点聚类

文章目录 一、简介二、实现代码三、实现效果参考资料一、简介 顶点聚类方法将落在给定大小体素中的所有顶点集中到单个顶点之上，其过程有点类似于点云体素下采样，之后再基于聚类之后的顶点重新连接面片，以达到网格简化的目的。 二、实现代码 #define _USE_MATH_DEFINES #in…...

编程日记 2023/10/10 7:27:33

C++ 类和对象篇(八) const成员函数和取地址运算符重载

目录 一、const成员函数 1. const成员函数是什么&#xff1f; 2. 为什么有const成员函数&#xff1f; 3. 什么时候需要使用const修饰成员函数&#xff1f; 二、取地址运算符重载 1. 为什么需要重载取地址运算符&#xff1f; 2. 默认取地址运算符重载函数 3. 默认const取地址运…...

编程日记 2023/10/10 7:25:31

k8s 集群安装(vagrant + virtualbox + CentOS8)

主机环境&#xff1a;windows 11 k8s版本&#xff1a;v1.25 dashboard版本&#xff1a;v2.7.0 calico版本&#xff1a; v3.26.1 CentOS8版本&#xff1a;4.18.0-348.7.1.el8_5.x86_64 用到的脚本&#xff1a; https://gitcode.net/sundongsdu/k8s_cluster 1. Vagrant创建…...

编程日记 2023/10/10 7:24:30

8、Docker数据卷与数据卷容器

一、数据卷(Data Volumes) 为了很好的实现数据保存和数据共享&#xff0c;Docker提出了Volume这个概念&#xff0c;简单的说就是绕过默认的联合文件系统&#xff0c;而以正常的文件或者目录的形式存在于宿主机上。又被称作数据卷。 数据卷 是一个可供一个或多个容器使用的特殊目…...

编程日记 2023/10/10 7:23:29

大数据与Hadoop入门理论

一、大数据的3种数据类型 1、结构化数据 可定义&#xff0c;有类型、格式、结构的强制约束 如&#xff1a;RDBMS&#xff08;关系型数据库管理系统&#xff09; 2、非结构化数据 没有规律没有数据约束可言&#xff0c;很复杂难以解析 如&#xff1a;文本文件&#xff0c;视…...

编程日记 2023/10/10 7:22:28

持续集成部署-k8s-深入了解 Pod：探针

持续集成部署-k8s-深入了解 Pod：探针 1. 探针分类2. 探针探测方式3. 探针参数配置4. 启动探针的应用5. Liveness 探针的应用6. Readiness 探针的应用1. 探针分类 Kubernetes 中的探针是指容器内的进程用于告知 Kubernetes 组件其自身状态的机制； Readiness Probe：就绪探针用…...

编程日记 2023/10/10 7:21:26

来单提醒/客户催单 ----苍穹外卖day9

来单提醒 需求分析 代码开发 注意:前端请求的并不是8080端口;而是先请求Nginx,Nginx进行反向代理以后转发到8080端口 这段代码首先创建了一个orders类用于更新订单状态 并且在更新状态后使用websocket发送给后端提醒 将信息放在map后,使用json的string化方式传给一个接收对象,…...

编程日记 2023/10/10 7:20:25

【单片机】18-红外线遥控

一、红外遥控背景知识 1.人机界面 &#xff08;1&#xff09;当面操作&#xff1a;按键&#xff0c;旋转/触摸按键&#xff0c;触摸屏 &#xff08;2&#xff09;遥控操作&#xff1a;红外遥控&#xff0c;433M/2.4G无线通信【穿墙能力强】&#xff0c;蓝牙-WIFI-Zigbee-LoRa等…...

编程日记 2023/10/10 7:19:24

【Node.js】module 模块化

认识 node.js Node.js 是一个独立的 JavaScript 运行环境&#xff0c;能独立执行 JS 代码&#xff0c;可以用来编写服务器后端的应用程序。基于Chrome V8 引擎封装&#xff0c;但是没有 DOM 和 BOM。Node.js 没有图形化界面。node -v 检查是否安装成功。node index.js 执行该文…...

编程日记 2023/10/10 7:18:23

Vue中如何进行分布式日志收集与日志分析（如ELK Stack）

在Vue中实现分布式日志收集与日志分析&#xff08;使用ELK Stack&#xff09; 日志收集和分析在现代应用程序中是至关重要的&#xff0c;它们可以帮助开发人员监视和诊断应用程序的行为&#xff0c;从而提高应用程序的稳定性和性能。ELK Stack&#xff08;Elasticsearch、Logs…...

编程日记 2023/10/10 7:17:22

论文浅尝 | 基于判别指令微调生成式大语言模型的知识图谱补全方法（ISWC2024）

笔记整理&#xff1a;刘治强&#xff0c;浙江大学硕士生&#xff0c;研究方向为知识图谱表示学习&#xff0c;大语言模型 论文链接&#xff1a;http://arxiv.org/abs/2407.16127 发表会议&#xff1a;ISWC 2024 1. 动机 传统的知识图谱补全&#xff08;KGC&#xff09;模型通过…...

编程新知 2025/7/8 16:20:24

Axios请求超时重发机制

Axios 超时重新请求实现方案 在 Axios 中实现超时重新请求可以通过以下几种方式&#xff1a; 1. 使用拦截器实现自动重试 import axios from axios;// 创建axios实例 const instance axios.create();// 设置超时时间 instance.defaults.timeout 5000;// 最大重试次数 cons…...

编程新知 2025/6/21 10:09:08

Unity | AmplifyShaderEditor插件基础（第七集：平面波动shader）

目录 一、&#x1f44b;&#x1f3fb;前言 二、&#x1f608;sinx波动的基本原理 三、&#x1f608;波动起来 1.sinx节点介绍 2.vertexPosition 3.集成Vector3 a.节点Append b.连起来 4.波动起来 a.波动的原理 b.时间节点 c.sinx的处理 四、&#x1f30a;波动优化…...

编程新知 2025/7/7 20:06:50

七、数据库的完整性

七、数据库的完整性 主要内容 7.1 数据库的完整性概述 7.2 实体完整性 7.3 参照完整性 7.4 用户定义的完整性 7.5 触发器 7.6 SQL Server中数据库完整性的实现 7.7 小结 7.1 数据库的完整性概述 数据库完整性的含义 正确性 指数据的合法性 有效性 指数据是否属于所定…...

编程新知 2025/6/28 14:04:35

MinIO Docker 部署：仅开放一个端口

MinIO Docker 部署：仅开放一个端口 在实际的服务器部署中，出于安全和管理的考虑，我们可能只能开放一个端口。MinIO 是一个高性能的对象存储服务，支持 Docker 部署，但默认情况下它需要两个端口：一个是 API 端口（用于存储和访问数据），另一个是控制台端口（用于管理界面…...

编程新知 2025/6/21 15:09:46

Qt 事件处理中 return 的深入解析

Qt 事件处理中 return 的深入解析 在 Qt 事件处理中&#xff0c;return 语句的使用是另一个关键概念&#xff0c;它与 event->accept()/event->ignore() 密切相关但作用不同。让我们详细分析一下它们之间的关系和工作原理。 核心区别&#xff1a;不同层级的事件处理 方…...

编程新知 2025/6/10 21:19:52

永磁同步电机无速度算法--基于卡尔曼滤波器的滑模观测器

一、原理介绍 传统滑模观测器采用如下结构&#xff1a; 传统SMO中LPF会带来相位延迟和幅值衰减&#xff0c;并且需要额外的相位补偿。 采用扩展卡尔曼滤波器代替常用低通滤波器(LPF)&#xff0c;可以去除高次谐波&#xff0c;并且不用相位补偿就可以获得一个误差较小的转子位…...

编程新知 2025/7/9 5:51:26

Monorepo架构: Nx Cloud 扩展能力与缓存加速

借助 Nx Cloud 实现项目协同与加速构建 1 &#xff09; 缓存工作原理分析 在了解了本地缓存和远程缓存之后&#xff0c;我们来探究缓存是如何工作的。以计算文件的哈希串为例&#xff0c;若后续运行任务时文件哈希串未变&#xff0c;系统会直接使用对应的输出和制品文件。 2 …...

编程新知 2025/6/16 17:57:30

C# winform教程(二)----checkbox

一、作用 提供一个用户选择或者不选的状态&#xff0c;这是一个可以多选的控件。 二、属性 其实功能大差不差&#xff0c;除了特殊的几个外&#xff0c;与button基本相同&#xff0c;所有说几个独有的 checkbox属性 名称内容含义appearance控件外观可以变成按钮形状checkali…...

编程新知 2025/7/8 1:51:53

WEB3全栈开发——面试专业技能点P4数据库

一、mysql2 原生驱动及其连接机制 概念介绍 mysql2 是 Node.js 环境中广泛使用的 MySQL 客户端库&#xff0c;基于 mysql 库改进而来&#xff0c;具有更好的性能、Promise 支持、流式查询、二进制数据处理能力等。 主要特点&#xff1a; 支持 Promise / async-await&#xf…...

编程新知 2025/7/8 22:30:24