当前位置： 首页 > news >正文

机器学习笔记(二)

news 2025/11/6 3:28:21

过拟合

在这里插入图片描述

如下图左边,模型出现了过拟合现象

为了解决过拟合现象, 其中一个做法是多收集数据,如右图。

第二种做法是减少模型的特征数量,即x

第三种做法是正则化

在这里插入图片描述
正则化就是减少x前面的参数 w的数值, 不用消除x
在这里插入图片描述

正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变
在这里插入图片描述

正则化的工作原理就是缩小参数w的值

在这里插入图片描述
假如 wj(1-0.0028) 那么wj就会一点点变小

神经网络

下图是神经网络基本的传递

在这里插入图片描述

下图是神经网络构成集型的一种方式
在这里插入图片描述
在这里插入图片描述

这里 A_in 和 W 都是代表矩阵,其中 w是两行三列

常见的激活函数g(Z)

在这里插入图片描述

多分类问题

在这里插入图片描述
前面讨论只有两种情况,这次问题是有多种类型需要分类

需要构建决策边界

SoftMax回归模型

下面的例子是当有四种分类的情况下

在这里插入图片描述

由此可以推出Softmax的公式如下
在这里插入图片描述

SoftMax的损失

在这里插入图片描述
左侧是逻辑回归即二元回归
右侧是 SoftMax多元回归

loss 指的是 单次 计算的损失

J 值的是整个计算过程的损失

相关文章：

机器学习笔记(二)

过拟合 如下图左边,模型出现了过拟合现象 为了解决过拟合现象, 其中一个做法是多收集数据,如右图。 第二种做法是减少模型的特征数量,即x 第三种做法是正则化 正则化就是减少x前面的参数 w的数值, 不用消除x 正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变 …...

编程日记 2023/10/10 7:39:45

Java @Override 注解

在代码中，你可能会看到大量的 Override 注解。 这个注解简单来说就是让编译器去读的，能够避免你在写代码的时候犯一些低级的拼写错误。 Java Override 注解用来指定方法重写（Override），只能修饰方法并且只能用于方法…...

编程日记 2023/10/10 7:38:45

用rabbitMq 怎么处理“延迟消息队列”？

延迟消息队列是一种允许消息在发送后等待一段时间，然后再被消费的机制。这种机制通常用于需要延迟处理的应用场景，如定时任务、消息重试、消息调度等。在 RabbitMQ 中，实现延迟消息队列需要使用一些额外的组件和技术，因为 RabbitM…...

编程日记 2023/10/10 7:37:44

不常见的JS加密分析

前言 ​ 今天发现一个很少见的JS加密代码，他由一段十分少见的环境检测逻辑，修改一个字符都会被检测到，十分神奇，今天献上。 源代码 let hiJsJiami;!function(){const Zg3GArray.prototype.slice.call(arguments);return eval(&…...

编程日记 2023/10/10 7:35:42

TCP原理特性详解

文章目录 可靠传输机制1.确认应答2.超时重传2.连接管理1.三次握手2.四次挥手 传输效率1.滑动窗口2.流量控制3.拥塞控制4.延时应答5.捎带应答 面向字节流粘包问题 TCP异常情况 可靠传输机制 可靠性：即发送方知道数据是发送成功了，还是失败了。 1.确认应答…...

编程日记 2023/10/10 7:34:41

什么是懒加载,JS如何实现懒加载,在php中如何去实现懒加载

懒加载（Lazy Loading）是一种前端优化技术，用于推迟加载页面中的某些资源（如图片、脚本、样式等），直到用户需要访问或者接近该资源时才进行加载。这可以减少初始页面加载时间，并提高页面性能和用…...

编程日记 2023/10/10 7:33:40

Cesium 展示——读取文件——加载 geojson 文件数据

文章目录 需求分析方法一：加载 geojson 文件方法二：加载 后台解析后的 geojson 文件结果需求 在做项目时，对加载 geojson 格式的数据有了一定的了解，因此试着尝试接手后台解析的 geojson 数据进行绘制，因此做了总结如下 分析 方法一：加载 geojson 文件 this.od6 = wi…...

编程日记 2023/10/10 7:32:39

（二）Apache log4net™ 手册 - 配置

0、引言 在上一篇文章中我们简单介绍了 Log4Net 及其核心的三大组件。本文将在上一篇文章的基础上继续探讨与 Log4Net 配置相关的内容。 1、配置 将日志请求插入到应用程序代码中需要进行大量的计划和工作。观察表明，大约4%的代码专门用于日志记录。因此&#xf…...

编程日记 2023/10/10 7:31:38

Elasticsearch：时间点 API

Elasticsearch：时间点 API-CSDN博客 在今天的文章中，我将着重介绍 Point in time API。在接下来的文章中，我将介绍如何运用 PIT 来对搜索结果进行分页。这也是被推荐使用的方法。 Point in time API 默认情况下，搜索请求针对目标…...

编程日记 2023/10/10 7:30:37

hive数据表定义

分隔符 CREATE TABLE emp( userid bigint, emp_name array<string>, emp_date map<string,date>, other_info struct<deptname:string, gender:string>) ROW FORMAT DELIMITED FIELDS TERMINATED BY \t COLLECTION ITEMS TERMINATED BY , MAP KEYS TERMINAT…...

编程日记 2023/10/10 7:29:36

OpenMesh 网格简化之顶点聚类

文章目录 一、简介二、实现代码三、实现效果参考资料一、简介 顶点聚类方法将落在给定大小体素中的所有顶点集中到单个顶点之上，其过程有点类似于点云体素下采样，之后再基于聚类之后的顶点重新连接面片，以达到网格简化的目的。 二、实现代码 #define _USE_MATH_DEFINES #in…...

编程日记 2023/10/10 7:27:33

C++ 类和对象篇(八) const成员函数和取地址运算符重载

目录 一、const成员函数 1. const成员函数是什么&#xff1f; 2. 为什么有const成员函数&#xff1f; 3. 什么时候需要使用const修饰成员函数&#xff1f; 二、取地址运算符重载 1. 为什么需要重载取地址运算符&#xff1f; 2. 默认取地址运算符重载函数 3. 默认const取地址运…...

编程日记 2023/10/10 7:25:31

k8s 集群安装(vagrant + virtualbox + CentOS8)

主机环境&#xff1a;windows 11 k8s版本&#xff1a;v1.25 dashboard版本&#xff1a;v2.7.0 calico版本&#xff1a; v3.26.1 CentOS8版本&#xff1a;4.18.0-348.7.1.el8_5.x86_64 用到的脚本&#xff1a; https://gitcode.net/sundongsdu/k8s_cluster 1. Vagrant创建…...

编程日记 2023/10/10 7:24:30

8、Docker数据卷与数据卷容器

一、数据卷(Data Volumes) 为了很好的实现数据保存和数据共享&#xff0c;Docker提出了Volume这个概念&#xff0c;简单的说就是绕过默认的联合文件系统&#xff0c;而以正常的文件或者目录的形式存在于宿主机上。又被称作数据卷。 数据卷 是一个可供一个或多个容器使用的特殊目…...

编程日记 2023/10/10 7:23:29

大数据与Hadoop入门理论

一、大数据的3种数据类型 1、结构化数据 可定义&#xff0c;有类型、格式、结构的强制约束 如&#xff1a;RDBMS&#xff08;关系型数据库管理系统&#xff09; 2、非结构化数据 没有规律没有数据约束可言&#xff0c;很复杂难以解析 如&#xff1a;文本文件&#xff0c;视…...

编程日记 2023/10/10 7:22:28

持续集成部署-k8s-深入了解 Pod：探针

持续集成部署-k8s-深入了解 Pod：探针 1. 探针分类2. 探针探测方式3. 探针参数配置4. 启动探针的应用5. Liveness 探针的应用6. Readiness 探针的应用1. 探针分类 Kubernetes 中的探针是指容器内的进程用于告知 Kubernetes 组件其自身状态的机制； Readiness Probe：就绪探针用…...

编程日记 2023/10/10 7:21:26

来单提醒/客户催单 ----苍穹外卖day9

来单提醒 需求分析 代码开发 注意:前端请求的并不是8080端口;而是先请求Nginx,Nginx进行反向代理以后转发到8080端口 这段代码首先创建了一个orders类用于更新订单状态 并且在更新状态后使用websocket发送给后端提醒 将信息放在map后,使用json的string化方式传给一个接收对象,…...

编程日记 2023/10/10 7:20:25

【单片机】18-红外线遥控

一、红外遥控背景知识 1.人机界面 &#xff08;1&#xff09;当面操作&#xff1a;按键&#xff0c;旋转/触摸按键&#xff0c;触摸屏 &#xff08;2&#xff09;遥控操作&#xff1a;红外遥控&#xff0c;433M/2.4G无线通信【穿墙能力强】&#xff0c;蓝牙-WIFI-Zigbee-LoRa等…...

编程日记 2023/10/10 7:19:24

【Node.js】module 模块化

认识 node.js Node.js 是一个独立的 JavaScript 运行环境&#xff0c;能独立执行 JS 代码&#xff0c;可以用来编写服务器后端的应用程序。基于Chrome V8 引擎封装&#xff0c;但是没有 DOM 和 BOM。Node.js 没有图形化界面。node -v 检查是否安装成功。node index.js 执行该文…...

编程日记 2023/10/10 7:18:23

Vue中如何进行分布式日志收集与日志分析（如ELK Stack）

在Vue中实现分布式日志收集与日志分析&#xff08;使用ELK Stack&#xff09; 日志收集和分析在现代应用程序中是至关重要的&#xff0c;它们可以帮助开发人员监视和诊断应用程序的行为&#xff0c;从而提高应用程序的稳定性和性能。ELK Stack&#xff08;Elasticsearch、Logs…...

编程日记 2023/10/10 7:17:22

JavaSec-RCE

简介 RCE(Remote Code Execution)&#xff0c;可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景&#xff1a;Groovy代码注入 Groovy是一种基于JVM的动态语言&#xff0c;语法简洁&#xff0c;支持闭包、动态类型和Java互操作性&#xff0c…...

编程新知 2025/11/3 2:17:38

Qwen3-Embedding-0.6B深度解析：多语言语义检索的轻量级利器

第一章 引言&#xff1a;语义表示的新时代挑战与Qwen3的破局之路 1.1 文本嵌入的核心价值与技术演进 在人工智能领域&#xff0c;文本嵌入技术如同连接自然语言与机器理解的“神经突触”——它将人类语言转化为计算机可计算的语义向量&#xff0c;支撑着搜索引擎、推荐系统、…...

编程新知 2025/8/15 19:59:33

微信小程序云开发平台MySQL的连接方式

注&#xff1a;微信小程序云开发平台指的是腾讯云开发 先给结论&#xff1a;微信小程序云开发平台的MySQL&#xff0c;无法通过获取数据库连接信息的方式进行连接&#xff0c;连接只能通过云开发的SDK连接&#xff0c;具体要参考官方文档&#xff1a; 为什么&#xff1f; 因为…...

编程新知 2025/10/24 12:10:57

优选算法第十二讲：队列 + 宽搜 优先级队列

优选算法第十二讲&#xff1a;队列 宽搜 && 优先级队列 1.N叉树的层序遍历2.二叉树的锯齿型层序遍历3.二叉树最大宽度4.在每个树行中找最大值5.优先级队列 -- 最后一块石头的重量6.数据流中的第K大元素7.前K个高频单词8.数据流的中位数 1.N叉树的层序遍历 2.二叉树的锯…...

编程新知 2025/11/2 3:41:45

《C++ 模板》

目录 函数模板 类模板 非类型模板参数 模板特化 函数模板特化 类模板的特化 模板&#xff0c;就像一个模具&#xff0c;里面可以将不同类型的材料做成一个形状&#xff0c;其分为函数模板和类模板。 函数模板 函数模板可以简化函数重载的代码。格式&#xff1a;templa…...

编程新知 2025/6/11 3:20:47

VM虚拟机网络配置（ubuntu24桥接模式）：配置静态IP

编辑-虚拟网络编辑器-更改设置 选择桥接模式&#xff0c;然后找到相应的网卡&#xff08;可以查看自己本机的网络连接&#xff09; windows连接的网络点击查看属性 编辑虚拟机设置更改网络配置&#xff0c;选择刚才配置的桥接模式 静态ip设置&#xff1a; 我用的ubuntu24桌…...

编程新知 2025/10/29 22:27:28

基于SpringBoot在线拍卖系统的设计和实现

摘 要 随着社会的发展&#xff0c;社会的各行各业都在利用信息化时代的优势。计算机的优势和普及使得各种信息系统的开发成为必需。 在线拍卖系统&#xff0c;主要的模块包括管理员&#xff1b;首页、个人中心、用户管理、商品类型管理、拍卖商品管理、历史竞拍管理、竞拍订单…...

编程新知 2025/10/27 14:57:59

【网络安全】开源系统getshell漏洞挖掘

审计过程&#xff1a; 在入口文件admin/index.php中&#xff1a; 用户可以通过m,c,a等参数控制加载的文件和方法&#xff0c;在app/system/entrance.php中存在重点代码&#xff1a; 当M_TYPE system并且M_MODULE include时&#xff0c;会设置常量PATH_OWN_FILE为PATH_APP.M_T…...

编程新知 2025/11/2 11:05:48

【Android】Android 开发 ADB 常用指令

查看当前连接的设备 adb devices 连接设备 adb connect 设备IP 断开已连接的设备 adb disconnect 设备IP 安装应用 adb install 安装包的路径 卸载应用 adb uninstall 应用包名 查看已安装的应用包名 adb shell pm list packages 查看已安装的第三方应用包名 adb shell pm list…...

编程新知 2025/8/17 23:35:19

tomcat指定使用的jdk版本

说明 有时候需要对tomcat配置指定的jdk版本号&#xff0c;此时&#xff0c;我们可以通过以下方式进行配置 设置方式 找到tomcat的bin目录中的setclasspath.bat。如果是linux系统则是setclasspath.sh set JAVA_HOMEC:\Program Files\Java\jdk8 set JRE_HOMEC:\Program Files…...

编程新知 2025/6/10 21:11:28