当前位置： 首页 > news >正文

机器学习笔记(二)

news 2026/4/1 13:39:55

过拟合

在这里插入图片描述

如下图左边,模型出现了过拟合现象

为了解决过拟合现象, 其中一个做法是多收集数据,如右图。

第二种做法是减少模型的特征数量,即x

第三种做法是正则化

在这里插入图片描述
正则化就是减少x前面的参数 w的数值, 不用消除x
在这里插入图片描述

正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变
在这里插入图片描述

正则化的工作原理就是缩小参数w的值

在这里插入图片描述
假如 wj(1-0.0028) 那么wj就会一点点变小

神经网络

下图是神经网络基本的传递

在这里插入图片描述

下图是神经网络构成集型的一种方式
在这里插入图片描述
在这里插入图片描述

这里 A_in 和 W 都是代表矩阵,其中 w是两行三列

常见的激活函数g(Z)

在这里插入图片描述

多分类问题

在这里插入图片描述
前面讨论只有两种情况,这次问题是有多种类型需要分类

需要构建决策边界

SoftMax回归模型

下面的例子是当有四种分类的情况下

在这里插入图片描述

由此可以推出Softmax的公式如下
在这里插入图片描述

SoftMax的损失

在这里插入图片描述
左侧是逻辑回归即二元回归
右侧是 SoftMax多元回归

loss 指的是 单次 计算的损失

J 值的是整个计算过程的损失

相关文章：

机器学习笔记(二)

过拟合 如下图左边,模型出现了过拟合现象 为了解决过拟合现象, 其中一个做法是多收集数据,如右图。 第二种做法是减少模型的特征数量,即x 第三种做法是正则化 正则化就是减少x前面的参数 w的数值, 不用消除x 正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变 …...

编程日记 2023/10/10 7:39:45

Java @Override 注解

在代码中，你可能会看到大量的 Override 注解。 这个注解简单来说就是让编译器去读的，能够避免你在写代码的时候犯一些低级的拼写错误。 Java Override 注解用来指定方法重写（Override），只能修饰方法并且只能用于方法…...

编程日记 2023/10/10 7:38:45

用rabbitMq 怎么处理“延迟消息队列”？

延迟消息队列是一种允许消息在发送后等待一段时间，然后再被消费的机制。这种机制通常用于需要延迟处理的应用场景，如定时任务、消息重试、消息调度等。在 RabbitMQ 中，实现延迟消息队列需要使用一些额外的组件和技术，因为 RabbitM…...

编程日记 2023/10/10 7:37:44

不常见的JS加密分析

前言 ​ 今天发现一个很少见的JS加密代码，他由一段十分少见的环境检测逻辑，修改一个字符都会被检测到，十分神奇，今天献上。 源代码 let hiJsJiami;!function(){const Zg3GArray.prototype.slice.call(arguments);return eval(&…...

编程日记 2023/10/10 7:35:42

TCP原理特性详解

文章目录 可靠传输机制1.确认应答2.超时重传2.连接管理1.三次握手2.四次挥手 传输效率1.滑动窗口2.流量控制3.拥塞控制4.延时应答5.捎带应答 面向字节流粘包问题 TCP异常情况 可靠传输机制 可靠性：即发送方知道数据是发送成功了，还是失败了。 1.确认应答…...

编程日记 2023/10/10 7:34:41

什么是懒加载,JS如何实现懒加载,在php中如何去实现懒加载

懒加载（Lazy Loading）是一种前端优化技术，用于推迟加载页面中的某些资源（如图片、脚本、样式等），直到用户需要访问或者接近该资源时才进行加载。这可以减少初始页面加载时间，并提高页面性能和用…...

编程日记 2023/10/10 7:33:40

Cesium 展示——读取文件——加载 geojson 文件数据

文章目录 需求分析方法一：加载 geojson 文件方法二：加载 后台解析后的 geojson 文件结果需求 在做项目时，对加载 geojson 格式的数据有了一定的了解，因此试着尝试接手后台解析的 geojson 数据进行绘制，因此做了总结如下 分析 方法一：加载 geojson 文件 this.od6 = wi…...

编程日记 2023/10/10 7:32:39

（二）Apache log4net™ 手册 - 配置

0、引言 在上一篇文章中我们简单介绍了 Log4Net 及其核心的三大组件。本文将在上一篇文章的基础上继续探讨与 Log4Net 配置相关的内容。 1、配置 将日志请求插入到应用程序代码中需要进行大量的计划和工作。观察表明，大约4%的代码专门用于日志记录。因此&#xf…...

编程日记 2023/10/10 7:31:38

Elasticsearch：时间点 API

Elasticsearch：时间点 API-CSDN博客 在今天的文章中，我将着重介绍 Point in time API。在接下来的文章中，我将介绍如何运用 PIT 来对搜索结果进行分页。这也是被推荐使用的方法。 Point in time API 默认情况下，搜索请求针对目标…...

编程日记 2023/10/10 7:30:37

hive数据表定义

分隔符 CREATE TABLE emp( userid bigint, emp_name array<string>, emp_date map<string,date>, other_info struct<deptname:string, gender:string>) ROW FORMAT DELIMITED FIELDS TERMINATED BY \t COLLECTION ITEMS TERMINATED BY , MAP KEYS TERMINAT…...

编程日记 2023/10/10 7:29:36

OpenMesh 网格简化之顶点聚类

文章目录 一、简介二、实现代码三、实现效果参考资料一、简介 顶点聚类方法将落在给定大小体素中的所有顶点集中到单个顶点之上，其过程有点类似于点云体素下采样，之后再基于聚类之后的顶点重新连接面片，以达到网格简化的目的。 二、实现代码 #define _USE_MATH_DEFINES #in…...

编程日记 2023/10/10 7:27:33

C++ 类和对象篇(八) const成员函数和取地址运算符重载

目录 一、const成员函数 1. const成员函数是什么&#xff1f; 2. 为什么有const成员函数&#xff1f; 3. 什么时候需要使用const修饰成员函数&#xff1f; 二、取地址运算符重载 1. 为什么需要重载取地址运算符&#xff1f; 2. 默认取地址运算符重载函数 3. 默认const取地址运…...

编程日记 2023/10/10 7:25:31

k8s 集群安装(vagrant + virtualbox + CentOS8)

主机环境&#xff1a;windows 11 k8s版本&#xff1a;v1.25 dashboard版本&#xff1a;v2.7.0 calico版本&#xff1a; v3.26.1 CentOS8版本&#xff1a;4.18.0-348.7.1.el8_5.x86_64 用到的脚本&#xff1a; https://gitcode.net/sundongsdu/k8s_cluster 1. Vagrant创建…...

编程日记 2023/10/10 7:24:30

8、Docker数据卷与数据卷容器

一、数据卷(Data Volumes) 为了很好的实现数据保存和数据共享&#xff0c;Docker提出了Volume这个概念&#xff0c;简单的说就是绕过默认的联合文件系统&#xff0c;而以正常的文件或者目录的形式存在于宿主机上。又被称作数据卷。 数据卷 是一个可供一个或多个容器使用的特殊目…...

编程日记 2023/10/10 7:23:29

大数据与Hadoop入门理论

一、大数据的3种数据类型 1、结构化数据 可定义&#xff0c;有类型、格式、结构的强制约束 如&#xff1a;RDBMS&#xff08;关系型数据库管理系统&#xff09; 2、非结构化数据 没有规律没有数据约束可言&#xff0c;很复杂难以解析 如&#xff1a;文本文件&#xff0c;视…...

编程日记 2023/10/10 7:22:28

持续集成部署-k8s-深入了解 Pod：探针

持续集成部署-k8s-深入了解 Pod：探针 1. 探针分类2. 探针探测方式3. 探针参数配置4. 启动探针的应用5. Liveness 探针的应用6. Readiness 探针的应用1. 探针分类 Kubernetes 中的探针是指容器内的进程用于告知 Kubernetes 组件其自身状态的机制； Readiness Probe：就绪探针用…...

编程日记 2023/10/10 7:21:26

来单提醒/客户催单 ----苍穹外卖day9

来单提醒 需求分析 代码开发 注意:前端请求的并不是8080端口;而是先请求Nginx,Nginx进行反向代理以后转发到8080端口 这段代码首先创建了一个orders类用于更新订单状态 并且在更新状态后使用websocket发送给后端提醒 将信息放在map后,使用json的string化方式传给一个接收对象,…...

编程日记 2023/10/10 7:20:25

【单片机】18-红外线遥控

一、红外遥控背景知识 1.人机界面 &#xff08;1&#xff09;当面操作&#xff1a;按键&#xff0c;旋转/触摸按键&#xff0c;触摸屏 &#xff08;2&#xff09;遥控操作&#xff1a;红外遥控&#xff0c;433M/2.4G无线通信【穿墙能力强】&#xff0c;蓝牙-WIFI-Zigbee-LoRa等…...

编程日记 2023/10/10 7:19:24

【Node.js】module 模块化

认识 node.js Node.js 是一个独立的 JavaScript 运行环境&#xff0c;能独立执行 JS 代码&#xff0c;可以用来编写服务器后端的应用程序。基于Chrome V8 引擎封装&#xff0c;但是没有 DOM 和 BOM。Node.js 没有图形化界面。node -v 检查是否安装成功。node index.js 执行该文…...

编程日记 2023/10/10 7:18:23

Vue中如何进行分布式日志收集与日志分析（如ELK Stack）

在Vue中实现分布式日志收集与日志分析&#xff08;使用ELK Stack&#xff09; 日志收集和分析在现代应用程序中是至关重要的&#xff0c;它们可以帮助开发人员监视和诊断应用程序的行为&#xff0c;从而提高应用程序的稳定性和性能。ELK Stack&#xff08;Elasticsearch、Logs…...

编程日记 2023/10/10 7:17:22

Matlab_Simulink与Carsim的联合仿 擅长基于群智能算法优化的LQR、PID控制算法，能清晰讲解其中要点哦。对于基于群智能算法的一般路径规划

Matlab/Simulink与Carsim的联合仿 擅长基于群智能算法优化的LQR、PID控制算法&#xff0c;能清晰讲解其中要点哦。对于基于群智能算法的一般路径规划 稍长智能车轨迹跟踪控制方向 熟悉Matlab/Simulink和Carsim的联合仿真呢。这是一个非常专业且热门的研究方向&#xff08;群智能…...

编程新知 2026/4/1 13:33:03

IDM开源工具免费使用指南：从安装到高级配置的完整实践

IDM开源工具免费使用指南&#xff1a;从安装到高级配置的完整实践 【免费下载链接】IDM-Activation-Script IDM Activation & Trail Reset Script 项目地址: https://gitcode.com/gh_mirrors/id/IDM-Activation-Script Internet Download Manager&#xff08;IDM&am…...

编程新知 2026/4/1 12:44:22

FPGA程序部署双通道：JTAG在线调试与SPI Flash固化的工程实践

1. JTAG在线调试&#xff1a;工程师的"手术刀" 第一次用JTAG调试FPGA时&#xff0c;我盯着开发板看了半天——这玩意儿连上电脑就能直接改逻辑&#xff1f;后来才发现它就像给病人做手术时的实时监护仪&#xff0c;能随时观察"患者"状态&#xff0c;但断电…...

编程新知 2026/4/1 11:55:50

GTX 1050 Ti显卡的设备推理+模拟器运行时的显存占用实测报告！

...

编程新知 2026/4/1 11:25:39

LogonTracer核心功能深度解析：4624、4625等关键事件ID的实战应用

LogonTracer核心功能深度解析&#xff1a;4624、4625等关键事件ID的实战应用 【免费下载链接】LogonTracer Investigate malicious Windows logon by visualizing and analyzing Windows event log 项目地址: https://gitcode.com/gh_mirrors/lo/LogonTracer LogonTrace…...

编程新知 2026/4/1 11:23:38

墨语灵犀对比传统方法：自动化作业批改效果实测

墨语灵犀对比传统方法&#xff1a;自动化作业批改效果实测 作为一名在教育技术领域摸爬滚打了多年的从业者&#xff0c;我见过太多关于“AI批改作业”的讨论。从最初的简单关键词匹配&#xff0c;到后来的规则引擎&#xff0c;每次技术迭代都让人充满期待&#xff0c;但实际落…...

编程新知 2026/4/1 10:41:09

Phi-4-mini-reasoning真实案例：GPT-4对比测试中更优的确定性推理表现

Phi-4-mini-reasoning真实案例&#xff1a;GPT-4对比测试中更优的确定性推理表现 1. 模型介绍 Phi-4-mini-reasoning是一款专注于推理任务的文本生成模型&#xff0c;特别擅长处理需要多步逻辑推导的问题。与通用聊天模型不同&#xff0c;它被设计用来解决数学题、逻辑题等需…...

编程新知 2026/4/1 10:10:35

PyTorch实战：从零构建支持向量机进行图像二分类

1. 支持向量机与图像分类的奇妙碰撞 第一次听说要用支持向量机(SVM)做图像分类时&#xff0c;我脑子里立刻浮现出两个问号&#xff1a;这个传统机器学习算法能处理图像数据吗&#xff1f;为什么要用PyTorch实现而不是直接用scikit-learn&#xff1f;直到亲手实现了整个流程&…...

编程新知 2026/4/1 8:32:32

终极解决方案：5分钟完成DOCX到LaTeX的专业转换指南 [特殊字符]

终极解决方案&#xff1a;5分钟完成DOCX到LaTeX的专业转换指南 &#x1f680; 【免费下载链接】docx2tex Converts Microsoft Word docx to LaTeX 项目地址: https://gitcode.com/gh_mirrors/do/docx2tex 还在为Word文档转换LaTeX格式而烦恼吗&#xff1f;docx2tex就是你…...

编程新知 2026/4/1 8:30:27

intv_ai_mk11 GPU算力优化部署：7B模型在CSDN GPU实例上的高效运行方案

intv_ai_mk11 GPU算力优化部署&#xff1a;7B模型在CSDN GPU实例上的高效运行方案 1. 项目背景与价值 intv_ai_mk11是基于Llama架构的7B参数AI对话模型&#xff0c;专为中文场景优化设计。在CSDN GPU实例上部署这类中型模型时&#xff0c;面临的主要挑战是如何在有限显存条件…...

编程新知 2026/4/1 8:10:06