当前位置： 首页 > news >正文

机器学习笔记(二)

news 2025/12/24 4:07:21

过拟合

在这里插入图片描述

如下图左边,模型出现了过拟合现象

为了解决过拟合现象, 其中一个做法是多收集数据,如右图。

第二种做法是减少模型的特征数量,即x

第三种做法是正则化

在这里插入图片描述
正则化就是减少x前面的参数 w的数值, 不用消除x
在这里插入图片描述

正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变
在这里插入图片描述

正则化的工作原理就是缩小参数w的值

在这里插入图片描述
假如 wj(1-0.0028) 那么wj就会一点点变小

神经网络

下图是神经网络基本的传递

在这里插入图片描述

下图是神经网络构成集型的一种方式
在这里插入图片描述
在这里插入图片描述

这里 A_in 和 W 都是代表矩阵,其中 w是两行三列

常见的激活函数g(Z)

在这里插入图片描述

多分类问题

在这里插入图片描述
前面讨论只有两种情况,这次问题是有多种类型需要分类

需要构建决策边界

SoftMax回归模型

下面的例子是当有四种分类的情况下

在这里插入图片描述

由此可以推出Softmax的公式如下
在这里插入图片描述

SoftMax的损失

在这里插入图片描述
左侧是逻辑回归即二元回归
右侧是 SoftMax多元回归

loss 指的是 单次 计算的损失

J 值的是整个计算过程的损失

相关文章：

机器学习笔记(二)

过拟合 如下图左边,模型出现了过拟合现象 为了解决过拟合现象, 其中一个做法是多收集数据,如右图。 第二种做法是减少模型的特征数量,即x 第三种做法是正则化 正则化就是减少x前面的参数 w的数值, 不用消除x 正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变 …...

编程日记 2023/10/10 7:39:45

Java @Override 注解

在代码中，你可能会看到大量的 Override 注解。 这个注解简单来说就是让编译器去读的，能够避免你在写代码的时候犯一些低级的拼写错误。 Java Override 注解用来指定方法重写（Override），只能修饰方法并且只能用于方法…...

编程日记 2023/10/10 7:38:45

用rabbitMq 怎么处理“延迟消息队列”？

延迟消息队列是一种允许消息在发送后等待一段时间，然后再被消费的机制。这种机制通常用于需要延迟处理的应用场景，如定时任务、消息重试、消息调度等。在 RabbitMQ 中，实现延迟消息队列需要使用一些额外的组件和技术，因为 RabbitM…...

编程日记 2023/10/10 7:37:44

不常见的JS加密分析

前言 ​ 今天发现一个很少见的JS加密代码，他由一段十分少见的环境检测逻辑，修改一个字符都会被检测到，十分神奇，今天献上。 源代码 let hiJsJiami;!function(){const Zg3GArray.prototype.slice.call(arguments);return eval(&…...

编程日记 2023/10/10 7:35:42

TCP原理特性详解

文章目录 可靠传输机制1.确认应答2.超时重传2.连接管理1.三次握手2.四次挥手 传输效率1.滑动窗口2.流量控制3.拥塞控制4.延时应答5.捎带应答 面向字节流粘包问题 TCP异常情况 可靠传输机制 可靠性：即发送方知道数据是发送成功了，还是失败了。 1.确认应答…...

编程日记 2023/10/10 7:34:41

什么是懒加载,JS如何实现懒加载,在php中如何去实现懒加载

懒加载（Lazy Loading）是一种前端优化技术，用于推迟加载页面中的某些资源（如图片、脚本、样式等），直到用户需要访问或者接近该资源时才进行加载。这可以减少初始页面加载时间，并提高页面性能和用…...

编程日记 2023/10/10 7:33:40

Cesium 展示——读取文件——加载 geojson 文件数据

文章目录 需求分析方法一：加载 geojson 文件方法二：加载 后台解析后的 geojson 文件结果需求 在做项目时，对加载 geojson 格式的数据有了一定的了解，因此试着尝试接手后台解析的 geojson 数据进行绘制，因此做了总结如下 分析 方法一：加载 geojson 文件 this.od6 = wi…...

编程日记 2023/10/10 7:32:39

（二）Apache log4net™ 手册 - 配置

0、引言 在上一篇文章中我们简单介绍了 Log4Net 及其核心的三大组件。本文将在上一篇文章的基础上继续探讨与 Log4Net 配置相关的内容。 1、配置 将日志请求插入到应用程序代码中需要进行大量的计划和工作。观察表明，大约4%的代码专门用于日志记录。因此&#xf…...

编程日记 2023/10/10 7:31:38

Elasticsearch：时间点 API

Elasticsearch：时间点 API-CSDN博客 在今天的文章中，我将着重介绍 Point in time API。在接下来的文章中，我将介绍如何运用 PIT 来对搜索结果进行分页。这也是被推荐使用的方法。 Point in time API 默认情况下，搜索请求针对目标…...

编程日记 2023/10/10 7:30:37

hive数据表定义

分隔符 CREATE TABLE emp( userid bigint, emp_name array<string>, emp_date map<string,date>, other_info struct<deptname:string, gender:string>) ROW FORMAT DELIMITED FIELDS TERMINATED BY \t COLLECTION ITEMS TERMINATED BY , MAP KEYS TERMINAT…...

编程日记 2023/10/10 7:29:36

OpenMesh 网格简化之顶点聚类

文章目录 一、简介二、实现代码三、实现效果参考资料一、简介 顶点聚类方法将落在给定大小体素中的所有顶点集中到单个顶点之上，其过程有点类似于点云体素下采样，之后再基于聚类之后的顶点重新连接面片，以达到网格简化的目的。 二、实现代码 #define _USE_MATH_DEFINES #in…...

编程日记 2023/10/10 7:27:33

C++ 类和对象篇(八) const成员函数和取地址运算符重载

目录 一、const成员函数 1. const成员函数是什么&#xff1f; 2. 为什么有const成员函数&#xff1f; 3. 什么时候需要使用const修饰成员函数&#xff1f; 二、取地址运算符重载 1. 为什么需要重载取地址运算符&#xff1f; 2. 默认取地址运算符重载函数 3. 默认const取地址运…...

编程日记 2023/10/10 7:25:31

k8s 集群安装(vagrant + virtualbox + CentOS8)

主机环境&#xff1a;windows 11 k8s版本&#xff1a;v1.25 dashboard版本&#xff1a;v2.7.0 calico版本&#xff1a; v3.26.1 CentOS8版本&#xff1a;4.18.0-348.7.1.el8_5.x86_64 用到的脚本&#xff1a; https://gitcode.net/sundongsdu/k8s_cluster 1. Vagrant创建…...

编程日记 2023/10/10 7:24:30

8、Docker数据卷与数据卷容器

一、数据卷(Data Volumes) 为了很好的实现数据保存和数据共享&#xff0c;Docker提出了Volume这个概念&#xff0c;简单的说就是绕过默认的联合文件系统&#xff0c;而以正常的文件或者目录的形式存在于宿主机上。又被称作数据卷。 数据卷 是一个可供一个或多个容器使用的特殊目…...

编程日记 2023/10/10 7:23:29

大数据与Hadoop入门理论

一、大数据的3种数据类型 1、结构化数据 可定义&#xff0c;有类型、格式、结构的强制约束 如&#xff1a;RDBMS&#xff08;关系型数据库管理系统&#xff09; 2、非结构化数据 没有规律没有数据约束可言&#xff0c;很复杂难以解析 如&#xff1a;文本文件&#xff0c;视…...

编程日记 2023/10/10 7:22:28

持续集成部署-k8s-深入了解 Pod：探针

持续集成部署-k8s-深入了解 Pod：探针 1. 探针分类2. 探针探测方式3. 探针参数配置4. 启动探针的应用5. Liveness 探针的应用6. Readiness 探针的应用1. 探针分类 Kubernetes 中的探针是指容器内的进程用于告知 Kubernetes 组件其自身状态的机制； Readiness Probe：就绪探针用…...

编程日记 2023/10/10 7:21:26

来单提醒/客户催单 ----苍穹外卖day9

来单提醒 需求分析 代码开发 注意:前端请求的并不是8080端口;而是先请求Nginx,Nginx进行反向代理以后转发到8080端口 这段代码首先创建了一个orders类用于更新订单状态 并且在更新状态后使用websocket发送给后端提醒 将信息放在map后,使用json的string化方式传给一个接收对象,…...

编程日记 2023/10/10 7:20:25

【单片机】18-红外线遥控

一、红外遥控背景知识 1.人机界面 &#xff08;1&#xff09;当面操作&#xff1a;按键&#xff0c;旋转/触摸按键&#xff0c;触摸屏 &#xff08;2&#xff09;遥控操作&#xff1a;红外遥控&#xff0c;433M/2.4G无线通信【穿墙能力强】&#xff0c;蓝牙-WIFI-Zigbee-LoRa等…...

编程日记 2023/10/10 7:19:24

【Node.js】module 模块化

认识 node.js Node.js 是一个独立的 JavaScript 运行环境&#xff0c;能独立执行 JS 代码&#xff0c;可以用来编写服务器后端的应用程序。基于Chrome V8 引擎封装&#xff0c;但是没有 DOM 和 BOM。Node.js 没有图形化界面。node -v 检查是否安装成功。node index.js 执行该文…...

编程日记 2023/10/10 7:18:23

Vue中如何进行分布式日志收集与日志分析（如ELK Stack）

在Vue中实现分布式日志收集与日志分析&#xff08;使用ELK Stack&#xff09; 日志收集和分析在现代应用程序中是至关重要的&#xff0c;它们可以帮助开发人员监视和诊断应用程序的行为&#xff0c;从而提高应用程序的稳定性和性能。ELK Stack&#xff08;Elasticsearch、Logs…...

编程日记 2023/10/10 7:17:22

[特殊字符] 智能合约中的数据是如何在区块链中保持一致的？

&#x1f9e0; 智能合约中的数据是如何在区块链中保持一致的&#xff1f; 为什么所有区块链节点都能得出相同结果&#xff1f;合约调用这么复杂&#xff0c;状态真能保持一致吗&#xff1f;本篇带你从底层视角理解“状态一致性”的真相。 一、智能合约的数据存储在哪里&#xf…...

编程新知 2025/10/25 17:23:41

linux之kylin系统nginx的安装

一、nginx的作用 1.可做高性能的web服务器 直接处理静态资源&#xff08;HTML/CSS/图片等&#xff09;&#xff0c;响应速度远超传统服务器类似apache支持高并发连接 2.反向代理服务器 隐藏后端服务器IP地址&#xff0c;提高安全性 3.负载均衡服务器 支持多种策略分发流量…...

编程新知 2025/12/23 21:53:02

工业安全零事故的智能守护者：一体化AI智能安防平台

前言&#xff1a; 通过AI视觉技术&#xff0c;为船厂提供全面的安全监控解决方案&#xff0c;涵盖交通违规检测、起重机轨道安全、非法入侵检测、盗窃防范、安全规范执行监控等多个方面&#xff0c;能够实现对应负责人反馈机制&#xff0c;并最终实现数据的统计报表。提升船厂…...

编程新知 2025/12/14 7:46:59

基于ASP.NET+ SQL Server实现（Web）医院信息管理系统

医院信息管理系统 1. 课程设计内容 在 visual studio 2017 平台上&#xff0c;开发一个“医院信息管理系统”Web 程序。 2. 课程设计目的 综合运用 c#.net 知识&#xff0c;在 vs 2017 平台上&#xff0c;进行 ASP.NET 应用程序和简易网站的开发&#xff1b;初步熟悉开发一…...

编程新知 2025/12/14 0:24:50

【网络安全产品大调研系列】2. 体验漏洞扫描

前言 2023 年漏洞扫描服务市场规模预计为 3.06&#xff08;十亿美元&#xff09;。漏洞扫描服务市场行业预计将从 2024 年的 3.48&#xff08;十亿美元&#xff09;增长到 2032 年的 9.54&#xff08;十亿美元&#xff09;。预测期内漏洞扫描服务市场 CAGR&#xff08;增长率&…...

编程新知 2025/12/20 17:25:26

高危文件识别的常用算法：原理、应用与企业场景

高危文件识别的常用算法&#xff1a;原理、应用与企业场景 高危文件识别旨在检测可能导致安全威胁的文件&#xff0c;如包含恶意代码、敏感数据或欺诈内容的文档&#xff0c;在企业协同办公环境中&#xff08;如Teams、Google Workspace&#xff09;尤为重要。结合大模型技术&…...

编程新知 2025/12/19 7:32:15

从零实现STL哈希容器：unordered_map/unordered_set封装详解

本篇文章是对C学习的STL哈希容器自主实现部分的学习分享 希望也能为你带来些帮助~ 那咱们废话不多说&#xff0c;直接开始吧&#xff01; 一、源码结构分析 1. SGISTL30实现剖析 // hash_set核心结构 template <class Value, class HashFcn, ...> class hash_set {ty…...

编程新知 2025/12/18 4:40:10

C++八股 —— 单例模式

文章目录 1. 基本概念2. 设计要点3. 实现方式4. 详解懒汉模式 1. 基本概念 线程安全&#xff08;Thread Safety&#xff09; 线程安全是指在多线程环境下&#xff0c;某个函数、类或代码片段能够被多个线程同时调用时&#xff0c;仍能保证数据的一致性和逻辑的正确性&#xf…...

编程新知 2025/12/2 3:35:50

Mac下Android Studio扫描根目录卡死问题记录

环境信息 操作系统: macOS 15.5 (Apple M2芯片)Android Studio版本: Meerkat Feature Drop | 2024.3.2 Patch 1 (Build #AI-243.26053.27.2432.13536105, 2025年5月22日构建) 问题现象 在项目开发过程中&#xff0c;提示一个依赖外部头文件的cpp源文件需要同步&#xff0c;点…...

编程新知 2025/12/22 9:07:35

JVM虚拟机：内存结构、垃圾回收、性能优化

1、JVM虚拟机的简介 Java 虚拟机（Java Virtual Machine 简称：JVM）是运行所有 Java 程序的抽象计算机，是 Java 语言的运行环境，实现了 Java 程序的跨平台特性。JVM 屏蔽了与具体操作系统平台相关的信息，使得 Java 程序只需生成在 JVM 上运行的目标代码（字节码），就可以…...

编程新知 2025/12/15 2:10:04