当前位置： 首页 > article >正文

5. KNN算法之 超参选择(交叉验证网格搜索)

article 2026/4/25 2:04:59
交叉验证、网格搜索的目的都是寻找最优超参知道交叉验证是什么?知道网格搜索是什么?知道交叉验证网格搜索API函数用法能实践交叉验证网格搜索进行模型超参数调优利用KNN算法实现手写数字识别1. 交叉验证交叉验证 本质上就是复验即重复校验多验几回最后求均值交叉验证法是划分数据集的一种方法目的就是为了得到更加准确可信的模型评分。图示交叉验证也叫几折验证将数据集分成n份图中分成了4份即 4折交叉验证分成了几份就叫几折验证第一次把第一份当做验证集即测试集其他的当做训练集来训练模型训练之后再用第一份的验证集进行验证得到 80%的正确率第二次把第二份当验证集、其他的当做训练集重新对模型进行训练、进行预测了又会得到一个78%的正确率第三次拿第3份做验证、第四次拿第4份做验证一共验证了4次。4折就是4次几折就是几次。在划分之前只做一次80%就作为最终得分、但现在4折是验证了4次就要算一下几个值的平均值78.75作为最终的结果。如果哪一次最好再使用全部的训练集对它再做一次训练训练完后在使用测试假设最后一次得分最高拿总的4份做训练最后的一份(红色部分’验证集’)做测试即谁得分最好在使用全部的对它再训练一次再做一次评估2. 网格搜索简述图示交叉验证是多验几回最后求均值上图交叉验证图里面的k与KNN算法中的K不是一个前者k只是把数据分成几份、KNN中的K表示找最近的K个邻居(样本)交叉验证就是复验复验几次而网格搜索才是找最有超参什么是最有超参KNN算法中创建模型对象estimatorKNeighborsClassifier(n_neighbors3)中的3这种用户手动录入的变化的数据就称为超参。为什么叫网格搜索因为模型有很多超参其能力也存在着很大的差异如 n_neighbors3时准确率可能是93.多5准确率可能96.多所以需要手动产生很多超参的组合此种模型只有一个参数即3但可能模型需要3个参数那组合方式有2的3次方8种所以网格搜索时帮忙寻找最有超参为什么每组超参都采用交叉验证评估假如拿着3这个参数只测一回不能说明最终的准确率因为要复验多测几次当 n_neighbors[1,2,3,5,7]结合4折验证程序共执行了20次因为每一个参数都要经过4折验证4折验证就是4回则一共执行4*520回[1,2,3,5,7]结合不同折的验证效果会不一样如4折验证时可能2最好7折验证时可能5最好所以网格搜索时帮忙寻找最优超参。网格搜索时模型调参的有力工具啥叫模型调参n_neighbors3为什么3不等于其他值此为模型调参。将来寻找最有超参可使用网格搜索交叉验证。为什么叫网格搜索本来是n_neighbors3参数值只有一个3它会像网格一样划分很多值如 [1,2,3,5,7]每个参数都结合交叉验证去验证哪个参数最好像网格一样将参数隔开去做排列组合API解释

相关文章：

5. KNN算法之 超参选择(交叉验证网格搜索)

交叉验证、网格搜索 的目的都是寻找最优超参； 知道交叉验证是什么?知道网格搜索是什么?知道交叉验证网格搜索API函数用法能实践交叉验证网格搜索进行模型超参数调优利用KNN算法实现手写数字识别 1. 交叉验证： 交叉验证 本质上就是复验即重复校验&#…...

编程日记 2026/4/25 2:04:59

BERT文本嵌入实战：从原理到应用

1. 文本嵌入基础与核心价值文本嵌入（Text Embedding）是现代自然语言处理（NLP）的核心技术之一，它将离散的文本转化为连续的数值向量，使计算机能够理解和处理语义信息。与传统的词袋模型（Bag-of-W…...

编程日记 2026/4/25 2:02:58

MacBook外接4TB硬盘总失败？别急着换扩展坞，试试这个磁盘工具里的隐藏功能

MacBook外接4TB硬盘总失败？解锁磁盘工具的隐藏技能 刚入手一块4TB移动硬盘，兴冲冲插上MacBook准备备份照片库，结果访达里死活找不到设备？别急着下单新扩展坞，也别怀疑硬盘坏了。作为常年与外部存储打交道的视频剪辑师&…...

编程日记 2026/4/25 2:02:58

自动驾驶感知入门：如何用Python仿真FMCW毫米波雷达（测距、测速、测角完整流程）

自动驾驶感知实战：Python仿真FMCW毫米波雷达全流程解析 毫米波雷达正成为自动驾驶系统的核心传感器之一。想象一下，当你需要验证一个雷达算法却苦于没有价值数十万元的硬件设备时，代码仿真就成了最经济高效的解决方案。本文将带你用Python从零…...

编程日记 2026/4/25 2:02:58

Keras+CNN图像分类实战：从原理到工业级应用

1. 项目概述：基于Keras的CNN图像分类实战当你需要从海量图片中自动识别物体类别时，卷积神经网络（CNN）就像一位经验丰富的鉴图师。我在电商平台的商品自动分类系统中首次应用Keras实现的CNN模型时，单模型准确率就提升了…...

编程日记 2026/4/25 2:02:58

LSTM长序列处理优化方案与工程实践

1. 长序列处理的挑战与LSTM基础当我们需要处理文本、时间序列或任何具有长期依赖关系的数据时，传统的RNN会遇到梯度消失或爆炸的问题。LSTM（Long Short-Term Memory）网络通过引入门控机制，在一定程度上解决了这个问题。但在实际应…...

编程日记 2026/4/25 2:02:58

概率分布基础：从概念到机器学习应用

1. 概率分布基础概念解析 概率论作为数学的重要分支，其核心研究对象是随机现象的数量规律。当我们谈论概率分布时，实际上是在探讨随机变量所有可能取值与其对应概率的系统性描述框架。这种描述不仅限于单一事件的概率计算，更重要的是揭示了整…...

编程日记 2026/4/25 2:00:58

演讲时观众都在刷手机，Claper用下来确实能打破冷场

前言 做分享或者汇报的时候，最尴尬的场面不是内容讲得不好，而是你一个人在台上说，下面的观众全程低头刷手机。提问环节更不用想了，鸦雀无声，想互动一下都不知道从哪里切入。说到底，PPT 这种工具天生就是单…...

编程日记 2026/4/25 2:00:58

C++ MCP网关延迟突增23ms？别再查业务逻辑了——从RDTSC时间戳校准到Intel RAPL功耗反推，定位硬件级性能陷阱

更多请点击： https://intelliparadigm.com 第一章：C 编写高吞吐量 MCP 网关 性能调优指南 MCP（Model Control Protocol）网关作为 AI 模型服务的统一接入层，其吞吐能力直接决定多模型协同调度的实时性与稳定性。在 C 实…...

编程日记 2026/4/25 2:00:58

OceanBase-Desktop-Setup-1.6.0.exe

OceanBase-Desktop 安装 CPU虚拟化未启用。 当前状态: False 请在BIOS设置中启用虚拟化后重试。 请参考以下步骤手动启用虚拟化: https://www.oceanbase.com/docs/common-oceanbase-database-cn-1000000002866370 确定...

编程日记 2026/4/25 2:00:58

OceanBase-Desktop-Setup-1.0.0.exe

Microsoft Windows [版本 10.0.19045.6456] (c) Microsoft Corporation。保留所有权利。C:\Users\Administrator>wsl --status 此应用程序需要适用于 Linux 的 Windows 子系统可选组件。 通过运行安装它： wsl.exe --install --no-distribution 可能需要重新启动系…...

编程日记 2026/4/25 2:00:57

如何轻松实现i茅台自动预约：告别早起抢购的终极解决方案

如何轻松实现i茅台自动预约：告别早起抢购的终极解决方案 【免费下载链接】campus-imaotai i茅台app自动预约，每日自动预约，支持docker一键部署（本项目不提供成品，使用的是已淘汰的算法） 项目地址: https:…...

编程日记 2026/4/25 1:58:57

xSDR微型软件定义无线电模块：M.2 2230规格的嵌入式通信解决方案

1. 项目概述：xSDR——M.2 2230规格的微型软件定义无线电模块在嵌入式无线通信领域，硬件尺寸与性能往往难以兼得。Wavelet Lab最新推出的xSDR模块打破了这一困境——这款仅有30222mm的M.2 2230规格设备，集成了LMS7002M射频芯片和Artix-7 FPGA&…...

编程日记 2026/4/25 1:58:57

G-SHARP：基于高斯分布的实时手术3D重建技术

1. 项目概述G-SHARP是一项突破性的实时手术场景重建技术，它基于高斯分布（Gaussian Splatting）原理，专为微创手术中的3D组织建模需求而设计。这项技术的核心价值在于能够在手术过程中实时生成高保真度的可变形组织模型，…...

编程日记 2026/4/25 1:58:57

AI编程助手实战评测：Claude3(Opus)在复杂功能实现上如何领先通义灵码

1. 复杂编程任务下的AI助手对决 最近在开发者圈子里有个热门话题：当遇到稍微复杂的编程需求时，到底该选择哪款AI编程助手？我恰好有个实际需求——用Python整合Azure语音服务开发带图形界面的应用，于是拿通义灵码和Claude3(Opus)做…...

编程日记 2026/4/25 1:58:53

数据安全与操作可控：太极重命名的预览机制解析

在进行文件批量操作时，数据安全始终是用户最为关心的问题之一。 一次错误的操作可能导致成百上千个文件的命名混乱，修复起来费时费力。 太极重命名深刻理解用户的这一顾虑，在软件设计中融入了多重安全机制，确保每一次操作都在用…...

编程日记 2026/4/25 1:58:52

别再只用VideoPlayer了！Unity Windows平台播放RTSP/RTMP视频流插件深度横评（2024版）

2024年Unity Windows平台RTSP/RTMP视频流插件深度评测与技术选型指南 在工业数字孪生、智慧园区等企业级应用开发中，实时视频流接入已成为刚需场景。当甲方部署的监控系统要求接入RTSP/RTMP流时，Unity自带的VideoPlayer组件立即暴露出功能短板——它仅支…...

编程日记 2026/4/25 1:56:51

CDLF多级泵品牌推荐：上海上诚泵阀在工程应用中表现如何？

CDLF多级泵品牌推荐：上海上诚泵阀在工程应用中表现如何？在做供水、水处理、循环系统项目时，很多人都会问：👉 CDLF多级泵品牌怎么选？有没有靠谱推荐？如果只是看资料，很容易陷入一个误…...

编程日记 2026/4/25 1:56:51

Bamtone班通：PCB为什么要做耐电流测试？

在电子产品设计与制造中，印刷电路板（PCB）作为电子元器件的支撑体和电气连接的载体，其可靠性直接决定着整个设备的性能与安全。耐电流测试正是确保PCB在高负载条件下稳定运行的关键。这项测试通过模拟实际工况中的电流负荷&#xf…...

编程日记 2026/4/25 1:56:51

Mem Reduct深度解析：Windows内存清理与实时监控的终极解决方案

Mem Reduct深度解析：Windows内存清理与实时监控的终极解决方案 【免费下载链接】memreduct Lightweight real-time memory management application to monitor and clean system memory on your computer. 项目地址: https://gitcode.com/gh_mirrors/me/memreduct…...

编程日记 2026/4/25 1:56:51

Python聚类分析实战：k-means与层次聚类详解

1. Python聚类分析入门指南聚类分析作为无监督学习的重要技术，在商业智能、生物信息学和图像处理等领域有着广泛应用。今天我将通过两个实际案例，带大家掌握Python中k-means和层次聚类这两种最常用的聚类方法。不同于教科书式的理论讲解，本文…...

编程日记 2026/4/25 1:56:48

预警响应闭环与历史数据能力——Infoseek舆情系统谈两个被忽视的基础设施

很多企业在采购舆情监测工具时，把所有注意力都放在“能不能监测到”这个功能层面，却忽略了两个决定工具能否在企业内部真正产生价值的“基础设施”问题：预警响应闭环的可行性，以及历史数据沉淀和使用的能力。Infoseek舆情系统基于…...

编程日记 2026/4/25 1:54:48

纪念碑谷、机械迷城与未上锁的房间

写在前面689 字 | 游戏 | 时间 | 家人 | 亲密关系正文 标题是三个游戏，并且都是解谜游戏，并且非常有名。 游戏确实很好玩，但今天的重点不在这里。 因为比起游戏，我更怀念玩这三个游戏时，我和兄长在一起时的氛围。 这三…...

编程日记 2026/4/25 1:54:48

框架之战——Infoseek舆情系统解析回应如何塑造公众认知

为什么同一个事实，用不同的方式说出来，公众的反应会截然不同？Infoseek舆情系统引入传播学中的“框架理论”来分析危机回应，发现很多回应之所以会加剧危机，根本原因在于品牌和公众使用了不相容的认知框架。第一种框架错…...

编程日记 2026/4/25 1:54:48

无人机视角田间土豆马铃薯苗和杂草检测数据集VOC+YOLO格式384张5类别

数据集格式：Pascal VOC格式YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)图片数量(jpg文件个数)：384标注数量(xml文件个数)：384标注数量(txt文件个数)：384标注类别数&…...

编程日记 2026/4/25 1:54:48

触发、扩散与二次爆发——Infoseek舆情系统构建的舆情走向三阶段模型

在舆情管理领域，最令人头疼的问题不是“问题出在哪里”，而是“接下来会发生什么”。Infoseek舆情系统团队在分析了超过十万条真实舆情事件的时间序列数据后，尝试将舆情的走向分解为三个先后衔接的阶段，每个阶段都有不同的判断指标…...

编程日记 2026/4/25 1:54:48

避坑指南：在Vue3中使用KLineCharts时，你可能遇到的3个常见问题及解决

Vue3金融级K线图实战：高频数据场景下的性能优化与避坑指南 金融交易类应用对K线图的性能要求近乎苛刻——每秒可能处理数百次数据更新，同时还要保证交互流畅不卡顿。在Vue3组合式API环境下集成KLineCharts时，开发者常会遇到一些官方文档未明确…...

编程日记 2026/4/25 1:52:47

OxideTerm：基于Rust的零依赖终端工作空间，整合SSH、SFTP与AI编程

1. 为什么我们需要另一个终端模拟器？如果你和我一样，每天的工作都离不开终端，那你手头肯定已经有好几个终端工具了。可能是系统自带的，也可能是 PuTTY、iTerm2、Tabby 或者 WindTerm 这类功能丰富的第三方选择。那么，当…...

编程日记 2026/4/25 1:52:47

从.h5ad文件反推：手把手教你用HDFView和h5dump‘解剖’AnnData数据

从.h5ad文件反推：手把手教你用HDFView和h5dump‘解剖’AnnData数据 当你从合作方或公共数据库拿到一个.h5ad文件时，是否曾好奇这个"黑匣子"里究竟装了什么？作为单细胞分析的标准数据容器，AnnData文件背后隐藏着复杂的层…...

编程日记 2026/4/25 1:52:47

ubuntu 增加实时性的办法

Ubuntu 实时性优化方案&#xff0c;目标是把延迟抖动压到 <50us、甚至 < 30us&#xff0c;和你现在的 fast_shm 数据匹配。 一、内核选择&#xff08;最关键&#xff09; 1&#xff09;低延迟内核&#xff08;先试&#xff0c;简单&#xff09; bash 运行 sudo apt u…...

编程日记 2026/4/25 1:52:47