模型调参及优化
调参
-
调权重参数，偏置参数
训练数据集用来训练参数w，b
-
调超参数
验证数据集用来选择超参数学习率lr，隐藏层大小等
-
如何调参
当泛化误差和训练误差都没有降下去说明欠拟合；当训练误差降下去，但泛化误差出现上升形式，说明过拟合
优化
-
权重衰退
在过拟合时，可以使用权重衰退，每次更新参数W_t+1时都会先将W_t减小，梯度计算如下
参数更新如下
使用torch框架可以简洁实现权重衰退，wd就是上述的ʎ：
-
丢弃法
丢弃法相当于在输入中加入噪音，且输入的期望（期望是所有元素出现概率乘以元素值值之和）不变，公式如下
在过拟合时可以使用丢弃法，常用于多层感知机的隐藏层输出，将输出的某些元素随机设为0，剩下元素放大，丢失法通常在每层的激活函数之后使用，丢弃法和权重衰退都是正则项，用于权重的变化，所以只在训练中使用，不用于测试。丢弃法是多层感知机中主流的一种正则化方法，高复杂模型+丢弃法效果一般比低复杂模型效果好一些。torch的简洁实现如下
相关文章：
模型调参及优化
调参 调权重参数，偏置参数 训练数据集用来训练参数w，b 调超参数 验证数据集用来选择超参数学习率lr，隐藏层大小等 如何调参 当泛化误差和训练误差都没有降下去说明欠拟合；当训练误差降下去，但泛化误差出现上升形式&…...
多数据源数据转换和同步的ETL工具推荐
有许多支持多数据源数据转换和同步的ETL工具可供选择。以下是一些常见的ETL工具和它们支持多数据源数据转换和同步的特点： Apache NiFi：Apache NiFi是一个开源的ETL工具，支持多种数据源的连接，包括文件系统、数据库、消息队列、网…...
配置 gitlab https 访问
文章目录 1. 备份2. 生成SSL证书3. 配置文件4. 重启5. 访问 1. 备份 docker exec -ti gitlab-ce gitlab-rake gitlab:backup:create2. 生成SSL证书 yum install openssl openssl-devel -y mkdir /data/gitlab/config/ssl ; cd /data/gitlab/config/ssl### 生成证书 openssl…...
Kepware Modbus驱动简介
1. Modbus驱动能够解决什么问题？ 它是Modbus设备驱动的集合，为用户提供一种方便快捷的Modbus设备数采解决方案。 只需要通过简单的配置就可以将常见的例如Modbus TCP/IP Ethernet、RTU Serial 和 ASCII Serial等协议设备无缝连接到 HMI/SCADA、MES/His…...
从零开始学习CTF——CTF是什么
引言： 从2019年10月开始接触CTF，学习了sql注入、文件包含等web知识点，但都是只知道知识点却实用不上，后来在刷CTF题才发现知识点的使用方法，知道在哪里使用，哪里容易出漏洞，可是在挖src漏洞中还…...
为Android构建现代应用——主体结构
创建Screents和ViewModels 在前面的章节中，我们已经分析了OrderNow项目的理论概念和我们将赋予的组织。 在本章中，我们将开始实现初始结构和模板，这将联接每一个应用程序的部分。 首先将添加以下带有各自视图模型的主屏幕： •…...
【shell脚本】shell脚本之日志切割（进阶实战三）
恭喜你，找到宝藏博主了，这里会分享shell的学习整过程。 shell 对于运维来说是必备技能之一，它可以提高很多运维重复工作，提高效率。 shell的专栏，我会详细地讲解shell的基础和使用，以及一些比较常用的she…...
VMLogin和虚拟机里的浏览器有什么区别？
虚拟机（Virtual Machine）指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。 指纹浏览器，也称防关联浏览器。 简单来说，就是允许在同一台电设备上操作和管理多个平台、多个账号，账…...
unimrcp server的session资源分配与回收
unimrcp使用APR的内存池管理内存，因此，处理函数中一般都会传递一个pool指针，需要内存时，就从pool里分配一块，一般也不需要关心内存的释放。因为，一路呼叫关联一个session，一个session对应一个po…...
【图论】三种中心性 —— 特征向量、katz 和 PageRank
维基百科：在图论和网络分析中，中心性指标为图中相应网络位置的节点分配排名或数值。中心性这一概念最初起源于社交网络分析，因此很多衡量中心性的术语也反映了其社会学背景。 不同中心性指标对 “重要” 的衡量方式不同，因此适用于…...
[sqoop]将hive查询后的数据导入到MySQL
一、知识点 export:将Hive的表导入到mysql叫导出 搜了很多，发现sqoop在hive导出到mysql时 1）不支持where参数对数据进行过滤。 2）不支持指定hive表的方式导出，只能指定Hive目录进行导出。 二、操作 1、在MySQL中建表 creat…...
Linux df、du命令
df：查看文件系统硬盘使用情况 df 命令，用于显示 Linux 系统中各文件系统的硬盘使用情况，包括文件系统所在硬盘分区的总容量、已使用的容量、剩余容量等。 df 命令的基本格式为： [rootlocalhost ~]# df [选项] [目录或文件名] df…...
java版+免费商城搭建+小程序商城免费搭建+Spring Cloud + Spring Boot + MybatisPlus + 前后端分离 + 二次开发
J2EE企业分布式微服务云快速开发架构 Spring CloudSpring Boot2MybatisOauth2ElementUI 前后端分离 1. 鸿鹄Cloud架构清单 2. Commonservice（通用服务） 通用服务：对spring Cloud组件的使用&封装，是一套完整的针对于分布式微…...
软件设计师学习第一章
计算机组成与体系结构（6分） 内容概述 数据的表示 进制转换 R 进制转十进制使用按权展开法，其具体操作方式为：将 R 进制数的每一位数值用 Rk 形示，即幂的底数是 R ，指数为 k ， k 与该位和小数点…...
蓝桥杯单片机第十一届国赛 真题+代码
iic.c /* # I2C代码片段说明1. 本文件夹中提供的驱动代码供参赛选手完成程序设计参考。2. 参赛选手可以自行编写相关代码或以该代码为基础，根据所选单片机类型、运行速度和试题中对单片机时钟频率的要求，进行代码调试和修改。 */ #include <STC1…...
IDC报告背后：大模型时代，重新理解AI公有云
大模型之于AI公有云的意义，在于大模型可以改变过去“手工作坊定制算法”的高成本模式，转向“工厂模式”，只需要微调和精调，就可以形成针对性的场景算法。 作者|葛覃 出品|产业家 一年前，依然有不少云计算从业者思…...
UNH-IOL Reservation 一致性测试用例【7】- 清除Reservation
Reservation 系列导航 UNH-IOL Reservation 一致性测试用例【1】- Reservation Report 命令验证 UNH-IOL Reservation 一致性测试用例【2】- Reservation注册 UNH-IOL Reservation 一致性测试用例【3】- 取消注册 UNH-IOL Reservation 一致性测试用例【4】- Reservation Acqui…...
Python 生成随机图片验证码
使用Python生成图片验证码 Python 生成随机图片验证码安装pillow包pillow包生成图片基本用法生成图片验证码 Python 生成随机图片验证码 在写一个Web项目的时候一般要写登录操作，而为了安全起见，现在的登录功能都会加上输入图片验证码这一功能ÿ…...
一些有趣的 js 功能函数
一些有趣的 js 功能函数 数组生成数组打乱数组数组简单数据去重数组唯一值数据去重多数组取交集查找最大值索引查找最小值索引找到最接近的数值压缩多个数组（拉链函数）矩阵交换行和列 数字转换进制转换 正则手机号格式化去除多余空格 web重新加载当前页面…...
摄像头m2dock（MAIX-II DOCK）
官方文档地址 https://wiki.sipeed.com/soft/maixpy3/zh/index.html 一、软件准备 1 烧录镜像软件 2 镜像 当前最近版本镜像文件 3 SDFormatter 4 Maixpy IDE 二、SD卡准备 1 格式化SD卡（用SDFormatter） 2 烧录 3 弹出，插入开发板中 出现…...
浏览器访问 AWS ECS 上部署的 Docker 容器（监听 80 端口）
✅ 一、ECS 服务配置 Dockerfile 确保监听 80 端口 EXPOSE 80 CMD ["nginx", "-g", "daemon off;"]或 EXPOSE 80 CMD ["python3", "-m", "http.server", "80"]任务定义（Task Definition&…...
web vue 项目 Docker化部署
Web 项目 Docker 化部署详细教程 目录 Web 项目 Docker 化部署概述Dockerfile 详解 构建阶段生产阶段 构建和运行 Docker 镜像 1. Web 项目 Docker 化部署概述 Docker 化部署的主要步骤分为以下几个阶段： 构建阶段（Build Stage）：…...
React第五十七节 Router中RouterProvider使用详解及注意事项
前言 在 React Router v6.4 中，RouterProvider 是一个核心组件，用于提供基于数据路由（data routers）的新型路由方案。 它替代了传统的 <BrowserRouter>，支持更强大的数据加载和操作功能（如 loader 和…...
MySQL 隔离级别：脏读、幻读及不可重复读的原理与示例
一、MySQL 隔离级别 MySQL 提供了四种隔离级别，用于控制事务之间的并发访问以及数据的可见性，不同隔离级别对脏读、幻读、不可重复读这几种并发数据问题有着不同的处理方式，具体如下： 隔离级别脏读不可重复读幻读性能特点及锁机制读未提交（READ UNCOMMITTED）允许出现允许…...
mongodb源码分析session执行handleRequest命令find过程
mongo/transport/service_state_machine.cpp已经分析startSession创建ASIOSession过程，并且验证connection是否超过限制ASIOSession和connection是循环接受客户端命令，把数据流转换成Message，状态转变流程是：State::Created 》 St…...
AtCoder 第409场初级竞赛 A~E题解
A Conflict 【题目链接】 原题链接：A - Conflict 【考点】 枚举 【题目大意】 找到是否有两人都想要的物品。 【解析】 遍历两端字符串，只有在同时为 o 时输出 Yes 并结束程序，否则输出 No。 【难度】 GESP三级 【代码参考】 #i…...
渲染学进阶内容——模型
最近在写模组的时候发现渲染器里面离不开模型的定义，在渲染的第二篇文章中简单的讲解了一下关于模型部分的内容，其实不管是方块还是方块实体，都离不开模型的内容 🧱 一、CubeListBuilder 功能解析 CubeListBuilder 是 Minecraft Java 版模型系统的核心构建器，用于动态创…...
Java-41 深入浅出 Spring - 声明式事务的支持 事务配置 XML模式 XML+注解模式
点一下关注吧！！！非常感谢！！持续更新！！！ 🚀 AI篇持续更新中！（长期更新） 目前2025年06月05日更新到： AI炼丹日志-28 - Aud…...
C++ 基础特性深度解析
目录 引言 一、命名空间（namespace） C 中的命名空间 与 C 语言的对比 二、缺省参数 C 中的缺省参数 与 C 语言的对比 三、引用（reference） C 中的引用 与 C 语言的对比 四、inline（内联函数…...
JUC笔记(上)-复习 涉及死锁 volatile synchronized CAS 原子操作
一、上下文切换 即使单核CPU也可以进行多线程执行代码，CPU会给每个线程分配CPU时间片来实现这个机制。时间片非常短，所以CPU会不断地切换线程执行，从而让我们感觉多个线程是同时执行的。时间片一般是十几毫秒(ms)。通过时间片分配算法执行。…...