当前位置：首页 > news >正文

关于知识蒸馏的概念原理以及常见方法

news 2025/12/15 11:52:02

1. 概念与原理

知识蒸馏的基本定义
- 知识蒸馏（Knowledge Distillation） 是一种将模型压缩与迁移学习结合的技术：它利用预先训练好的大模型（通常参数量大、精度高、计算开销大）指导一个更轻量（参数量小、推理速度快）的学生模型进行训练，从而在保持模型精度的同时显著减少模型体积和计算量。
- 核心思想是：在学生模型的训练过程中，不仅使用真实标签（hard labels）的监督损失，还将教师模型输出的“软标签”（soft labels）或中间层特征等信息融入训练目标。软标签通常包含更丰富的类别间相似度或更细腻的特征区分度，帮助学生模型学习到比单纯依赖真实标签更深层次的知识表征。
原理机制
- 传统的监督学习中，真实标签通常是one-hot形式（例如在分类问题中某一类标记为1，其余全为0），无法呈现类别之间的细微差异或相似度。
- 而教师模型输出的概率分布（如softmax输出）能够显示不同类别间的相对相似性：即并非只关注正确类别，也会给相近类别分配一定的概率权重。学生模型通过模仿这种概

关于知识蒸馏的概念原理以及常见方法

1. 概念与原理知识蒸馏的基本定义知识蒸馏（Knowledge Distillation）是一种将模型压缩与迁移学习结合的技术：它利用预先训练好的大模型（通常参数量大、精度高、计算开销大）指导一个更轻量（参数量小、推理速度快）的学生模型进行训练，从而在保持模型精度的同时显著减少…...

编程日记 2025/2/9 7:02:23

C++轻量级桌面GUI库FLTK

C轻量级桌面GUI库FLTK Screenshots - Fast Light Toolkit (FLTK) 这里写个备忘录,可以参考一下....

编程日记 2025/2/9 7:00:20

1.模块声明 .ixx文件为导入模块文件 math_operations.ixx export module math_operations;//模块导出 //导出命名空间 export namespace math_ {//导出命名空间中函数int add(int a, int b);int sub(int a, int b);int mul(int a, int b);int div(int a, int b); } .cppm文件…...

编程日记 2025/2/9 6:52:10

PID 算法简介（C语言）

一、简介： PID是比例、积分、微分三个环节的组合，用来进行反馈控制。每个部分都有对应的系数，也就是Kp、Ki、Kd。PID 算法实现这三个部分的计算，然后综合起来得到控制输出。二、PID控制器结构体： PID控制器结构体：包含PID参数（Kp, Ki, Kd）；存储积分项和上一次误差；…...

编程日记 2025/2/9 6:50:08

Java中的继承及相关概念

在 Java 中，继承是一种允许一个类继承另一个类的特性。通过继承，子类可以获取父类的属性和方法，这有助于减少代码冗余并提高代码的可维护性。以下是关于文件内容的相关分析和知识点总结： 一、继承的核心概念 1.继承的语法 Java …...

编程日记 2025/2/9 6:46:04

语言月赛 202308【小粉兔做麻辣兔头】题解（AC）

》》》点我查看「视频」详解》》》 [语言月赛 202308] 小粉兔做麻辣兔头题目描述粉兔喜欢吃麻辣兔头，麻辣兔头的辣度分为若干级，用数字表示，数字越大，兔头越辣。为了庆祝粉兔专题赛 #1 的顺利举行，粉兔要做一些麻…...

编程日记 2025/2/9 6:39:55

云原生后端|实践?

云原生（Cloud Native）是一种构建和运行应用程序的方法，它充分利用云计算的优势，包括弹性、可扩展性、高可用性和自动化运维。云原生后端开发通常涉及微服务架构、容器化、持续集成/持续部署（CI/CD）、服务网…...

编程日记 2025/2/9 6:37:51

GrassWebProxy

GrassWebProxy第一版： using System; using System.Collections.Generic; using System.Linq; using System.Net.Sockets; using System.Net; using System.Text; using System.Threading; using System.Threading.Tasks; using System.IO; using Newtonsoft.Json;…...

编程日记 2025/2/9 6:36:50

6.Python函数：函数定义、函数的类型、函数参数、函数返回值、函数嵌套、局部变量、全局变量、递归函数、匿名函数

1. 函数定义 Python函数通过def关键字定义。一个函数通常包括函数名、参数列表和函数体。 def greet(name):return f"Hello, {name}!"2. 函数的类型 Python中的函数主要有以下几种类型： 普通函数：具有明确的输入参数和返回值。递归函数&am…...

编程日记 2025/2/9 6:35:48

青少年编程与数学 02-008 Pyhon语言编程基础 22课题、类的定义和使用

青少年编程与数学 02-008 Pyhon语言编程基础 22课题、类的定义和使用一、类类的定义和使用示例二、定义1. 类定义语法2. 属性和方法3. 构造器和初始化4. 实例化5. 类变量和实例变量6. 类方法和静态方法7. 继承8. 多态总结三、使用1. 创建类的实例2. 访问属性3. 调用方法4. 修…...

编程日记 2025/2/9 6:34:45

CosyVoice /F5-TTS /GPT-SoVITS /Fish-Speech 开源语音克隆与文本转语音（TTS）项目的对比整理

四个主流开源语音克隆与文本转语音（TTS）项目的对比整理，基于公开资料与实测反馈总结： 项目CosyVoice F5-TTS GPT-SoVITS Fish-Speech 核心技术双向流式语音合成，支持离线与流式一体化建模基于流匹配的ConvNeXt文本表示…...

编程日记 2025/2/9 6:33:44

MySQL基于binlog和gtid主从搭建方案

MySQL基于binlog和gtid主从搭建方案一.主库配置 1.1 确认 binlog 是否开启 SHOW VARIABLES LIKE %log_bin%; 1.2 创建日志目录并设置权限 mkdir -p /opt/mysql/log_bin chown -R mysql:mysql /usr/local/mysql chmod -R 755 /usr/local/mysql 1.3 修改 my.cnf 配置文件 …...

编程日记 2025/2/9 6:29:38

5 计算机网络

5 计算机网络 5.1 OSI/RM七层模型 5.2 TCP/IP协议簇 5.2.1:常见协议基础一、 TCP是可靠的，效率低的； 1.HTTP协议端口默认80，HTTPSSL之后成为HTTPS协议默认端口443。 2.对于0~1023一般是默认的公共端口不需要注册，1024以后的则需…...

编程日记 2025/2/9 6:28:36

Vim跳转文件及文件行结束符EOL

跳转文件 gf 从当前窗口打开那个文件的内容，操作方式：让光标停在文件名上，输入gf。 Ctrlo 从打开的文件返回之前的窗口 Ctrlwf 可以在分割的窗口打开跳转的文件，不过在我的实验不是次次都成功。统一行尾格式文本文件里存放的…...

编程日记 2025/2/9 6:25:32

智能理解 PPT 内容，快速生成讲解视频

当我们想根据一版 PPT 制作出相对应的解锁视频时，从撰写解锁词，录制音频到剪辑视频，每一个环节都需要投入大量的时间和精力，本方案将依托于阿里云函数计算 FC 和百炼模型服务，实现从 PPT 到视频的全自动转换&#xff0…...

编程日记 2025/2/9 6:24:31

【鸿蒙开发】第二十四章 AI - Core Speech Kit（基础语音服务）

目录 1 简介 1.1 场景介绍 1.2 约束与限制 2 文本转语音 2.1 场景介绍 2.2 约束与限制 2.3 开发步骤 2.4 设置播报策略 2.4.1 设置单词播报方式 2.4.2 设置数字播报策略 2.4.3 插入静音停顿 2.4.4 指定汉字发音 2.5 开发实例 3 语音识别 3.1 场景介绍 3.2 约束…...

编程日记 2025/2/9 6:23:29

Java/Kotlin双语革命性ORM框架Jimmer（一）——介绍与简单使用

概览 Jimmer是一个Java/Kotlin双语框架包含一个革命性的ORM 以此ORM为基础打造了一套综合性方案解决方案，包括 DTO语言更全面更强大的缓存机制，以及高度自动化的缓存一致性更强大客户端文档和代码生成能力，包括Jimmer独创的远程异常 …...

编程日记 2025/2/9 6:22:28

番外02：前端八股文面试题-CSS篇

一：CSS基础 1：CSS选择器及其优先级 2：display的属性值及其作用属性值作用none元素不显示，并且会从文档流中移除block块类型，默认元素为父元素宽度，可设置宽高，换行显示inline行内元素类型&a…...

编程日记 2025/2/9 6:20:26

Redis Copilot：基于Redis为AI打造的副驾工具

我们最近发布了Redis Copilot，以帮助开发者更快地使用Redis构建应用。我们的使命是使应用程序快速运行，并简化构建过程。为此，Redis Copilot作为您的AI助手，能够让您更迅速地完成与Redis相关的任务。您今天就可以在Redis Insight中…...

编程日记 2025/2/9 6:19:22

JavaScript遍历对象的7种方式

注：纯手打，如有错误欢迎评论区交流！ 转载请注明出处：https://blog.csdn.net/testleaf/article/details/145523427 编写此文是为了更好地学习前端知识，如果损害了有关人的利益，请联系删除！ 本文章…...

编程日记 2025/2/9 6:17:19

Android Wi-Fi 连接失败日志分析

1. Android wifi 关键日志总结 (1) Wi-Fi 断开 (CTRL-EVENT-DISCONNECTED reason3) 日志相关部分： 06-05 10:48:40.987 943 943 I wpa_supplicant: wlan0: CTRL-EVENT-DISCONNECTED bssid44:9b:c1:57:a8:90 reason3 locally_generated1解析： CTR…...

编程新知 2025/9/14 19:44:52

云原生核心技术 (7/12): K8s 核心概念白话解读(上)：Pod 和 Deployment 究竟是什么？

大家好，欢迎来到《云原生核心技术》系列的第七篇！ 在上一篇，我们成功地使用 Minikube 或 kind 在自己的电脑上搭建起了一个迷你但功能完备的 Kubernetes 集群。现在，我们就像一个拥有了一块崭新数字土地的农场主，是时…...

编程新知 2025/12/14 22:32:59

Python：操作 Excel 折叠

💖亲爱的技术爱好者们，热烈欢迎来到 Kant2048 的博客！我是 Thomas Kant，很开心能在CSDN上与你们相遇～💖 本博客的精华专栏：【自动化测试】【测试经验】【人工智能】【Python】 Python 操作 Excel 系列读取单元格数据按行写入设置行高和列宽自动调整行高和列宽水平…...

编程新知 2025/12/14 3:57:29

从深圳崛起的“机器之眼”：赴港乐动机器人的万亿赛道赶考路

进入2025年以来，尽管围绕人形机器人、具身智能等机器人赛道的质疑声不断，但全球市场热度依然高涨，入局者持续增加。以国内市场为例，天眼查专业版数据显示，截至5月底，我国现存在业、存续状态的机器人相关企…...

编程新知 2025/12/13 7:26:47

1.3 VSCode安装与环境配置

进入网址Visual Studio Code - Code Editing. Redefined下载.deb文件，然后打开终端，进入下载文件夹，键入命令 sudo dpkg -i code_1.100.3-1748872405_amd64.deb 在终端键入命令code即启动vscode 需要安装插件列表 1.Chinese简化 2.ros …...

编程新知 2025/12/9 2:37:58