当前位置： 首页 > news >正文

【深度学习基础】

news 2026/2/9 0:29:05

打基础日常记录

  • CNN基础知识
    • 1. 感知机
    • 2. DNN 深度神经网络（全连接神经网络）
      • DNN 与感知机的区别
      • DNN特点，全连接神经网络
      • DNN前向传播和反向传播
    • 3. CNN结构【提取特征+分类】
    • 4. CNN应用于文本
  • RNN基础
    • 1. RNN的本质
  • 词向量模型word2Vec
    • 1. 自然语言处理需要解决的问题
    • 2. 如何解决上述问题
    • 3. 词向量是什么（训练成词向量）
    • 4. 神经网络做什么？
    • 5. 模型如何去训练词向量
    • 6. 构建训练数据
    • 7. 浩大的语料库中，

CNN基础知识

1. 感知机

单层感知机就是一个二分类器，接收输入向量，输出分类结果，先进行线性加权，再进行激活函数的非线性转换，就相当于是一个小模型，里面的权重w和b是模型的参数
参考1
图1
参考2
在这里插入图片描述

2. DNN 深度神经网络（全连接神经网络）

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

DNN 与感知机的区别

在这里插入图片描述

DNN特点，全连接神经网络

在这里插入图片描述

DNN前向传播和反向传播

在这里插入图片描述

3. CNN结构【提取特征+分类】

3.1 CNN特有的卷积层，
3.2 卷积层自带卷积核和relu激活函数，
3.3 CNN特有的池化层（池化层没有激活函数）
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4. CNN应用于文本

在这里插入图片描述

RNN基础

1. RNN的本质

常用在NLP中，应为NLP是处理语句的，语句之间有先后顺序，RNN可以在预测中加入先后顺序的信息
在这里插入图片描述
–分割线–
在这里插入图片描述
–分割线–
在这里插入图片描述
–分割线–

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

词向量模型word2Vec

把单词转换成向量，也就是一个一个的数值，计算机知道这些数值的含义，人类不需要理解

1. 自然语言处理需要解决的问题

  1. 单词之间应该有先后的顺序，而不是用词频；
  2. 意思相近的单词在空间中的表示也应该相近；

2. 如何解决上述问题

  1. 把单词变成向量，计算两个向量之间的相似度；（解决问题2）

3. 词向量是什么（训练成词向量）

词向量就是在规定的维度内，通常是50-300维度，把单词变成数值，计算机可以认识
在这里插入图片描述
在这里插入图片描述

4. 神经网络做什么？

输入两个单词，预测第三个单词

5. 模型如何去训练词向量

  1. 先有一个词向量库（随机初始化的），Look up embedding, 从中查找到输入词的向量，词向量输入到网络中，预测下一个词向量是什么，通过loss更新网络的权重参数以及词向量库
    在这里插入图片描述
    词训练数据库，是任何正常说话的逻辑数据都可以当成训练数据

6. 构建训练数据

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

7. 浩大的语料库中，

在这里插入图片描述

相关文章：

【深度学习基础】

打基础日常记录 CNN基础知识1. 感知机2. DNN 深度神经网络（全连接神经网络）DNN 与感知机的区别DNN特点，全连接神经网络DNN前向传播和反向传播 3. CNN结构【提取特征分类】4. CNN应用于文本 RNN基础1. RNN的本质 词向量模型word2Vec1. 自然语言…...

编程日记 2024/4/9 1:27:45

银行业架构网络BIAN (Banking IndustryArchitecture Network)详细介绍

BIAN ( The Banking Industry Architecture Network) 是一个业界多方协作的非营利性组织，由全球领先银行、技术提供商、顾问和学者组成，定义了一个用以简化和标准化核心银行体系结构的银行技术框架。这一框架基于面向服务的架构 (SOA) 原则，银…...

编程日记 2024/4/9 1:26:44

[尚硅谷 flink] 基于时间的合流——双流联结（Join）

文章目录 8.1 窗口联结（Window Join）8.2 **间隔联结（Interval Join）** 8.1 窗口联结（Window Join） Flink为基于一段时间的双流合并专门提供了一个窗口联结算子，可以定义时间窗口，并…...

编程日记 2024/4/9 1:24:41

怎样恢复已删除的照片？教你3个方法，一键恢复！

很多人喜欢以拍照的形式记录生活，手机里的照片就很容易堆积成山，但当内存不够用时就不得不选择删除。可是这些美好的照片始终是很多人心中抹不去的记忆，那么该怎样恢复已删除的照片呢？下面几招，教你一键恢复&#xff0…...

编程日记 2024/4/9 1:20:38

植物糖基转移酶数据库-23年-地表最强系列-文献精读-6

pUGTdb: A comprehensive database of plant UDP-dependent glycosyltransferases pUGTdb：植物UDP依赖糖基转移酶的全面数据库 一篇关于植物糖基转移数据库的综述，地表最强，总结的最全面的版本之一，各位看官有推荐请留言评论区~…...

编程日记 2024/4/9 1:19:35

虚拟机打不开

问题 另一个程序已锁定文件的一部分，进程无法访问 打不开磁盘“G:\centeros\hadoop104kl\hadoop100-cl2.vmdk”或它所依赖的某个快照磁盘。 模块“Disk”启动失败。 未能启动虚拟机。 原因 前一次非正常关闭虚拟机导致.lck 文件是VMWare软件的一种磁盘锁文件&…...

编程日记 2024/4/9 1:16:32

MySQL数据库版本为5.5.62，时间戳超出2038年1月19日的解决方案

MySQL数据库版本是 5.5.62，已设置字段的类型为BIGINT，使用FROM_UNIXTIME()函数来转换时间戳，返回NULL。 SELECT FROM_UNIXTIME(1617970800)SELECT FROM_UNIXTIME(2185743121)MySQL数据库版本为5.5.62，已设置字段的类型为BIGINT&a…...

编程日记 2024/4/9 1:15:31

C++20 semaphore(信号量) 详解

头文件在C20中是并发库技术规范（Technical Specification, TS）的一部分。信号量是同步原语，帮助控制多线程程序中对共享资源的访问。头文件提供了标准C方式来使用信号量。 使用环境 Windows：VS中打开项目属性，修改C语…...

编程日记 2024/4/9 1:10:26

【简单讲解下Lisp的学习历程】

🎥博主：程序员不想YY啊 💫CSDN优质创作者，CSDN实力新星，CSDN博客专家 🤗点赞🎈收藏⭐再看💫养成习惯 ✨希望本文对您有所裨益，如有不足之处，欢迎在评论区提出…...

编程日记 2024/4/9 1:05:21

构建高效网络：深入理解正向与反向代理的作用与配置

正向代理 如果把局域网外的互联网环境想象成一个巨大的资源库，则局域网中的客户端要访问互联网则需要通过代理服务器来访问，这种代理成为正向代理。 示例： 用户想要访问 https://chensir.ink （目标服务器）&#xff0…...

编程日记 2024/4/9 1:02:17

Linux：make/makefile的使用

一、什么是makefile/make 会不会写makefile，从一个侧面说明了一个人是否具备完成大型工程的能力 一个工程中的源文件不计数，其按类型、功能、模块分别放在若干个目录中，makefile定义了一系列的 规则来指定，哪些文件需要先编译&am…...

编程日记 2024/4/9 1:01:16

Java设计模式—策略模式（商场打折）

策略这个词应该怎么理解，打个比方说，我们出门的时候会选择不同的出行方式，比如骑自行车、坐公交、坐火车、坐飞机、坐火箭等等，这些出行方式，每一种都是一个策略。 再比如我们去逛商场，商场现在正在搞活动&…...

编程日记 2024/4/9 0:59:14

FOR循环

oracle从入门到总裁:​​​​​​https://blog.csdn.net/weixin_67859959/article/details/135209645 前面两种循环都要根据条件是否成立而确定循环体的执行，具体循环体执行多少次事先并不知道。 FOR 循环可以控制循环执行的次数，由循环变量控制循环体的…...

编程日记 2024/4/9 0:56:09

C++： 命名空间/C++输入输出/缺省参数/函数重载/引用/内联函数

进入C以后，就翻开了新的篇章。C支持C语言的使用。事实上，C是创建者在发现C语言中有很多不好用的地方（在后续学习中会明显看到）后，在C语言基础上又加入了许多语法，于是就成了C。 1.命名空间 来源&#xff…...

编程日记 2024/4/9 0:53:07

Java | Leetcode Java题解之第13题罗马数字转整数

题目&#xff1a; 题解&#xff1a; class Solution {Map<Character, Integer> symbolValues new HashMap<Character, Integer>() {{put(I, 1);put(V, 5);put(X, 10);put(L, 50);put(C, 100);put(D, 500);put(M, 1000);}};public int romanToInt(String s) {int …...

编程日记 2024/4/9 0:42:57

题目：学习使用register定义变量的方法。

题目&#xff1a;学习使用register定义变量的方法。 There is no nutrition in the blog content. After reading it, you will not only suffer from malnutrition, but also impotence. The blog content is all parallel goods. Those who are worried about being cheated …...

编程日记 2024/4/9 0:41:56

IO_DAY7

1:实现2个终端之间的互相聊天 要求:千万不要做出来2个终端之间的消息发送是读一写的&#xff0c;一定要能够做到&#xff0c;一个终端发送n条消息&#xff0c;另一个终端一条消息都不回复都是没有问题的 终端A&#xff1a; #include<myhead.h> int main(int argc, char…...

编程日记 2024/4/9 0:40:55

大模型学习笔记八：手撕AutoGPT

文章目录 一、功能需求二、演示用例三、核心模块流程图四、代码分析1&#xff09;Agent类目录创建智能体对象2&#xff09;开始主流程3&#xff09;在prompt的main目录输入主prompt和最后prompt4&#xff09;增加实际的工具集tools&#xff08;也就是函数&#xff09;5&#xf…...

编程日记 2024/4/9 0:39:54

Java常用API_System——常用方法及代码演示

1.System.exit(int status) 方法的形参int status为状态码&#xff0c;如果是0&#xff0c;说明虚拟机正常停止&#xff0c;如果非0&#xff0c;说明虚拟机非正常停止。需要将程序结束时可以调用这个方法 代码演示&#xff1a; public class Test {public static void main(S…...

编程日记 2024/4/9 0:37:52

neo4j图数据库下载安装配置

neo4j下载地址Index of /doc/neo4j/3.5.8/ 1.说明&#xff1a;jdk 1.8 版本对应的 neo4j 数据库版本 推荐安装3.X版本 2.配置系统环境变量 3.启动 neo4j.bat console 4.访问...

编程日记 2024/4/9 0:36:51

conda相比python好处

Conda 作为 Python 的环境和包管理工具&#xff0c;相比原生 Python 生态&#xff08;如 pip 虚拟环境&#xff09;有许多独特优势&#xff0c;尤其在多项目管理、依赖处理和跨平台兼容性等方面表现更优。以下是 Conda 的核心好处&#xff1a; 一、一站式环境管理&#xff1a…...

编程新知 2025/11/29 6:54:19

C++_核心编程_多态案例二-制作饮品

#include <iostream> #include <string> using namespace std;/*制作饮品的大致流程为&#xff1a;煮水 - 冲泡 - 倒入杯中 - 加入辅料 利用多态技术实现本案例&#xff0c;提供抽象制作饮品基类&#xff0c;提供子类制作咖啡和茶叶*//*基类*/ class AbstractDr…...

编程新知 2026/2/8 20:42:55

【Java学习笔记】Arrays类

Arrays 类 1. 导入包&#xff1a;import java.util.Arrays 2. 常用方法一览表 方法描述Arrays.toString()返回数组的字符串形式Arrays.sort()排序&#xff08;自然排序和定制排序&#xff09;Arrays.binarySearch()通过二分搜索法进行查找&#xff08;前提&#xff1a;数组是…...

编程新知 2025/12/3 9:38:15

Spring Boot+Neo4j知识图谱实战：3步搭建智能关系网络！

一、引言 在数据驱动的背景下&#xff0c;知识图谱凭借其高效的信息组织能力&#xff0c;正逐步成为各行业应用的关键技术。本文聚焦 Spring Boot与Neo4j图数据库的技术结合&#xff0c;探讨知识图谱开发的实现细节&#xff0c;帮助读者掌握该技术栈在实际项目中的落地方法。 …...

编程新知 2025/9/17 21:39:04

MySQL中【正则表达式】用法

MySQL 中正则表达式通过 REGEXP 或 RLIKE 操作符实现&#xff08;两者等价&#xff09;&#xff0c;用于在 WHERE 子句中进行复杂的字符串模式匹配。以下是核心用法和示例&#xff1a; 一、基础语法 SELECT column_name FROM table_name WHERE column_name REGEXP pattern; …...

编程新知 2025/11/21 22:02:37

OpenPrompt 和直接对提示词的嵌入向量进行训练有什么区别

OpenPrompt 和直接对提示词的嵌入向量进行训练有什么区别 直接训练提示词嵌入向量的核心区别 您提到的代码： prompt_embedding = initial_embedding.clone().requires_grad_(True) optimizer = torch.optim.Adam([prompt_embedding...

编程新知 2025/7/4 0:50:01

使用 Streamlit 构建支持主流大模型与 Ollama 的轻量级统一平台

🎯 使用 Streamlit 构建支持主流大模型与 Ollama 的轻量级统一平台 📌 项目背景 随着大语言模型（LLM）的广泛应用，开发者常面临多个挑战： 各大模型（OpenAI、Claude、Gemini、Ollama）接口风格不统一；缺乏一个统一平台进行模型调用与测试；本地模型 Ollama 的集成与前…...

编程新知 2026/1/25 3:31:07

深入浅出深度学习基础：从感知机到全连接神经网络的核心原理与应用

文章目录 前言一、感知机 (Perceptron)1.1 基础介绍1.1.1 感知机是什么&#xff1f;1.1.2 感知机的工作原理 1.2 感知机的简单应用&#xff1a;基本逻辑门1.2.1 逻辑与 (Logic AND)1.2.2 逻辑或 (Logic OR)1.2.3 逻辑与非 (Logic NAND) 1.3 感知机的实现1.3.1 简单实现 (基于阈…...

编程新知 2026/1/26 13:29:00

【SSH疑难排查】轻松解决新版OpenSSH连接旧服务器的“no matching...“系列算法协商失败问题

【SSH疑难排查】轻松解决新版OpenSSH连接旧服务器的"no matching..."系列算法协商失败问题 摘要&#xff1a; 近期&#xff0c;在使用较新版本的OpenSSH客户端连接老旧SSH服务器时&#xff0c;会遇到 "no matching key exchange method found"​, "n…...

编程新知 2025/9/29 4:00:38

RabbitMQ入门4.1.0版本（基于java、SpringBoot操作）

RabbitMQ 一、RabbitMQ概述 RabbitMQ RabbitMQ最初由LShift和CohesiveFT于2007年开发&#xff0c;后来由Pivotal Software Inc.&#xff08;现为VMware子公司&#xff09;接管。RabbitMQ 是一个开源的消息代理和队列服务器&#xff0c;用 Erlang 语言编写。广泛应用于各种分布…...

编程新知 2026/1/31 3:52:49