当前位置: 首页 > news >正文

【深度学习基础】

打基础日常记录

  • CNN基础知识
    • 1. 感知机
    • 2. DNN 深度神经网络(全连接神经网络)
      • DNN 与感知机的区别
      • DNN特点,全连接神经网络
      • DNN前向传播和反向传播
    • 3. CNN结构【提取特征+分类】
    • 4. CNN应用于文本
  • RNN基础
    • 1. RNN的本质
  • 词向量模型word2Vec
    • 1. 自然语言处理需要解决的问题
    • 2. 如何解决上述问题
    • 3. 词向量是什么(训练成词向量)
    • 4. 神经网络做什么?
    • 5. 模型如何去训练词向量
    • 6. 构建训练数据
    • 7. 浩大的语料库中,

CNN基础知识

1. 感知机

单层感知机就是一个二分类器,接收输入向量,输出分类结果,先进行线性加权,再进行激活函数的非线性转换,就相当于是一个小模型,里面的权重w和b是模型的参数
参考1
图1
参考2
在这里插入图片描述

2. DNN 深度神经网络(全连接神经网络)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

DNN 与感知机的区别

在这里插入图片描述

DNN特点,全连接神经网络

在这里插入图片描述

DNN前向传播和反向传播

在这里插入图片描述

3. CNN结构【提取特征+分类】

3.1 CNN特有的卷积层,
3.2 卷积层自带卷积核和relu激活函数,
3.3 CNN特有的池化层(池化层没有激活函数)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4. CNN应用于文本

在这里插入图片描述

RNN基础

1. RNN的本质

常用在NLP中,应为NLP是处理语句的,语句之间有先后顺序,RNN可以在预测中加入先后顺序的信息
在这里插入图片描述
–分割线–
在这里插入图片描述
–分割线–
在这里插入图片描述
–分割线–

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

词向量模型word2Vec

把单词转换成向量,也就是一个一个的数值,计算机知道这些数值的含义,人类不需要理解

1. 自然语言处理需要解决的问题

  1. 单词之间应该有先后的顺序,而不是用词频;
  2. 意思相近的单词在空间中的表示也应该相近;

2. 如何解决上述问题

  1. 把单词变成向量,计算两个向量之间的相似度;(解决问题2)

3. 词向量是什么(训练成词向量)

词向量就是在规定的维度内,通常是50-300维度,把单词变成数值,计算机可以认识
在这里插入图片描述
在这里插入图片描述

4. 神经网络做什么?

输入两个单词,预测第三个单词

5. 模型如何去训练词向量

  1. 先有一个词向量库(随机初始化的),Look up embedding, 从中查找到输入词的向量,词向量输入到网络中,预测下一个词向量是什么,通过loss更新网络的权重参数以及词向量库
    在这里插入图片描述
    词训练数据库,是任何正常说话的逻辑数据都可以当成训练数据

6. 构建训练数据

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

7. 浩大的语料库中,

在这里插入图片描述

相关文章:

【深度学习基础】

打基础日常记录 CNN基础知识1. 感知机2. DNN 深度神经网络(全连接神经网络)DNN 与感知机的区别DNN特点,全连接神经网络DNN前向传播和反向传播 3. CNN结构【提取特征分类】4. CNN应用于文本 RNN基础1. RNN的本质 词向量模型word2Vec1. 自然语言…...

银行业架构网络BIAN (Banking IndustryArchitecture Network)详细介绍

BIAN ( The Banking Industry Architecture Network) 是一个业界多方协作的非营利性组织,由全球领先银行、技术提供商、顾问和学者组成,定义了一个用以简化和标准化核心银行体系结构的银行技术框架。这一框架基于面向服务的架构 (SOA) 原则,银…...

[尚硅谷 flink] 基于时间的合流——双流联结(Join)

文章目录 8.1 窗口联结(Window Join)8.2 **间隔联结(Interval Join)** 8.1 窗口联结(Window Join) Flink为基于一段时间的双流合并专门提供了一个窗口联结算子,可以定义时间窗口,并…...

怎样恢复已删除的照片?教你3个方法,一键恢复!

很多人喜欢以拍照的形式记录生活,手机里的照片就很容易堆积成山,但当内存不够用时就不得不选择删除。可是这些美好的照片始终是很多人心中抹不去的记忆,那么该怎样恢复已删除的照片呢?下面几招,教你一键恢复&#xff0…...

植物糖基转移酶数据库-23年-地表最强系列-文献精读-6

pUGTdb: A comprehensive database of plant UDP-dependent glycosyltransferases pUGTdb:植物UDP依赖糖基转移酶的全面数据库 一篇关于植物糖基转移数据库的综述,地表最强,总结的最全面的版本之一,各位看官有推荐请留言评论区~…...

虚拟机打不开

问题 另一个程序已锁定文件的一部分,进程无法访问 打不开磁盘“G:\centeros\hadoop104kl\hadoop100-cl2.vmdk”或它所依赖的某个快照磁盘。 模块“Disk”启动失败。 未能启动虚拟机。 原因 前一次非正常关闭虚拟机导致.lck 文件是VMWare软件的一种磁盘锁文件&…...

MySQL数据库版本为5.5.62,时间戳超出2038年1月19日的解决方案

MySQL数据库版本是 5.5.62,已设置字段的类型为BIGINT,使用FROM_UNIXTIME()函数来转换时间戳,返回NULL。 SELECT FROM_UNIXTIME(1617970800)SELECT FROM_UNIXTIME(2185743121)MySQL数据库版本为5.5.62,已设置字段的类型为BIGINT&a…...

C++20 semaphore(信号量) 详解

头文件在C20中是并发库技术规范(Technical Specification, TS)的一部分。信号量是同步原语,帮助控制多线程程序中对共享资源的访问。头文件提供了标准C方式来使用信号量。 使用环境 Windows:VS中打开项目属性,修改C语…...

【简单讲解下Lisp的学习历程】

🎥博主:程序员不想YY啊 💫CSDN优质创作者,CSDN实力新星,CSDN博客专家 🤗点赞🎈收藏⭐再看💫养成习惯 ✨希望本文对您有所裨益,如有不足之处,欢迎在评论区提出…...

构建高效网络:深入理解正向与反向代理的作用与配置

正向代理 如果把局域网外的互联网环境想象成一个巨大的资源库,则局域网中的客户端要访问互联网则需要通过代理服务器来访问,这种代理成为正向代理。 示例: 用户想要访问 https://chensir.ink (目标服务器)&#xff0…...

Linux:make/makefile的使用

一、什么是makefile/make 会不会写makefile,从一个侧面说明了一个人是否具备完成大型工程的能力 一个工程中的源文件不计数,其按类型、功能、模块分别放在若干个目录中,makefile定义了一系列的 规则来指定,哪些文件需要先编译&am…...

Java设计模式—策略模式(商场打折)

策略这个词应该怎么理解,打个比方说,我们出门的时候会选择不同的出行方式,比如骑自行车、坐公交、坐火车、坐飞机、坐火箭等等,这些出行方式,每一种都是一个策略。 再比如我们去逛商场,商场现在正在搞活动&…...

FOR循环

oracle从入门到总裁:​​​​​​https://blog.csdn.net/weixin_67859959/article/details/135209645 前面两种循环都要根据条件是否成立而确定循环体的执行,具体循环体执行多少次事先并不知道。 FOR 循环可以控制循环执行的次数,由循环变量控制循环体的…...

C++: 命名空间/C++输入输出/缺省参数/函数重载/引用/内联函数

进入C以后,就翻开了新的篇章。C支持C语言的使用。事实上,C是创建者在发现C语言中有很多不好用的地方(在后续学习中会明显看到)后,在C语言基础上又加入了许多语法,于是就成了C。 1.命名空间 来源&#xff…...

Java | Leetcode Java题解之第13题罗马数字转整数

题目&#xff1a; 题解&#xff1a; class Solution {Map<Character, Integer> symbolValues new HashMap<Character, Integer>() {{put(I, 1);put(V, 5);put(X, 10);put(L, 50);put(C, 100);put(D, 500);put(M, 1000);}};public int romanToInt(String s) {int …...

题目:学习使用register定义变量的方法。

题目&#xff1a;学习使用register定义变量的方法。 There is no nutrition in the blog content. After reading it, you will not only suffer from malnutrition, but also impotence. The blog content is all parallel goods. Those who are worried about being cheated …...

IO_DAY7

1:实现2个终端之间的互相聊天 要求:千万不要做出来2个终端之间的消息发送是读一写的&#xff0c;一定要能够做到&#xff0c;一个终端发送n条消息&#xff0c;另一个终端一条消息都不回复都是没有问题的 终端A&#xff1a; #include<myhead.h> int main(int argc, char…...

大模型学习笔记八:手撕AutoGPT

文章目录 一、功能需求二、演示用例三、核心模块流程图四、代码分析1&#xff09;Agent类目录创建智能体对象2&#xff09;开始主流程3&#xff09;在prompt的main目录输入主prompt和最后prompt4&#xff09;增加实际的工具集tools&#xff08;也就是函数&#xff09;5&#xf…...

Java常用API_System——常用方法及代码演示

1.System.exit(int status) 方法的形参int status为状态码&#xff0c;如果是0&#xff0c;说明虚拟机正常停止&#xff0c;如果非0&#xff0c;说明虚拟机非正常停止。需要将程序结束时可以调用这个方法 代码演示&#xff1a; public class Test {public static void main(S…...

neo4j图数据库下载安装配置

neo4j下载地址Index of /doc/neo4j/3.5.8/ 1.说明&#xff1a;jdk 1.8 版本对应的 neo4j 数据库版本 推荐安装3.X版本 2.配置系统环境变量 3.启动 neo4j.bat console 4.访问...

遇到一个口头机遇的答辩准备2(ai告诉的要点)

代码处理的过程&#xff0c;其实已经不是当时的过程了。算是事后的整理过程吧先来问下CAD二开要点&#xff0c;ai给出了以下十一点&#xff1a;一、核心原则一些操作必须包 Transaction &#xff08;事务&#xff0c;音标&#xff1a;/trnˈzkʃn/&#xff09;增删改图形必须用…...

储能变流器双向软开关设计:从拓扑选型到控制策略的工程实现

一、储能PCS的技术挑战与设计目标1.1 储能系统的核心需求储能变流器&#xff08;PCS&#xff09;是实现电池与电网之间能量双向流动的关键设备&#xff0c;在充电模式下将电网交流电转换为直流电为电池充电&#xff0c;在放电模式下将电池直流电转换为交流电馈入电网或供给负载…...

AgentCPM深度研报助手企业级部署架构设计:高并发下的性能与成本优化

AgentCPM深度研报助手企业级部署架构设计&#xff1a;高并发下的性能与成本优化 最近和几个做金融科技的朋友聊天&#xff0c;他们都在头疼一件事&#xff1a;公司内部的分析师、研究员越来越多地依赖AI来辅助撰写行业研报&#xff0c;但现有的AI服务要么太贵&#xff0c;要么…...

AI 编程盛行的时代,为什么 “『DC- WFW』” 仍然具有必要性?

AI训练存储选型的演进路线 第一阶段&#xff1a;单机直连时代 早期的深度学习数据集较小&#xff0c;模型训练通常在单台服务器或单张GPU卡上完成。此时直接将数据存储在训练机器的本地NVMe SSD/HDD上。 其优势在于IO延迟最低&#xff0c;吞吐量极高&#xff0c;也就是“数据离…...

SPSSPRO vs Python:皮尔逊相关系数分析的保姆级工具对比指南

SPSSPRO vs Python&#xff1a;皮尔逊相关系数分析的保姆级工具对比指南 当我们需要分析两个变量之间的线性关系时&#xff0c;皮尔逊相关系数是最常用的统计指标之一。但在实际应用中&#xff0c;研究人员常常面临工具选择的困扰&#xff1a;是使用SPSSPRO这样的无代码统计分…...

实战演练:基于快马AI快速构建竞品价格监控爬虫系统

今天想和大家分享一个非常实用的爬虫实战项目——竞品价格监控系统。这个系统可以帮助我们实时跟踪不同电商平台上同类产品的价格变化&#xff0c;对于市场调研、价格策略制定都很有帮助。下面我会详细介绍整个实现过程&#xff0c;以及我在使用InsCode(快马)平台时的一些体验。…...

新手零基础入门:用快马AI生成你的第一个互联网个人主页

作为一个刚接触编程的新手&#xff0c;想要制作个人主页却不知从何下手是很常见的情况。最近我在InsCode(快马)平台上尝试用AI生成我的第一个网页&#xff0c;整个过程比想象中简单很多&#xff0c;特别适合零基础入门。下面分享我的学习过程和收获。 明确需求很关键 在开始前&…...

Phi-4-mini-reasoning低成本部署:8GB显存即可运行的高性能推理模型

Phi-4-mini-reasoning低成本部署&#xff1a;8GB显存即可运行的高性能推理模型 1. 模型介绍 Phi-4-mini-reasoning 是一款专注于推理任务的文本生成模型&#xff0c;特别适合处理数学题、逻辑题、多步分析和简洁结论输出等场景。与通用聊天模型不同&#xff0c;它采用了"…...

OpenClaw技能共享:将Qwen2.5-VL-7B定制插件发布到ClawHub

OpenClaw技能共享&#xff1a;将Qwen2.5-VL-7B定制插件发布到ClawHub 1. 为什么需要共享OpenClaw技能 去年我开发了一个基于Qwen2.5-VL-7B的图片分析插件&#xff0c;能够自动识别截图中的UI元素并生成操作指令。当我发现这个插件在团队内部被反复复制粘贴使用时&#xff0c;…...

SpringBoot+Vue IT交流和分享平台平台完整项目源码+SQL脚本+接口文档【Java Web毕设】

系统架构设计### 摘要 随着信息技术的快速发展&#xff0c;互联网已成为人们获取和分享知识的重要渠道。尤其是在IT领域&#xff0c;技术人员和爱好者需要一个高效、便捷的交流平台来分享经验、讨论技术问题并获取最新行业动态。传统的论坛和社交媒体平台虽然功能丰富&#xff…...