2022最新版-李宏毅机器学习深度学习课程-P26 Recurrent Neural Network
RNN
应用场景：填满信息
把每个单词表示成一个向量的方法：独热向量
还有其他方法，比如：Word hashing 单词哈希
- 输入：单词
- 输出：该单词属于哪一类的概率分布
由于输入是文字序列，这就产生了一个问题：
是到达还是离开？
隐藏层的输出会被存储在内存中，内存能被视为另一个输入。
改变序列的顺序会改变输出。
RNN的网络结构
目前已提出的两个网络及区别
双向RNN
它与传统的循环神经网络（RNN）相比有一个重要的区别：它在每个时间步上包含两个方向的循环连接，一个从过去到未来（正向），另一个从未来到过去（逆向）。
在双向RNN中，每个时间步的隐藏状态是由两部分组成，一部分来自正向传播，另一部分来自逆向传播。这使得双向RNN能够捕捉到序列中的上下文信息，不仅考虑了过去的信息还考虑了未来的信息。这对于很多自然语言处理任务，如情感分析、命名实体识别、语言建模等非常有用，因为理解一个词语或标记通常需要考虑它周围的上下文。
在训练双向RNN时，通常会使用标准的反向传播算法，但是需要在正向和逆向传播中分别计算梯度，然后将它们合并以更新网络参数。这使得双向RNN的训练稍微复杂一些，但在实际应用中，往往能够提供更好的性能。
RNN的经典变形：LSTM
四个输入，1个输出，三个门
网络结构
三个门都是1：打开，0：关闭
注意这与遗忘门的名字是反着的，但就是这么奇怪~
操作例子
原本的网络结构
参数是原本的四倍
结构简图
一个单元
多个单元
多层的LSTM
Keras支持三个RNN：LSTM GRU SimpleRNN
相关文章：
2022最新版-李宏毅机器学习深度学习课程-P26 Recurrent Neural Network
RNN 应用场景：填满信息 把每个单词表示成一个向量的方法：独热向量 还有其他方法，比如：Word hashing 单词哈希 输入：单词输出：该单词属于哪一类的概率分布 由于输入是文字序列，这就产生了一个问…...
【Qt控件之QButtonGroup】概述及使用
概述 QButtonGroup 类提供了一个容器来组织一组按钮部件。 QButtonGroup 提供了一个抽象容器，可以将按钮部件放置其中。它不提供此容器的可视表示（请参见 QGroupBox，用于容器部件），而是管理组中每个按钮的状态。 一个…...
【开源分享】基于Html开发的房贷计算器，模仿新浪财经
房贷计算器是一种房贷计算的在线计算Web应用，按用户选择的贷款类型、贷款金额、期限、利率可计算得出每月月供参考、支付利息、还款总额这些信息。本文模仿新浪财经开发的房贷计算器。 作品预览 https://fangdai.gitapp.cn 源码地址 https://github.com/geeeeeee…...
ftp文件上传缓慢问题
问题描述 某环境下，通过vsftp上传文件缓慢。 问题分析 这个问题是由于服务器DNS导致，如果在内网机器中，配置了公网的DNS或者其他不能链接的DNS，会导致上传缓慢。 解决方案 目前有两种解决方式，任选其一即可&#…...
【周末闲谈】VR新视界，“眼”见未来
个人主页：【😊个人主页】 系列专栏：【❤️周末闲谈】 系列目录 ✨第一周 二进制VS三进制 ✨第二周 文心一言，模仿还是超越？ ✨第二周 畅想AR 文章目录 系列目录前言虚拟现实(VR)技术虚拟现实技术的原理虚拟现实技术发…...
CSRF和XSS是什么？
CSRF（Cross-site request forgery）：跨站请求伪造。 用户是网站A的注册用户，且登录进去，于是网站A就给用户下发cookie。 满足条件： （1）登录受信任网站A，并在本地生成Cook…...
【Machine Learning】01-Supervised learning
01-Supervised learning 1. 机器学习入门1.1 What is Machine Learning?1.2 Supervised learning1.3 Unsupervised learning 2. Supervised learning2.1 单元线性回归模型2.1.1 Linear Regression Model（线性回归模型）2.1.2 Cost Function（代…...
《视觉 SLAM 十四讲》V2 第 8 讲 视觉里程计2 【如何根据图像 估计 相机运动】【光流 —＞ 直接法】
OpenCV关于 光流的教程 文章目录 第 8 讲 视觉里程计 28.2 光流8.3 实践： LK 光流 【Code】本讲 CMakeLists.txt 8.4 直接法8.5 实践： 双目的稀疏直接法 【Code】8.5.4 直接法的优缺点 习题 8√ 题1 光流方法题2题3题4题5 第 8 讲 视觉里程计 2 P205 …...
Unity DOTS System与SystemGroup概述
最近DOTS终于发布了正式的版本, 我们来分享以下DOTS里面System关键概念，方便大家上手学习掌握Unity DOTS开发。 对惹，这里有一个游戏开发交流小组，希望大家可以点击进来一起交流一下开发经验呀！ System是迭代计算与处理World中的…...
IDEA使用内置database数据库连接mysql报错：javax.net.ssl.SSLHandshakeException
参考一些博客的方式： 使用idea内置database连接数据库报错javax.net.ssl.SSLHandshakeException: No appropriate protocol_idea database ssl_你当像山的博客-CSDN博客 他们的方式是：在url后添加useSSLfalse 介绍另外一种方式： 点击datab…...
从Flink的Kafka消费者看算子联合列表状态的使用
背景 算子的联合列表状态是平时使用的比较少的一种状态，本文通过kafka的消费者实现来看一下怎么使用算子列表联合状态 算子联合列表状态 首先我们看一下算子联合列表状态的在进行故障恢复或者从某个保存点进行扩缩容启动应用时状态的恢复情况 算子联合列表状态主…...
CSS3 按钮
创建 CSS3 按钮可以通过组合样式属性和伪类来实现 <!DOCTYPE html> <html> <head><link rel"stylesheet" type"text/css" href"styles.css"> </head> <body><button class"basic-button">…...
STM32 BootLoader设置
编写bootloader程序： 直接复制下面代码到自己程序中。 typedef void (*iapfun)(void); //定义一个函数类型的参数. iapfun jump2app; //设置栈顶地址 //addr:栈顶地址 __asm void MSR_MSP(u32 addr) {MSR MSP, r0 //set Main Stack valueBX r14 }//跳转到…...
django REST framework-使用与不使用的区别？
首先，来回顾一下传统的基于模板引擎的 django 开发工作流： 绑定 URL 和视图函数。当用户访问某个 URL 时，调用绑定的视图函数进行处理。 编写视图函数的逻辑。视图中通常涉及数据库的操作。 在视图中渲染 HTML 模板，返回 HTTP 响应…...
获取URL中的参数
获取URL中的参数 function getUrlParam(name) {var reg new RegExp("(^|&)" name "([^&]*)(&|$)");var r window.location.search.substr(1).match(reg);if (r ! null)return unescape(r[2]);return null; } 这个正则表达式就是一个URL路…...
一起学数据结构（9）——二叉树的链式存储及相关功能实现
目录 1. 二叉树的链式存储： 2. 二叉树的前序遍历： 3. 二叉树的中序遍历： 4. 二叉树的后序遍历： 5. 统计二叉树的结点总数 6.统计二叉树的叶子结点数： 7. 统计二叉树第层的结点数量： 8. 二叉树的销毁…...
vue 后端返回二进制流-前端通过blob对象下载文件-图片
前言 在实际开发中我们经常会遇见下载文件的场景，比如下载合同，下载文件 下载文件有2种方式，一种是后端返回二进制流，前端通过blob对象接受根据不同类型下载 还有一种把地址直接在浏览器新窗口打开浏览器打开pdf可以预览和下载&…...
vue el-dialog封装成子组件（组件化）
前言 实际开发过程中我们经常听见组件化开发，但在实际开发过程中（没有人审查时）怎么方便来 我们有时是因为时间不够，所以把所有代码写在一个页面。当业务逻辑复杂时可能会有1k多行 虽然不能要求自己写出高效复用性高的组件&…...
爬虫教程 一 requests包的使用
request 简介 requests 是一个常用的 HTTP 请求库，可以方便地向网站发送 HTTP 请求，并获取响应结果。 response.text 和response.content的区别 response.text 类型：str解码类型： requests模块自动根据HTTP 头部对响应的编码作…...
Aria2NG连接aria2-pro提示认证失败的处理办法
本文档适用于已经安装了aria2-pro和AriaNg的小伙伴~ 第一次登录管理端会提示”认证失败“ 这是因为aria设置了密码，需要在设置中配置上密码即可 配置完密码重新加载就可以正常使用啦 下载速度明显比以前快了很多 下载参考文档 Docker安装下载神器aria2并使用过程记…...
JavaSec-RCE
简介 RCE(Remote Code Execution)，可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景：Groovy代码注入 Groovy是一种基于JVM的动态语言，语法简洁，支持闭包、动态类型和Java互操作性，…...
通过Wrangler CLI在worker中创建数据库和表
官方使用文档：Getting started Cloudflare D1 docs 创建数据库 在命令行中执行完成之后，会在本地和远程创建数据库： npx wranglerlatest d1 create prod-d1-tutorial 在cf中就可以看到数据库： 现在，您的Cloudfla…...
【CSS position 属性】static、relative、fixed、absolute 、sticky详细介绍，多层嵌套定位示例
文章目录 ★ position 的五种类型及基本用法 ★ 一、position 属性概述 二、position 的五种类型详解（初学者版） 1. static（默认值） 2. relative（相对定位） 3. absolute（绝对定位） 4. fixed（固定定位） 5. sticky（粘性定位） 三、定位元素的层级关系（z-i…...
linux 错误码总结
1，错误码的概念与作用 在Linux系统中，错误码是系统调用或库函数在执行失败时返回的特定数值，用于指示具体的错误类型。这些错误码通过全局变量errno来存储和传递，errno由操作系统维护，保存最近一次发生的错误信息。值得注意的是，errno的值在每次系统调用或函数调用失败时…...
Keil 中设置 STM32 Flash 和 RAM 地址详解
文章目录 Keil 中设置 STM32 Flash 和 RAM 地址详解一、Flash 和 RAM 配置界面（Target 选项卡）1. IROM1（用于配置 Flash）2. IRAM1（用于配置 RAM）二、链接器设置界面（Linker 选项卡）1. 勾选“Use Memory Layout from Target Dialog”2. 查看链接器参数（如果没有勾选上面…...
工业自动化时代的精准装配革新：迁移科技3D视觉系统如何重塑机器人定位装配
AI3D视觉的工业赋能者 迁移科技成立于2017年，作为行业领先的3D工业相机及视觉系统供应商，累计完成数亿元融资。其核心技术覆盖硬件设计、算法优化及软件集成，通过稳定、易用、高回报的AI3D视觉系统，为汽车、新能源、金属制造等行…...
智能分布式爬虫的数据处理流水线优化：基于深度强化学习的数据质量控制
在数字化浪潮席卷全球的今天，数据已成为企业和研究机构的核心资产。智能分布式爬虫作为高效的数据采集工具，在大规模数据获取中发挥着关键作用。然而，传统的数据处理流水线在面对复杂多变的网络环境和海量异构数据时，常出现数据质…...
Unsafe Fileupload篇补充-木马的详细教程与木马分享（中国蚁剑方式）
在之前的皮卡丘靶场第九期Unsafe Fileupload篇中我们学习了木马的原理并且学了一个简单的木马文件 本期内容是为了更好的为大家解释木马（服务器方面的）的原理，连接，以及各种木马及连接工具的分享 文件木马：https://w…...
【生成模型】视频生成论文调研
工作清单 上游应用方向：控制、速度、时长、高动态、多主体驱动 类型工作基础模型WAN / WAN-VACE / HunyuanVideo控制条件轨迹控制ATI~镜头控制ReCamMaster~多主体驱动Phantom~音频驱动Let Them Talk: Audio-Driven Multi-Person Conversational Video Generation速…...
Vite中定义@软链接
在webpack中可以直接通过符号表示src路径，但是vite中默认不可以。 如何实现： vite中提供了resolve.alias：通过别名在指向一个具体的路径 在vite.config.js中 import { join } from pathexport default defineConfig({plugins: [vue()],//…...