当前位置： 首页 > news >正文

张伟楠动手学强化学习笔记|第一讲（上）

news 2026/2/9 13:55:05

张伟楠动手学强化学习笔记|第一讲（上）

在这里插入图片描述
在这里插入图片描述

人工智能的两种任务类型

  • 预测型任务
    • 有监督学习
    • 无监督学习
  • 决策型任务
    • 强化学习
      在这里插入图片描述

序贯决策(Sequential Decision Making)

智能体序贯地做出一个个决策，并接续看到新的观测，知道最终任务结束
max ⁡ π E π , E n v [ ∑ t = 0 T γ t r ( s t , a t ) ] \max_{\pi} \mathbb{E}_{\pi,Env}[\sum_{t=0}^{T}\gamma^{t}r(s_t,a_t)] πmax​Eπ,Env​[t=0∑T​γtr(st​,at​)]

强化学习的定义

通过交互学习来实现目标的计算方法

在这里插入图片描述

三个方面

  • 感知：可以某种程度上感知环境的状态
  • 动作：可以采取动作来影响状态或者达到目标
  • 目标：随着时间推移最大化累计奖励

交互过程

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

相关文章：

张伟楠动手学强化学习笔记|第一讲（上）

张伟楠动手学强化学习笔记|第一讲（上） 人工智能的两种任务类型 预测型任务 有监督学习无监督学习 决策型任务 强化学习 序贯决策(Sequential Decision Making) 智能体序贯地做出一个个决策，并接续看到新的观测，知道最终任务结…...

编程日记 2024/12/4 8:46:12

python脚本：Word文档批量转PDF格式

读取指定文件夹中的所有 .doc 和 .docx 文件，并利用 Word 软件将它们转换为 PDF 格式，并保存在同一个文件夹中，以源文件命名。 请确保你已经安装了 Microsoft Word，并且在运行脚本时关闭了所有正在运行的 Word 实例。运行该程序时…...

编程日记 2024/12/4 8:45:11

性能测试常见面试问题和答案

一、有没有做过性能测试，具体怎么做的 性能测试是有做过的，不过我们那个项目的性能做得不多，公司要求也不严格。一般SE 给我们相关的性能需求，首先我们需要对性能需求进行场景分析与设计，这里，其实主要就是…...

编程日记 2024/12/4 8:44:07

uniapp进阶技巧：如何优雅地封装request实例

在uniapp开发过程中，合理封装网络请求是提高代码质量和开发效率的关键。本文将介绍一种更为优雅的封装方式，通过创建一个request实例来管理不同类型的HTTP请求。 一、准备工作 在开始封装之前，请确保你的项目中已经安装了uniapp开发环境&…...

编程日记 2024/12/4 8:43:06

实验五、流式视频服务程序mjpg-streamer移植实验

实验日期： 2024 年 10 月 22 日 报告退发 (订正 、 重做) 一、实验目的 1、掌握流式视频服务程序源代码mjpg-streamer的交叉编译方法； 2、掌握在tiny210开发板中运行mjpg-streamer方法； 二、实验内容 1、开启一台烧写了嵌入式Linux系统的…...

编程日记 2024/12/4 8:42:05

(长期更新）《零基础入门 ArcGIS(ArcMap) 》实验三----学校选址与路径规划（超超超详细！！！）

目录 实验三 学校选址与道路规划 3.1 实验内容及目的 3.1.1 实验内容 3.1.2 实验目的 3.2 实验方案 3.3 操作流程 3.3.1 环境设置 3.3.2 地势分析 （1）提取坡度: (2)重分类: 3.3.3 学校点分析 (1)欧氏距离: (2)重分类: 3.3.4 娱乐场所点分析 (1)欧氏距离…...

编程日记 2024/12/4 8:41:04

L16.【LeetCode笔记】前序遍历

目录 1.知识回顾 2.题目 代码模板 3.分析 数组的初始化 malloc开辟的几种方案对比 奇怪的参数returnSize 做法 代码框架 4.代码 提交结果 5.PreOrder函数常见的错误写法 1.知识回顾 106.【C语言】数据结构之二叉树的三种递归遍历方式 2.题目 https://leetcode.…...

编程日记 2024/12/4 8:39:02

泰州榉之乡全托机构探讨：自闭症并非家庭的 “末日”

当提及自闭症时，很多人会担忧地问：自闭症对家庭来说是毁灭性的吗？今天，泰州榉之乡全托机构就来为大家解开这个疑问。 榉之乡大龄自闭症托养机构在江苏、广东、江西等地都有分校，一直致力于为大龄自闭症患者提供专业的支…...

编程日记 2024/12/4 8:37:01

BiGRU：双向门控循环单元在序列处理中的深度探索

一、引言 在当今的人工智能领域，序列数据的处理是一个极为重要的任务，涵盖了自然语言处理、语音识别、时间序列分析等多个关键领域。循环神经网络（RNN）及其衍生结构在处理序列数据方面发挥了重要作用。然而，传统的 RN…...

编程日记 2024/12/4 8:35:58

【vue-router】Vue-router如何实现路由懒加载

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯，先赞后看哦~🎈🎈 🏆 作者简介：景天科技苑 🏆《头衔》：大厂架构师，华为云开发者社区专家博主，…...

编程日记 2024/12/4 8:34:57

Linux网络编程基础

目录 一、网络发展历史和分层 1.1Internet的历史 1.2网络的体系结构 1.2.1OSI模型 1.2.2TCP/IP协议族 1.2.3各层典型协议 1.2.4网络的封包和拆包 二、网络编程的预备知识 2.1Socket 2.1.1概念 2.1.2类型 2.2IP地址 2.3端口号 2.4字节序 一、网络发展历史和分层 …...

编程日记 2024/12/4 8:33:56

MySQL中的幻读问题

1. 什么是幻读？ 幻读是一种数据库事务中可能出现的并发问题，具体表现为：在同一个事务中，前后两次查询的结果集不同，仿佛“幻影”一般，出现了原本不存在的数据。 1.1 具体表现： 现象描述 事务 A…...

编程日记 2024/12/4 8:32:54

AI后端工程师面试题的内容

AI后端工程师面试题主要包括以下几个方面的内容‌： ‌一、技术基础和项目经验‌： ‌1. 微服务架构的理解和应用‌：请描述你对微服务架构的理解，并举例说明一个你参与过的微服务项目，阐述你在该项目中扮演的角色和所承…...

编程日记 2024/12/4 8:31:53

MFC工控项目实例三十五读取数据库数据

点击按钮打开文件夹中的数据文件生成曲线 相关代码 void CSEAL_PRESSUREDlg::OnTesReport() {CFileDialog dlgOpen(TRUE/*TRUE打开，FALSE保存*/,0,0,OFN_NOCHANGEDIR|OFN_FILEMUSTEXIST,"All Files(mdb.*)|*.*||",//文件过滤器NULL);CString mdb_1, m…...

编程日记 2024/12/4 8:30:52

OpenWrt -制作ubifs文件系统的固件

目的 创建一个ubifs为文件系统的镜像 将backup目录中的内容打包成ubifs文件系统。 ubifs的分区定义 ubi-backup.cfg 文件内容如下， [backup] modeubi imagenand-ipq6018-single.img vol_id0 vol_typedynamic vol_namebackup [bkver] modeubi imagebackup.ubifs v…...

编程日记 2024/12/4 8:29:50

C++ - 继承

继承的基本概念 继承就是一种代码的复用. 子类通过继承父类, 就能使用父类的变量, 方法. 学生和老师这两种身份, 他们都有共同的属性: 他们都有名称, 年龄, 性别 .... 当然他们也有各种独有的属性, 学生有学号, 老师有工号 .... 对于这些共有的属性, 我们可以将它们提取出来: …...

编程日记 2024/12/4 8:26:47

华为服务器使用U盘重装系统

一、准备工作 下载官方系统（注意服务器CPU的架构是x86-64还是aarch64，不然可能报意想不到的错）制作启动U盘（下载rufus制作工具，注意文件系统选FAT32还是NTFS） 二、安装步骤 将U盘插入USB接口重启服务器…...

编程日记 2024/12/4 8:24:44

网络分层模型（ OSI、TCP/IP、五层协议）

1、网络分层模型 计算机网络是一个极其复杂的系统。想象一下最简单的情况：两台连接在网络上的计算机需要相互传输文件。不仅需要确保存在一条传输数据的通路，还需要完成以下几项工作： 发起通信的计算机必须激活数据通路，这包括发…...

编程日记 2024/12/4 8:22:42

前端开发 之 15个页面加载特效上【附完整源码】

文章目录 一：彩球环绕加载特效1.效果展示2.HTML完整代码 二：跷跷板加载特效1.效果展示2.HTML完整代码 三：两个圆形加载特效1.效果展示2.HTML完整代码 四：半环加载特效1.效果展示2.HTML完整代码 五：音乐波动加载特效1.效…...

编程日记 2024/12/4 8:21:41

Spring Boot使用JDK 21虚拟线程

JDK 21引入的虚拟线程（Virtual Threads）是 Project Loom 的一部分，旨在显著简化并发编程并提高 Java 应用的可扩展性。以下是虚拟线程的主要特点： 1. 概念 虚拟线程是轻量级线程，与传统的操作系统线程不同&#xff0…...

编程日记 2024/12/4 8:19:38

synchronized 学习

学习源： https://www.bilibili.com/video/BV1aJ411V763?spm_id_from333.788.videopod.episodes&vd_source32e1c41a9370911ab06d12fbc36c4ebc 1.应用场景 不超卖，也要考虑性能问题（场景） 2.常见面试问题： sync出…...

编程新知 2025/12/14 17:38:17

Xshell远程连接Kali（默认 | 私钥）Note版

前言:xshell远程连接，私钥连接和常规默认连接 任务一 开启ssh服务 service ssh status //查看ssh服务状态 service ssh start //开启ssh服务 update-rc.d ssh enable //开启自启动ssh服务 任务二 修改配置文件 vi /etc/ssh/ssh_config //第一…...

编程新知 2026/1/28 2:18:42

LeetCode - 394. 字符串解码

题目 394. 字符串解码 - 力扣（LeetCode） 思路 使用两个栈：一个存储重复次数，一个存储字符串 遍历输入字符串： 数字处理：遇到数字时，累积计算重复次数左括号处理：保存当前状态&a…...

编程新知 2026/1/25 10:09:59

2024年赣州旅游投资集团社会招聘笔试真

2024年赣州旅游投资集团社会招聘笔试真 题 ( 满 分 1 0 0 分 时 间 1 2 0 分 钟 ) 一、单选题(每题只有一个正确答案，答错、不答或多答均不得分) 1.纪要的特点不包括()。 A.概括重点 B.指导传达 C. 客观纪实 D.有言必录 【答案】: D 2.1864年，()预言了电磁波的存在，并指出…...

编程新知 2025/12/10 4:08:53

ElasticSearch搜索引擎之倒排索引及其底层算法

文章目录 一、搜索引擎1、什么是搜索引擎？2、搜索引擎的分类3、常用的搜索引擎4、搜索引擎的特点二、倒排索引1、简介2、为什么倒排索引不用B+树1.创建时间长，文件大。2.其次，树深，IO次数可怕。3.索引可能会失效。4.精准度差。三. 倒排索引四、算法1、Term Index的算法2、 …...

编程新知 2026/1/30 17:10:19

ABAP设计模式之---“简单设计原则(Simple Design)”

“Simple Design”（简单设计）是软件开发中的一个重要理念，倡导以最简单的方式实现软件功能，以确保代码清晰易懂、易维护，并在项目需求变化时能够快速适应。 其核心目标是避免复杂和过度设计，遵循“让事情保…...

编程新知 2026/1/27 18:13:23

AI病理诊断七剑下天山，医疗未来触手可及

一、病理诊断困局：刀尖上的医学艺术 1.1 金标准背后的隐痛 病理诊断被誉为"诊断的诊断"，医生需通过显微镜观察组织切片，在细胞迷宫中捕捉癌变信号。某省病理质控报告显示，基层医院误诊率达12%-15%，专家会诊…...

编程新知 2026/2/6 20:53:34

保姆级教程：在无网络无显卡的Windows电脑的vscode本地部署deepseek

文章目录 1 前言2 部署流程2.1 准备工作2.2 Ollama2.2.1 使用有网络的电脑下载Ollama2.2.2 安装Ollama（有网络的电脑）2.2.3 安装Ollama（无网络的电脑）2.2.4 安装验证2.2.5 修改大模型安装位置2.2.6 下载Deepseek模型 2.3 将deepse…...

编程新知 2026/2/6 16:59:24

算法：模拟

1.替换所有的问号 1576. 替换所有的问号 - 力扣（LeetCode） ​遍历字符串​：通过外层循环逐一检查每个字符。​遇到 ? 时处理​： 内层循环遍历小写字母（a 到 z）。对每个字母检查是否满足： ​与…...

编程新知 2026/1/25 10:01:01

云原生安全实战：API网关Kong的鉴权与限流详解

🔥「炎码工坊」技术弹药已装填！ 点击关注 → 解锁工业级干货【工具实测|项目避坑|源码燃烧指南】 一、基础概念 1. API网关（API Gateway） API网关是微服务架构中的核心组件，负责统一管理所有API的流量入口。它像一座…...

编程新知 2026/2/1 6:24:16