当前位置： 首页 > news >正文

机器学习基础-概率图模型

news 2025/9/17 4:57:59

（一阶）马尔科夫模型的基本概念

状态、状态转换概率、初始概率

状态转移矩阵的基本概念

隐马尔可夫模型（HMM）的基本概念

条件随机场（CRF）的基本概念

实际应用中的马尔科夫性

  • 自然语言处理：

    • 在词性标注、命名实体识别等任务中，句子中的词语通常被视为一个序列，每个词的词性标签只依赖于前后几个词的标签，这可以通过马尔科夫模型来建模。

  • 金融预测：

    • 股票价格走势有时被假设为具有马尔科夫性，即今天的股价变化主要取决于昨天的收盘价，而不是更早的历史数据。

  • 生物信息学：

    • DNA 序列中的碱基排列可以看作是一个马尔科夫链，用于基因预测和功能注释。

HMM和CRF的比较

特性隐马尔科夫模型 (HMM)条件随机场 (CRF)
模型类型生成式模型：建模联合概率 P(X,Y)判别式模型：直接建模条件概率 $P(Y
依赖关系观测值仅依赖于当前隐藏状态；隐藏状态遵循马尔科夫性允许更复杂的依赖结构，包括观测值之间的依赖
特征函数固定特征，主要为状态转移概率和发射概率支持丰富的特征函数，可以捕捉复杂的关系
标记偏置问题容易出现标记偏置问题通过全局优化避免标记偏置
适用场景更适合观测值独立的任务，如语音识别中的音素分类更适用于需要考虑上下文信息的任务，如词性标注、命名实体识别
灵活性与表达能力结构简单，参数较少，数据量有限时可能更稳定提供更高的灵活性和表达能力，但需注意过拟合风险

主题模型（Topic Model）的基本概念

  • 主要用于自然语言处理NLP
  • 样本为文档，特征为词语
  • 用于从众多文档中发现隐藏的语义主题，相当于对文档聚类，并发现不同词语对不同主题的贡献程度
  • 无监督学习

相关文章：

机器学习基础-概率图模型

（一阶）马尔科夫模型的基本概念 状态、状态转换概率、初始概率 状态转移矩阵的基本概念 隐马尔可夫模型（HMM）的基本概念 条件随机场（CRF）的基本概念 实际应用中的马尔科夫性 自然语言处理： 在词性…...

编程日记 2025/1/11 3:46:29

【MySQL】九、表的内外连接

文章目录 前言Ⅰ. 内连接案例：显示SMITH的名字和部门名称 Ⅱ. 外连接1、左外连接案例：查询所有学生的成绩，如果这个学生没有成绩，也要将学生的个人信息显示出来 2、右外连接案例：对stu表和exam表联合查询，把…...

编程日记 2025/1/11 3:43:26

芯片详细讲解，从而区分CPU、MPU、DSP、GPU、FPGA、MCU、SOC、ECU

目录 芯片的概念结构 芯片的派系划分 通用芯片（CPU，MPU，GPU，DSP） 定制芯片（FPGA，ASIC） 芯片之上的集成（MCU，SOC，ECU） 软硬件的匹…...

编程日记 2025/1/11 3:41:25

halcon三维点云数据处理（十）locate_cylinder_3d

目录 一、locate_cylinder_3d例程代码二、gen_binocular_rectification_map函数三、binocular_disparity函数四、自定义函数select_best_candidates五、自定义函数remove_shadowed_regions 一、locate_cylinder_3d例程代码 1、读取或者创建3D形状模型， 2、根据双目…...

编程日记 2025/1/11 3:38:21

vue（2,3）, react (16及以上)开发者工具资源

在前端开发的广阔领域中，Vue.js 和 React.js 作为两大主流框架，各自拥有庞大的用户群体和丰富的生态系统。为了帮助开发者更高效地进行调试和开发，Vue Devtools 和 React 开发者工具应运而生，成为这两个框架不可或缺的辅助工具。本…...

编程日记 2025/1/11 3:35:16

2025年华为OD上机考试真题（Java）——整数对最小和

题目： 给定两个整数数组array1、array2，数组元素按升序排列。假设从array1、array2中分别取出一个元素可构成一对元素，现在需要取出k对元素，并对取出的所有元素求和，计算和的最小值。 注意：两对元素如果对应…...

编程日记 2025/1/11 3:30:09

进程间通信——网络通信——UDP

进程间通信（分类）：网络通信、无名管道、有名管道、信号、消息队列、共享内存、信号量集 OSI七层模型：（理论模型） 应用层 : 要传输的数据信息，如文件传输，电子邮件等 表示层 : 数…...

编程日记 2025/1/11 3:29:08

【我的 PWN 学习手札】IO_FILE 之 FSOP

FSOP：File Stream Oriented Programming 通过劫持 _IO_list_all 指向伪造的 _IO_FILE_plus，进而调用fake IO_FILE 结构体对象中被伪造的vtable指向的恶意函数。 目录 前言 一、glibc-exit函数浅析 二、FSOP 三、Largebin attack FSOP （…...

编程日记 2025/1/11 3:28:07

新兴的开源 AI Agent 智能体全景技术栈

新兴的开源 AI Agent 智能体全景技术栈 LLMs：开源大模型嵌入模型：开源嵌入模型模型的访问和部署：Ollama数据存储和检索：PostgreSQL, pgvector 和 pgai后端：FastAPI前端：NextJS缺失的一环：评估和…...

编程日记 2025/1/11 3:27:05

统计学习方法（第二版） 概率分布学习

本文主要介绍机器学习的概率分布，帮助后续的理解。 定义直接从书上搬的想自己写，但没有定义准确，还浪费事件，作为个人笔记，遇到速查。 目录 一、二点分布（0-1分布、伯努利分布） 二、二项分布…...

编程日记 2025/1/11 3:26:03

淺談Cocos2djs逆向

前言 簡單聊一下cocos2djs手遊的逆向，有任何相關想法歡迎和我討論^^ 一些概念 列出一些個人認為比較有用的概念： Cocos遊戲的兩大開發工具分別是CocosCreator和CocosStudio，區別是前者是cocos2djs專用的開發工具，後者則是coco…...

编程日记 2025/1/11 3:20:59

【ROS2】RViz2加载URDF模型文件

1、RViz2加载URDF模型文件 1）运行RViz2 rviz22）添加组件：RobotModel 3）选择通过文件添加 4）选择URDF文件，此时会报错，需要修改Fixed Frame为map即可 5）因为没有坐标转换，依然会报错，下面尝试解决 2、运行坐标转换节点 1）运行ROS节点：robot_state_publishe...

编程日记 2025/1/11 3:16:56

Unity导入特效，混合模式无效问题

检查spine导出设置与Unity导入设置是否一致 检查Blend Mode Materials是否勾选 检查是否使用导入时产生的对应混合模式的材质，混合模式不适用默认材质 这里选导入时生成的材质...

编程日记 2025/1/11 3:12:52

el-table自定义按钮控制扩展expand

需求：自定义按钮实现表格扩展内容的展开和收起，实现如下： 将type“expand”的表格列的宽度设置为width"1"，让该操作列不展示出来，然后通过ref动态调用组件的内部方法toggleRowExpansion(row, row.expanded)控…...

编程日记 2025/1/11 3:11:51

opencv CV_TM_SQDIFF未定义标识符

opencv CV_TM_SQDIFF未定义标识符 opencv4部分命名发生变换，将CV_WINDOW_AUTOSIZE改为WINDOW_AUTOSIZE；CV_TM_SQDIFF_NORMED改为TM_SQDIFF_NORMED。...

编程日记 2025/1/11 3:09:50

2024acl论文体悟

总结分析归纳 模型架构与训练方法：一些论文关注于改进大语言模型的架构和训练方法，以提高其性能和效率。例如，“Quantized Side Tuning: Fast and Memory-Efficient Tuning of Quantized Large Language Models”提出了一种量化侧调优方法&a…...

编程日记 2025/1/11 3:04:45

【Git原理与使用】版本回退reset 详细介绍、撤销修改、删除文件

目录 一、版本回退 reset 1.1 指令： 1.2 参数说明： 1.3 演示： 二、撤销修改 情况一：对于工作区的代码，还没有 add 情况二：已经 add ，但没有 commit 情况三：已经 add &…...

编程日记 2025/1/11 3:03:43

反规范化带来的数据不一致问题的解决方案

在数据库设计中，规范化（Normalization）和反规范化（Denormalization）是两个相互对立但又不可或缺的概念。规范化旨在消除数据冗余，确保数据的一致性和准确性，但可能会降低查询效率。相反&#xf…...

编程日记 2025/1/11 3:02:41

【Android】直接使用binder的transact来代替aidl接口

aidl提供了binder调用的封装，有的时候，比如： 1. 懒得使用aidl生成的接口文件（确实是懒，Android studio中aidl生成接口文件很方便） 2. 服务端的提供者只公开了部分接口出来，只给了调用编号和参…...

编程日记 2025/1/11 2:59:37

Python机器学习笔记（十八、交互特征与多项式特征）

添加原始数据的交互特征（interaction feature）和多项式特征（polynomial feature）可以丰富特征表示，特别是对于线性模型。这种特征工程可以用统计建模和许多实际的机器学习应用中。 上一次学习：线性模型对w…...

编程日记 2025/1/11 2:48:25

【Python】 -- 趣味代码 - 小恐龙游戏

文章目录 文章目录 00 小恐龙游戏程序设计框架代码结构和功能游戏流程总结01 小恐龙游戏程序设计02 百度网盘地址00 小恐龙游戏程序设计框架 这段代码是一个基于 Pygame 的简易跑酷游戏的完整实现，玩家控制一个角色（龙）躲避障碍物（仙人掌和乌鸦）。以下是代码的详细介绍：…...

编程新知 2025/9/15 5:21:39

3.3.1_1 检错编码（奇偶校验码）

从这节课开始，我们会探讨数据链路层的差错控制功能，差错控制功能的主要目标是要发现并且解决一个帧内部的位错误，我们需要使用特殊的编码技术去发现帧内部的位错误，当我们发现位错误之后，通常来说有两种解决方案。第一…...

编程新知 2025/9/16 21:02:35

sqlserver 根据指定字符 解析拼接字符串

DECLARE LotNo NVARCHAR(50)A,B,C DECLARE xml XML ( SELECT <x> REPLACE(LotNo, ,, </x><x>) </x> ) DECLARE ErrorCode NVARCHAR(50) -- 提取 XML 中的值 SELECT value x.value(., VARCHAR(MAX))…...

编程新知 2025/7/27 1:33:21

2025盘古石杯决赛【手机取证】

前言 第三届盘古石杯国际电子数据取证大赛决赛 最后一题没有解出来&#xff0c;实在找不到&#xff0c;希望有大佬教一下我。 还有就会议时间&#xff0c;我感觉不是图片时间&#xff0c;因为在电脑看到是其他时间用老会议系统开的会。 手机取证 1、分析鸿蒙手机检材&#x…...

编程新知 2025/8/26 5:10:22

自然语言处理——Transformer

自然语言处理——Transformer 自注意力机制多头注意力机制Transformer 虽然循环神经网络可以对具有序列特性的数据非常有效&#xff0c;它能挖掘数据中的时序信息以及语义信息&#xff0c;但是它有一个很大的缺陷——很难并行化。 我们可以考虑用CNN来替代RNN&#xff0c;但是…...

编程新知 2025/8/27 16:29:36

稳定币的深度剖析与展望

一、引言 在当今数字化浪潮席卷全球的时代&#xff0c;加密货币作为一种新兴的金融现象&#xff0c;正以前所未有的速度改变着我们对传统货币和金融体系的认知。然而&#xff0c;加密货币市场的高度波动性却成为了其广泛应用和普及的一大障碍。在这样的背景下&#xff0c;稳定…...

编程新知 2025/7/7 21:48:53

Springboot社区养老保险系统小程序

一、前言 随着我国经济迅速发展&#xff0c;人们对手机的需求越来越大&#xff0c;各种手机软件也都在被广泛应用&#xff0c;但是对于手机进行数据信息管理&#xff0c;对于手机的各种软件也是备受用户的喜爱&#xff0c;社区养老保险系统小程序被用户普遍使用&#xff0c;为方…...

编程新知 2025/9/9 10:09:41

【电力电子】基于STM32F103C8T6单片机双极性SPWM逆变（硬件篇）

本项目是基于 STM32F103C8T6 微控制器的 SPWM（正弦脉宽调制）电源模块，能够生成可调频率和幅值的正弦波交流电源输出。该项目适用于逆变器、UPS电源、变频器等应用场景。 供电电源 输入电压采集 上图为本设计的电源电路，图中 D1 为二极管， 其目的是防止正负极电源反接， …...

编程新知 2025/9/4 9:53:24

【笔记】WSL 中 Rust 安装与测试完整记录

#工作记录 WSL 中 Rust 安装与测试完整记录 1. 运行环境 系统&#xff1a;Ubuntu 24.04 LTS (WSL2)架构&#xff1a;x86_64 (GNU/Linux)Rust 版本&#xff1a;rustc 1.87.0 (2025-05-09)Cargo 版本&#xff1a;cargo 1.87.0 (2025-05-06) 2. 安装 Rust 2.1 使用 Rust 官方安…...

编程新知 2025/9/7 15:02:04

【Redis】笔记｜第8节｜大厂高并发缓存架构实战与优化

缓存架构 代码结构 代码详情 功能点&#xff1a; 多级缓存&#xff0c;先查本地缓存&#xff0c;再查Redis&#xff0c;最后才查数据库热点数据重建逻辑使用分布式锁&#xff0c;二次查询更新缓存采用读写锁提升性能采用Redis的发布订阅机制通知所有实例更新本地缓存适用读多…...

编程新知 2025/9/2 18:28:40