当前位置： 首页 > news >正文

[论文笔记]DSSM

news 2025/7/10 17:00:34

引言

这是DSSM论文的阅读笔记，后续会有一篇文章来复现它并在中文数据集上验证效果。

本文的标题翻译过来就是利用点击数据学习网页搜索中深层结构化语义模型，这篇论文被归类为信息检索，但也可以用来做文本匹配。

这是一篇经典的工作，在DSSM之前，通常使用传统机器学习的方法，比如LSA、LDA来解决。本篇工作使文本匹配进入了深度学习时代。

摘要

在信息检索中要研究的问题是，给定一个查询(query)和一组文档(documents)，返回一个基于匹配度的排序(ranking)文档结果。

作者通过使用DNN将查询和文档映射到一个通用的低维(稠密向量)空间，通过计算该空间中的距离来表示它们的相关性。同时利用词哈希技术解决词表过大问题。

模型的优化策略是，最大化正确标签出现的条件概率，即最小化softmax交叉熵损失。通过不断迭代，希望给定一组query和文档的时候，能最大化地匹配到被点击过的文档的概率。

下面我们直接来看模型的结构。

模型结构

计算语义特征的DNN

image-20230831200632208

如论文中的图1所示，网络的输入是高维稀疏的文本词袋特征词向量(可以理解为ont-hot向量)，比如查询或文档中单词的计数，输出是低维语义空间中的稠密向量。

相关文章：

[论文笔记]DSSM

引言 这是DSSM论文的阅读笔记，后续会有一篇文章来复现它并在中文数据集上验证效果。 本文的标题翻译过来就是利用点击数据学习网页搜索中深层结构化语义模型，这篇论文被归类为信息检索，但也可以用来做文本匹配。 这是一篇经典的工作，在DSSM之前，通常使用传统机器学习的…...

编程日记 2023/9/1 5:44:25

Skip Connection——提高深度神经网络性能的利器

可以参考一下这篇知乎所讲 https://zhuanlan.zhihu.com/p/457590578 长跳跃连接用于将信息从编码器传播到解码器，以恢复在下采样期间丢失的信息...

编程日记 2023/9/1 5:43:25

EXCEL中点击单元格，所在行和列都改变颜色

在日常工作中，尤其是办公室工作人群，尝尝需要处理大量的数据，在对数据进行修改时，时长发生看错行的事情，导致数据越改越乱，因此，我常用的一种方法就是选中单元格时，所在行、列标记为…...

编程日记 2023/9/1 5:42:24

HAProxy（一）

四层负载均衡与七层负载均衡区别 四层负载均衡和七层负载均衡是两种不同的负载均衡方式，主要区别在于负载均衡的层级及其所支持的协议不同。 四层负载均衡，也称为传输层负载均衡，工作在 OSI 模型的传输层（第四层）&am…...

编程日记 2023/9/1 5:41:22

LeetCode--HOT100题（46）

目录 题目描述：114. 二叉树展开为链表（中等）题目接口解题思路代码 PS: 题目描述：114. 二叉树展开为链表（中等） 给你二叉树的根结点 root ，请你将它展开为一个单链表： 展开后的单链…...

编程日记 2023/9/1 5:40:21

深度探索JavaScript中的原型链机制

🏆作者简介，黑夜开发者，全栈领域新星创作者✌，CSDN博客专家，阿里云社区专家博主，2023年6月csdn上海赛道top4。 🏆数年电商行业从业经验，历任核心研发工程师，项目技术负责…...

编程日记 2023/9/1 5:39:21

一种基于WinDump自动抓包实现方法

本发明的技术方案包括以下步骤和组件： 配置抓包参数：设置抓包的IP、端口以及过滤包大小等参数，以控制抓取的数据范围。循环自动抓包：利用WinDump工具实现循环自动抓包功能，类似于记录日志的方式保留抓包数据。当抓包数…...

编程日记 2023/9/1 5:38:19

taro 支付宝/微信小程序/h5 上传 - base64的那些事儿

支付宝小程序临时path转base64 - 基础库2.0以下 function getImageInfo(path) {return new Promise(resolve > {my.getImageInfo({src: path,success: res > {resolve(res)}})}) } export async function getBase64InAlipay({ id, path }) {const { width, height } awa…...

编程日记 2023/9/1 5:37:17

java之SpringBoot基础、前后端项目、MyBatisPlus、MySQL、vue、elementUi

文章目录 前言JC-1.快速上手SpringBootJC-1-1.SpringBoot入门程序制作（一）JC-1-2.SpringBoot入门程序制作（二）JC-1-3.SpringBoot入门程序制作（三）JC-1-4.SpringBoot入门程序制作（四）…...

编程日记 2023/9/1 5:36:16

Vue-Router 一篇搞定 Vue3

前言 在 Web 前端开发中，路由是非常重要的一环，但是路由到底是什么呢？ 从路由的用途上讲 路由是指随着浏览器地址栏的变化，展示给用户不同的页面。 从路由的实现原理上讲 路由是URL到函数的映射。它将 URL 和应用程序的不同部分…...

编程日记 2023/9/1 5:35:14

深度解读智能媒体服务的重组和进化

统一“顶设”的智能媒体服务。 邹娟｜演讲者 大家好，首先欢迎各位来到LVS的阿里云专场，我是来自阿里云视频云的邹娟。我本次分享的主题为《从规模化到全智能：智能媒体服务的重组与进化》。 本次分享分为以上四部分，一是…...

编程日记 2023/9/1 5:34:12

亲测有效！Win7中如何安装高版本的NodeJS

正常情况下，Win7支持的Node.js最高版本是V13.14，但在开发过程中，有不少Vue项目或其他需要依赖Node环境的项目，对Node版本要求都比较高。对此，我们要么重装操作系统到Win8以上，要么就得想办法在Win7中安装高…...

编程日记 2023/9/1 5:33:11

Python基础__with open()用法

1、open与with open区别 open（）完成后必须调用close()方法关闭文件，因为文件对象会占用操作系统的资源，并且操作系统同一时间能打开的文件数量也是有限的，由于文件读写时都有可能产生IOError，一旦出错&…...

编程日记 2023/9/1 5:32:10

深入理解 JavaScript 对象、属性、解构和增强语法

ECMA-262将对象定义为一组属性的无序集合。 1 内部属性描述 1.1 数据属性 [[Configurable]]：可配置性，直接定义在对象的属性该特性默认为true，表示可以对属性进行删除、修改等操作。[[Enumerable]]：可枚举性，直接定…...

编程日记 2023/9/1 5:31:09

2023年IT服务行业研究报告

第一章 行业概况 1.1 定义 IT服务行业是一个广泛的术语，涵盖了所有提供技术支持和服务的公司。这些服务包括系统集成，云计算服务，软件和硬件支持，网络服务，咨询服务，以及一系列其他类型的技术服务。此外&…...

编程日记 2023/9/1 5:30:08

腾讯云服务器镜像TencentOS Server有用过的吗？

腾讯云服务器镜像TencentOS Server操作系统有用过的吗？踩过坑吗？TencentOS性能和稳定性如何？TencentOS Server与CentOS保持兼容，在稳定性、性能、容器基础设施等核心能力方面做了全面的增强和优化，能为企业提供稳定高可…...

编程日记 2023/9/1 5:29:07

小区村庄集中生活废水处理设备厂家直销价格

小区村庄集中生活废水处理设备厂家直销价格 设备的构造 1、填料 该填料选用特制塑料和树脂组成，结构科学、新颖、填料比表面积达1000m2/m3，比重轻0.97g/cm3，不堵塞、易挂膜。 该填料是由纤细球体，网络外壳和通心多孔柱体组成的球形…...

编程日记 2023/9/1 5:28:06

Redisson实现分布式锁案例

Redisson实现分布式锁案例 引入依赖 <dependency><groupId>org.redisson</groupId><artifactId>redisson-spring-boot-starter</artifactId><version>3.23.2</version> </dependency>创建Redisson配置类 Configuration pub…...

编程日记 2023/9/1 5:27:04

Generated Knowledge Prompting for Commonsense Reasoning

本文是知识图谱系列相关的文章&#xff0c;针对《Generated Knowledge Prompting for Commonsense Reasoning》的翻译。 常识推理的生成知识提示 摘要1 引言2 生成知识提示3 实验设置4 实验结果5 相关工作6 结论 摘要 结合外部知识是否有利于常识推理&#xff0c;同时保持预训…...

编程日记 2023/9/1 5:26:02

mybatisPlus多数据源方案

背景 在微服务李娜一般一个服务只有一个数据源&#xff0c;但是在有的老项目或者一些特定场景需要多数据源链接不同的数据库&#xff0c;本文以mybatisPlus为基础给出解决方案 多数据源场景分类 情形一&#xff1a;项目启动就确定了情形一&#xff1a;一些sass系统里面动态确…...

编程日记 2023/9/1 5:25:01

Java 语言特性(面试系列1)

一、面向对象编程 1. 封装&#xff08;Encapsulation&#xff09; 定义&#xff1a;将数据&#xff08;属性&#xff09;和操作数据的方法绑定在一起&#xff0c;通过访问控制符&#xff08;private、protected、public&#xff09;隐藏内部实现细节。示例&#xff1a; public …...

编程新知 2025/7/8 18:56:27

ssc377d修改flash分区大小

1、flash的分区默认分配16M、 / # df -h Filesystem Size Used Available Use% Mounted on /dev/root 1.9M 1.9M 0 100% / /dev/mtdblock4 3.0M...

编程新知 2025/6/18 5:34:10

Docker 运行 Kafka 带 SASL 认证教程

Docker 运行 Kafka 带 SASL 认证教程 Docker 运行 Kafka 带 SASL 认证教程一、说明二、环境准备三、编写 Docker Compose 和 jaas文件docker-compose.yml代码说明&#xff1a;server_jaas.conf 四、启动服务五、验证服务六、连接kafka服务七、总结 Docker 运行 Kafka 带 SASL 认…...

编程新知 2025/7/7 19:48:55

java调用dll出现unsatisfiedLinkError以及JNA和JNI的区别

UnsatisfiedLinkError 在对接硬件设备中&#xff0c;我们会遇到使用 java 调用 dll文件 的情况&#xff0c;此时大概率出现UnsatisfiedLinkError链接错误&#xff0c;原因可能有如下几种 类名错误包名错误方法名参数错误使用 JNI 协议调用&#xff0c;结果 dll 未实现 JNI 协…...

编程新知 2025/7/8 23:48:40

什么是库存周转？如何用进销存系统提高库存周转率？

你可能听说过这样一句话&#xff1a; “利润不是赚出来的&#xff0c;是管出来的。” 尤其是在制造业、批发零售、电商这类“货堆成山”的行业&#xff0c;很多企业看着销售不错&#xff0c;账上却没钱、利润也不见了&#xff0c;一翻库存才发现&#xff1a; 一堆卖不动的旧货…...

编程新知 2025/7/8 7:59:58

【单片机期末】单片机系统设计

主要内容&#xff1a;系统状态机&#xff0c;系统时基&#xff0c;系统需求分析&#xff0c;系统构建&#xff0c;系统状态流图 一、题目要求 二、绘制系统状态流图 题目&#xff1a;根据上述描述绘制系统状态流图&#xff0c;注明状态转移条件及方向。 三、利用定时器产生时…...

编程新知 2025/7/8 18:04:19

在web-view 加载的本地及远程HTML中调用uniapp的API及网页和vue页面是如何通讯的？

uni-app 中 Web-view 与 Vue 页面的通讯机制详解 一、Web-view 简介 Web-view 是 uni-app 提供的一个重要组件&#xff0c;用于在原生应用中加载 HTML 页面&#xff1a; 支持加载本地 HTML 文件支持加载远程 HTML 页面实现 Web 与原生的双向通讯可用于嵌入第三方网页或 H5 应…...

编程新知 2025/6/21 2:45:17

Razor编程中@Html的方法使用大全

文章目录 1. 基础HTML辅助方法1.1 Html.ActionLink()1.2 Html.RouteLink()1.3 Html.Display() / Html.DisplayFor()1.4 Html.Editor() / Html.EditorFor()1.5 Html.Label() / Html.LabelFor()1.6 Html.TextBox() / Html.TextBoxFor() 2. 表单相关辅助方法2.1 Html.BeginForm() …...

编程新知 2025/7/9 2:45:58

jmeter聚合报告中参数详解

sample、average、min、max、90%line、95%line,99%line、Error错误率、吞吐量Thoughput、KB/sec每秒传输的数据量 sample&#xff08;样本数&#xff09; 表示测试中发送的请求数量&#xff0c;即测试执行了多少次请求。 单位&#xff0c;以个或者次数表示。 示例&#xff1a;…...

编程新知 2025/7/8 4:01:50

在树莓派上添加音频输入设备的几种方法

在树莓派上添加音频输入设备可以通过以下步骤完成&#xff0c;具体方法取决于设备类型&#xff08;如USB麦克风、3.5mm接口麦克风或HDMI音频输入&#xff09;。以下是详细指南&#xff1a; 1. 连接音频输入设备 USB麦克风/声卡&#xff1a;直接插入树莓派的USB接口。3.5mm麦克…...

编程新知 2025/7/8 17:49:38