[论文笔记]Poly-encoder
引言
本文是Poly-encoder1的阅读笔记，论文题目为基于预训练模型的快速准确多句评分模型。
也是本系列第一篇基于Transformer架构的模型，对于进行句子对之间比较的任务，有两种常用的途经：Cross-encoder在句子对上进行交互完全自注意力；Bi-encoder单独地编码不同的句子。前者通常表现更好，但实际中太慢。
本篇工作提出了一种新的Transformer架构，Ploy-encoder，学习了全局而不是标记级自注意特征。Poly-encoder比Cross-encoder快，比Bi-encoder好。
总体介绍
对于句子对比较任务来说，有两种常用的途径：Cross-encoder和Bi-encoder。
Cross-encoder基于给定的输入句子和标签句子(组成一个句子对，将它们拼接在一起作为输入)进行交叉自注意，通常能获得较高的准确率，但速度较慢。
而Bi-encoder单独地对句子对中的句子进行自注意，分别得到句子编码。由于这种独立性，Bi-encoder可以对候选句子进行缓存，从而在推理时只需要计算输入句子的编码表示即可，大大加快推理速度。但是表现没有Cross-encoder好。
本文作者提出了一种新的Transformer结构，Poly-encoder，学习全局级而不是单词级的自注意特征。
Poly-encoder比Cross-encoder快，同时比Bi-encoder更准确。
相关工作
作者称Bi-encoder的方法为单独映射输入和候
相关文章：
[论文笔记]Poly-encoder
引言 本文是Poly-encoder1的阅读笔记，论文题目为基于预训练模型的快速准确多句评分模型。 也是本系列第一篇基于Transformer架构的模型，对于进行句子对之间比较的任务，有两种常用的途经：Cross-encoder在句子对上进行交互完全自注意力；Bi-encoder单独地编码不同的句子。前…...
vs2022中配置PCL1.13.1（附带提供属性表.props文件）
1.下载安装配置PCL环境（略） 2.vs2022相关配置（第一次配置时，不想手动配置的，直接看第3条，用我的.props属性表直接导入即可。） 1）新建一个C项目，右击项目，选择…...
基于共生生物优化的BP神经网络（分类应用） - 附代码
基于共生生物优化的BP神经网络（分类应用） - 附代码 文章目录 基于共生生物优化的BP神经网络（分类应用） - 附代码1.鸢尾花iris数据介绍2.数据集整理3.共生生物优化BP神经网络3.1 BP神经网络参数设置3.2 共生生物算法应用 4.测试结果…...
GIN框架路由的实现原理
文章目录 首先回顾一下gin框架的路由如何使用的从源码分析一下gin框架gin的路由实现前缀树前缀树的实现压缩前缀树--Radix TrieTrie VS Map 首先回顾一下gin框架的路由如何使用的 package mainimport ("fmt""github.com/gin-gonic/gin""net/http&quo…...
Android Studio版本升级后的问题 gradle降级、jdk升级
Cannot use TaskAction annotation on method IncrementalTask.taskAction$gradle_core() because interface org.gradle.api.tasks.incremental.IncrementalTaskInputs is not a valid parameter to an action method. 修改下面两处地方分别为7.0.3、7.3.3Android Gradle plu…...
浏览器插件开发爬虫记录
常用爬虫有各种各样的反爬限制，而如果是小数据量并且该网站反爬手段非常厉害的前提下，可以考虑使用浏览器插件作为爬虫手段 基本代码来源于这位博主分享的插件代码， 主要在他的基础上加了 请求代理、管理面板、脚本注入拦截到的请求数据和管…...
万万没想到，我用文心一言开发了一个儿童小玩具
最近关注到一年一度的百度世界大会今年将于10月17日在北京首钢园举办，本期大会的主题是“生成未来（PROMPT THE WORLD）”。会上，李彦宏会做主题为「手把手教你做AI原生应用」的演讲，比较期待 Robin 会怎么展示。据说&am…...
SQL sever中的视图
目录 一、视图概述： 二、视图好处 三、创建视图 法一： 法二： 四、查看视图信息 五、视图插入数据 六、视图修改数据 七、视图删除数据 八、删除视图 法一： 法二： 一、视图概述： 视图是一种常用…...
如何理解数据序列化
数据序列化是一个将数据结构或对象状态转换为一个可以存储或传输的格式的过程。序列化后的数据可以存放在文件中、数据库中或通过网络传输。反序列化是将序列化数据恢复为原始数据结构或对象的过程。 数据序列化格式可以理解为一种约定或规范，它定义了如何表示和编码数据以便…...
07_项目开发_用户信息列表
1 用户信息列表内容展示 用户信息列表，主要完成用户信息的添加、删除、修改和查找功能。 用户列表页面效果： 单击“添加用户”按钮，进入添加用户页面。 填写正确的信息后，单击“添加用户”按钮，会直接跳转到用户列表…...
flutter ios打包
在 Flutter 中打包 iOS 应用程序分为两步： 生成 iOS 项目文件 在 Flutter 项目根目录下执行以下命令： flutter create --ios-language swift .这个命令会在当前目录下生成 iOS 项目文件，并且默认使用 Swift 语言编写。 使用 Xcode 打包 …...
【无公网IP内网穿透】基于NATAPP搭建Web站点
🎉🎉欢迎来到我的CSDN主页！🎉🎉 🏅我是Java方文山，一个在CSDN分享笔记的博主。📚📚 🌟推荐给大家我的专栏《.内网穿透》。🎯🎯 &#…...
智能AI创作系统ChatGPT详细搭建教程/AI绘画系统/支持GPT联网提问/支持Prompt应用/支持国内AI模型
一、智能AI创作系统 SparkAi创作系统是基于OpenAI很火的ChatGPT进行开发的Ai智能问答系统，支持OpenAI GPT全模型国内AI全模型。本期针对源码系统整体测试下来非常完美，可以说SparkAi是目前国内一款的ChatGPT对接OpenAI软件系统。那么如何搭建部署AI创作…...
【技能树笔记】网络篇——练习题解析（五）
目录 前言 一、应用层的作用 1.1 应用层的作用 二、HTTP协议 2.1 HTTP协议 三、FTP协议 3.1 FTP协议 四、DNS协议 4.1 DNS协议 五、DHCP协议 5.1 DHCP协议 六、邮件协议 6.1 电子邮件协议 总结 前言 本篇文章给出了CSDN网络技能树中的部分练习题解析，…...
Java集合（二）--- 集合元素的遍历操作Iterator以及foreach
文章目录 一、使用迭代器Iterator接口1.说明2.代码 二、foreach循环，用于遍历集合、数组 提示：以下是本篇文章正文内容，下面案例可供参考 一、使用迭代器Iterator接口 1.说明 1.内部的方法: hasNext() 和 next() 2.集合对象每次调iterator…...
数据结构：排序- 插入排序(插入排序and希尔排序) , 选择排序(选择排序and堆排序) , 交换排序(冒泡排序and快速排序) , 归并排序
目录 前言 复杂度总结 预备代码 插入排序 1.直接插入排序: 时间复杂度O(N^2) \空间复杂度O(1) 复杂度（空间/时间）： 2.希尔排序： 时间复杂度 O(N^1.3~ N^2） 空间复杂度为O(1) 复杂度（空间/时间&#…...
IOT 围炉札记
文章目录 一、蓝牙二、PAN1080三、IOT OS四、通讯 一、蓝牙 树莓派上的蓝牙协议 BlueZ 官网 BlueZ 官方 Linux Bluetooth 栈 oschina 二、PAN1080 pan1080 文档 三、IOT OS Zephyr 官网 Zephyr oschina Zephyr github Zephyr docs 第1章 Zephyr简介 第2章 Zephyr 编译环…...
小谈设计模式（24）—命令模式
小谈设计模式（24）—命令模式 专栏介绍专栏地址专栏介绍 命令模式角色分析命令（Command）具体命令（ConcreteCommand）接收者（Receiver）调用者（Invoker）客户端&am…...
9.HTML
文章目录 1.HTML 常见标签1.1注释标签1.2标题标签: h1-h61.3段落标签: p1.4换行标签: br1.5综合案例: 展示博客1.6格式化标签1.7图片标签: img1.8超链接标签: a1.9综合案例: 展示博客21.10表格标签1.10.1基本使用1.10.2合并单元格 1.11列表标签1.12表单标签1.13无语义标签: div…...
分层强化学习 综述论文阅读 Hierarchical Reinforcement Learning: A Comprehensive Survey
分层强化学习 综述论文阅读 Hierarchical Reinforcement Learning: A Comprehensive Survey 摘要一、介绍二、基础知识回顾2.1 强化学习2.2 分层强化学习2.2.1 子任务符号2.2.2 基于半马尔可夫决策过程的HRL符号 2.3 通用项定义 三、分层强化学习方法3.1 学习分层策略 (LHP)3.1…...
TensorFlow入门(十五、数据读取机制(2))
使用Dataset创建和读取数据集,作为TensorFlow模型创建输入管道的新方式,使用性能比使用feed_dict或队列式管道的性能高很多,使用也更加简洁容易。也是google强烈推荐的数据读取方式,对于TensorFlow而言,十分重要。 Dataset是什么? Dataset的定义 : 它是一个含有相同类型元素且…...
Linux系统中实现便捷运维管理和远程访问的1Panel部署方法
文章目录 前言1. Linux 安装1Panel2. 安装cpolar内网穿透3. 配置1Panel公网访问地址4. 公网远程访问1Panel管理界面5. 固定1Panel公网地址 前言 1Panel 是一个现代化、开源的 Linux 服务器运维管理面板。高效管理,通过 Web 端轻松管理 Linux 服务器，包括主机监控、…...
Rancher清理节点
本节介绍如何从一个 Rancher 创建的 Kubernetes 集群中断开一个节点，并从该节点中删除所有 Kubernetes 组件。此过程允许您将释放节点资源，将节点用于其他用途。 当您使用 Rancher 创建集群节点 时，将创建资源(容器/虚拟网络接口)和配置项(证…...
C++-Mongoose(1)-http-server
Mongoose is a network library for C/C. It implements event-driven non-blocking APIs for TCP, UDP, HTTP, WebSocket, MQTT. mongoose很小巧，只有两个文件mongoose.h/cpp，拿来就可以用. 下载地址： https://github.com/cesanta/mongoo…...
Linux中openvswitch配置网桥详解
以下是对给出的命令进行逐行解释和注释： # 安装openvswitch软件包，并自动确认所有提示信息使用默认值（-y参数） dnf install openvswitch -y# 启动openvswitch服务 systemctl start openvswitch# 设置openvswitch服务开机启动 sys…...
Python自动化测试框架pytest的详解安装与运行
这篇文章主要为大家介绍了Python自动化测试框架pytest的简介以及安装与运行，有需要的朋友可以借鉴参考下希望能够有所帮助，祝大家多多进步 1. pytest的介绍 pytest是一个非常成熟的全功能的python测试工具，它主要有以下特征： 简…...
23种设计模式详解
设计模式的分类 总体来说设计模式分为三大类： 创建型模式，共五种：工厂方法模式、抽象工厂模式、单例模式、建造者模式、原型模式。 结构型模式，共七种：适配器模式、装饰器模式、代理模式、外观模式、桥接模式、组合模…...
微信小程序案例：2-2本地生活
文章目录 一、实现步骤（一）创建项目（二）创建页面（三）准备图片素材（四）编写页面结构1、编写轮播区域页面结构2、编写九宫格区域页面结构 （五）编写页面样式1、编…...
机器学习论文中常用的数学符号以及Latex
A数据集：通常用 D A \mathcal{D}_A DA表示。 B数据集：通常用 D B \mathcal{D}_B DB表示。 C数据集：通常用 D C \mathcal{D}_C DC表示。 在机器学习中，损失函数通常用 L L L表示，即： L ( θ , D ) …...
【iOS】Fastlane一键打包上传到TestFlight、蒲公英
Fastlane一键打包上传到TestFlight、蒲公英 前言一、准备二、探索一、Fastlane配置1、Fastlane安装2、Fastlane更新3、Fastlane卸载4、查看Fastlane版本5、查看Fastlane位置6、Fastlane初始化 二、Fastlane安装蒲公英插件三、Fastlane文件编辑1、Gemfile文件2、Appfile文件3、F…...