当前位置： 首页 > news >正文

[论文笔记]MacBERT

news 2026/5/13 0:04:45

引言

今天带来MacBERT的阅读笔记。论文题目是 重新审视中文自然语言处理的预训练模型。

本篇主要是探讨中文预训练语言模型在非英文语言中的有效性，然后提出了一种简单而有效的模型，称为MacBERT，它在多个方面改进了RoBERTa，特别是采用纠错型掩码语言模型(MLM as correction,Mac)的掩码策略。

通过实验表明MacBERT在很多NLP任务中能取得SOTA结果。

总体介绍

BERT已经变成NLP领域的新的基础组件。从BERT开始，人们在优化预训练语言模型方面取得了巨大而迅速的进展。比如ERINE1、XLNet2、RoBERTa3、SpanBERT4、ALBERT5、ELECTRA6等。

然而相比我们过去训练词嵌入或其他传统的神经网络，训练基于Transformer的模型没那么容易。比如，训练一个BERT-large，它有330M参数包含24层Transformer，训练起来非常昂贵。虽然很多预训练语言模的变种被提

相关文章：

[论文笔记]MacBERT

引言 今天带来MacBERT的阅读笔记。论文题目是 重新审视中文自然语言处理的预训练模型。 本篇主要是探讨中文预训练语言模型在非英文语言中的有效性，然后提出了一种简单而有效的模型，称为MacBERT，它在多个方面改进了RoBERTa，特别是采用纠错型掩码语言模型(MLM as correcti…...

编程日记 2023/10/1 6:02:13

AI发展目前最大挑战是什么？

影响AI成本的因素包括多个方面： 首先，AI技术的复杂性是其成本高昂的一个重要原因。AI技术需要进行大量数据处理、模型训练和优化，这需要耗费大量的计算资源和时间。同时，AI技术需要高水平的专业人才进行设计、开发和维护&#xf…...

编程日记 2023/10/1 6:01:12

自然语言处理NLP：LTP、SnowNLP、HanLP 常用NLP工具和库对比

文章目录 常见NLP任务常见NLP工具英文NLP工具中文NLP工具 常见NLP任务 Word Segmentation 分词 – Tokenization Stem extraction 词干提取 - Stemming Lexical reduction 词形还原 – Lemmatization Part of Speech Tagging 词性标注 – Parts of Speech Named entity rec…...

编程日记 2023/10/1 5:59:10

百度交易中台之内容分润结算系统架构浅析

作者 | 交易中台团队 导读 随着公司内容生态的蓬勃发展，内容产出方和流量提供方最关注的“收益结算”的工作，也就成为重中之重。本文基于内容分润结算业务为入口，介绍了实现过程中的重难点，比如千万级和百万级数据量下的技术选型和…...

编程日记 2023/10/1 5:58:09

【索引】常见的索引、B+树结构、什么时候需要使用索引、优化索引方法、索引主要的数据结构、聚簇索引、二级索引、创建合适的索引等重点知识汇总

目录 索引的分类 什么时候需要 / 不需要创建索引？ 有什么优化索引的方法 MySQL索引主要使用的两种数据结构是什么 为什么 MySQL 采用 B 树作为索引 聚簇索引和二级索引 根据给定的表，如何创建索引比较好 索引的分类 普通索引：最基本的…...

编程日记 2023/10/1 5:57:08

Egg 封装接口返回信息

中间件封装 代码 const msgArr {"200":成功,"401":token失效 } module.exports (option, app) > {return async function(ctx, next) {try{//成功是返回的信息ctx.emit(code,data,msg)>{console.log(1111,code,data,msg)ctx.body {code,data:dat…...

编程日记 2023/10/1 5:56:07

Android AMS——创建APP进程（五）

接上一篇，在 ActivityTaskSupervisor 中会判断进程是否存在，如果进程不存在，则会创建进程，执行 startProcessAsync() 方法。如果进程存在，则执行 realStartActivityLocked() 方法。在APP 的启动时，进程是不存在的。所以我们先来分析一下进程不存在的情况。 一、创建进程…...

编程日记 2023/10/1 5:55:07

凉鞋的 Unity 笔记 102. 场景层次 与 GameObject 的增删改查

102. 场景层次 与 GameObject 的增删改查 在上一篇，我们完成了 Unity 引擎的 Hello world 输出，并且完成了第一个基本循环： 通过这次基本循环的完成，我们获得了一点点的 Unity 使用经验，这非常重要。 有实践经验后再…...

编程日记 2023/10/1 5:52:03

信息安全：网络安全审计技术原理与应用.

信息安全：网络安全审计技术原理与应用. 网络安全审计是指对网络信息系统的安全相关活动信息进行获取、记录、存储、分析和利用的工作。网络安全审计的作用在于建立“事后“安全保障措施，保存网络安全事件及行为信息，为网络安全事件分析提供线…...

编程日记 2023/10/1 5:49:01

嵌入式Linux应用开发-第十三章APP怎么读取按键值

嵌入式Linux应用开发-第十三章读取按键及按键驱动程序 第十三章 APP怎么读取按键值13.1 妈妈怎么知道孩子醒了13.2 APP读取按键的4种方法13.2.1 查询方式13.2.2 休眠-唤醒方式13.2.3 poll方式13.2.4 异步通知方式13.2.4.1 异步通知的原理：发信号13.2.4.2 应用程序之…...

编程日记 2023/10/1 5:46:59

Web 中间件怎么玩？

本次主要是聊聊关于 web 中间件， 分为如下四个方面 什么是 web 框架中间件 为什么要使用 web 中间件 如何使用及其原理 哪些场景需要使用中间件 开门见山 web 中间件是啥 Web 框架中的中间件主要指的是在 web 请求到具体路由之前或者之后，会经过一个或…...

编程日记 2023/10/1 5:45:58

HMTL知识点系列（4）

目录 1. 在你过去的项目中，你如何解决HTML的布局和样式问题？2. 你能否解释一下HTML的“文档对象模型”（DOM）是什么，以及它的重要性？3. 你有没有经验处理网页的兼容性问题，特别是在不同浏览器之间…...

编程日记 2023/10/1 5:44:57

CFS内网穿透靶场实战

一、简介 不久前做过的靶场。 通过复现CFS三层穿透靶场，让我对漏洞的利用，各种工具的使用以及横向穿透技术有了更深的理解。 一开始nmap探测ip端口,直接用thinkphpv5版本漏洞工具反弹shell，接着利用蚁剑对服务器直接进行控制，留下…...

编程日记 2023/10/1 5:41:56

【RabbitMQ实战】07 3分钟部署一个RabbitMQ集群

一、集群的安装部署 我们还是利用docker来安装RabbitMQ集群。3分钟安装一个集群，开始。 前提条件，docker安装了docker-compose。如果没安装的话，参考这里 docker-compose文件参考bitnami官网：https://github.com/bitnami/contai…...

编程日记 2023/10/1 5:38:53

PS 切片工具 选择切片 切片存储

上文 PS 透视裁剪工具 中 我们简单讲述了透视裁剪工具 今天 我们来讲他后面的切片工具 首先 他的用途还是很多的 例如 你有一个很大的图片 其中包括 轮播 导航 主题内容 但他们都在一个图片上 你就可以用切片工具 将完整的图片切成多个部分 这里 我们选择了切片工具 光标也会…...

编程日记 2023/10/1 5:36:51

Git版本控制系统

概念： 一个免费的 开源 分布式源码仓库，帮助团队维护代码 个人使用 多人联机使用 git安装: 这里直接看大佬的安装 文章 很不错的 git 安装配置https://blog.csdn.net/mukes/article/details/115693833 安装完毕之后： 使用命名git -v查看…...

编程日记 2023/10/1 5:35:50

Element UI搭建首页导航和左侧菜单以及Mock.js和（组件通信）总线的运用

目录 前言 一、Mock.js简介及使用 1.Mock.js简介 1.1.什么是Mock.js 1.2.Mock.js的两大特性 1.3.Mock.js使用的优势 1.4.Mock.js的基本用法 1.5.Mock.js与前端框架的集成 2.Mock.js的使用 2.1安装Mock.js 2.2.引入mockjs 2.3.mockjs使用 2.3.1.定义测试数据文件 2…...

编程日记 2023/10/1 5:32:47

What is an HTTP Flood DDoS attack?

HTTP 洪水攻击是一种针对 Web 和应用程序服务器的第 7 层分布式拒绝服务 （DDoS） 攻击。HTTP 洪水攻击通过使用 HTTP GET 或 HTTP POST 请求执行 DDoS 攻击。这些请求是有效的，并且针对可用资源，因此很难防范 HTTP 洪水攻击。 匿名…...

编程日记 2023/10/1 5:31:46

第 114 场 LeetCode 双周赛题解

A 收集元素的最少操作次数 模拟: 反序遍历数组&#xff0c;用一个集合存当前遍历过的不超过 k k k 的正数 class Solution { public:int minOperations(vector<int> &nums, int k) {unordered_set<int> vis;int n nums.size();int i n - 1;for (;; i--) {if…...

编程日记 2023/10/1 5:30:45

[Java框架] Java常用爬虫框架推荐

Selenium GitHub 截止 2023年9月份 Star数量27.7K Selenium是一款基于浏览器自动化的工具&#xff0c;它可以模拟用户在浏览器上的操作行为&#xff0c;并获取网页上的内容。Selenium支持多种浏览器&#xff0c;可以很好地处理JavaScript生成内容。但是Selenium相较于其他框架而…...

编程日记 2023/10/1 5:29:44

Claude AI代码扩展工具：在IDE中无缝集成智能编程助手

1. 项目概述&#xff1a;一个为Claude AI设计的代码扩展工具最近在折腾AI编程助手的时候&#xff0c;发现了一个挺有意思的项目——dliedke/ClaudeCodeExtension。这玩意儿说白了&#xff0c;就是一个专门为Claude&#xff08;就是Anthropic家那个AI&#xff09;设计的代码扩展…...

编程新知 2026/5/12 22:04:57

C语言-指针二

一. 指针的操作int main() {int a 10 , b 20, c 30;int *p NULL, *q NULL;p &a;//对指针变量p本身进行修改b *p;//*p为右值表示对变量a的读取*p 60;//*p为左值表示通过指向的内存空间对变量a的写入p &c;//p指向的内存空间发生变化b *p;//对c的读取操作*p 70…...

编程新知 2026/5/12 21:16:00

工业通信网络实战：从工业以太网、IO-Link到智能工厂连接架构设计

1. 项目概述&#xff1a;智能工厂的“神经网络”革命如果你最近参观过任何一家现代化的汽车装配线或是消费电子产品的贴片车间&#xff0c;可能会被那些高度协同、几乎无人干预的自动化流程所震撼。机械臂精准地抓取、焊接、组装&#xff0c;AGV小车沿着无形的轨道穿梭运送物料…...

编程新知 2026/5/12 18:33:17

软件测试行业的结构性变化：外包测试正在消失，高端测试供不应求

一个正在被重新定义的职业 如果你是一位在软件测试领域工作了三到五年的从业者&#xff0c;大概率会在某个加班的深夜产生过这样的困惑&#xff1a;为什么招聘网站上“功能测试工程师”的岗位越来越少&#xff0c;薪资也停滞不前&#xff1f;为什么同事群里讨论的不再是如何设…...

编程新知 2026/5/12 18:09:34

Aegon协议：AI内容授权的可信审计架构解析

1. Aegon协议&#xff1a;AI内容授权的可信审计架构在AI内容爆炸式增长的今天&#xff0c;版权合规已成为行业核心痛点。传统授权方案存在三大致命缺陷&#xff1a;一是缺乏可验证的访问记录&#xff0c;二是无法追踪内容在AI处理流水线中的流转&#xff0c;三是移动端完全处于…...

编程新知 2026/5/12 17:16:56

如何给非技术背景的老板汇报技术问题？一个框架搞定

一、为什么你的技术汇报&#xff0c;老板总是听不进去&#xff1f;作为软件测试工程师&#xff0c;你可能经历过这样的场景&#xff1a;你花了一整个周末整理出一份详尽的测试报告&#xff0c;里面涵盖了用例执行率、缺陷分布、严重等级、性能拐点等专业数据。但当你信心满满地…...

编程新知 2026/5/12 16:55:30

IP核验证责任共担模型：从授权方到被授权方的实践策略

1. IP核验证的责任边界&#xff1a;一场持续多年的行业对话在SoC设计领域&#xff0c;IP核的集成与验证从来都不是一个轻松的话题。随着芯片设计复杂度的指数级增长&#xff0c;一个现代SoC中可能集成了数十甚至上百个来自不同供应商的IP核&#xff0c;从处理器、内存控制器到各…...

编程新知 2026/5/12 15:58:24

3款实用论文降重神器，帮你轻松解决重复率难题

对于正在撰写毕业论文或者期刊论文的创作者来说&#xff0c;重复率不达标绝对是最头疼的问题之一。自己手动改了三五遍&#xff0c;重复率还是卡在要求线以上&#xff0c;不仅耽误时间还影响心态&#xff0c;这时候一款好用的降重工具就能帮你省下不少精力。今天我们就以第三方…...

编程新知 2026/5/12 14:55:54

谷歌seo搜索引擎优化教程有吗？资深SEO总结的15个高效提速工具

很多企业主每年在独立站开发上投入超过 10 万人民币&#xff0c;但网站上线半年&#xff0c;每天的自然访问量依然是个位数。面对“谷歌seo搜索引擎优化教程有吗&#xff1f;”这种疑问&#xff0c;行业内的真实情况是&#xff1a;绝大部分公开课都在讲十年前的套路&#xff0c…...

编程新知 2026/5/12 10:18:58

从龟速到极速：如何用trackerslist项目彻底解决BT下载瓶颈

从龟速到极速&#xff1a;如何用trackerslist项目彻底解决BT下载瓶颈 【免费下载链接】trackerslist Updated list of public BitTorrent trackers 项目地址: https://gitcode.com/GitHub_Trending/tr/trackerslist 你是否曾经面对BT下载时那令人沮丧的进度条&#xff1…...

编程新知 2026/5/12 9:55:07