多语言LLM的状态：超越英语
多语言大语言模型的发展现状：超越英语
引言
据微软研究院的数据显示，世界上大约88%的语言，即12亿人的母语，缺乏对大型语言模型（LLM）的访问。这是因为大多数LLM都是以英语为中心的，即它们大多是用英语数据构建的，并且面向英语使用者。这种英语的主导地位也存在于LLM的开发中，导致了数字语言鸿沟，可能使大多数人无法享受到LLM的好处。为了解决这个问题，我们需要一个可以在不同语言中训练并执行不同语言任务的LLM。这就是多语言LLM的诞生！
什么是多语言LLM？
多语言LLM可以理解并生成多种语言的文本。它们是在包含不同语言的语料库上训练的，并可以从用户的提示中接受多种语言的任务。
多语言LLM的应用非常广泛，包括将文学作品翻译成当地方言、实时多语言交流、多语言内容创作等。它们可以帮助每个人轻松地获取信息并相互交流，无论他们的语言是什么。
此外，多语言LLM还解决了缺乏文化细微差别和上下文、训练数据限制以及翻译过程中可能丢失的知识等问题。
多语言LLM是如何工作的？
构建一个多语言LLM需要仔细准备各种语言的平衡语料库，并选择一个适合训练模型的架构和训练技术，最好是变压器模型，这对多语言学习非常完美。
一种技术是共享嵌入，它捕捉不同语言中单词的语义意义。这使得LLM学会每种语言的相似性和差异性，从而更好地理解不同的语言。
这种知识也使LLM能够适应各种语言任务，如翻译语言、用不同风格写作等。另一种使用的技术是跨语言迁移学习，其中模型在特定任务上进行微调之前，先在一个大的多语言语料库上进行预训练。
这个两步过程确保了模型在多语言语言理解方面有坚实的基础，使其能够适应各种下游应用。
多语言大语言模型的例子
有几个值得注意的多语言LLM的例子，每个都满足特定的语言需求和文
相关文章：
多语言LLM的状态：超越英语
多语言大语言模型的发展现状：超越英语 引言 据微软研究院的数据显示，世界上大约88%的语言，即12亿人的母语，缺乏对大型语言模型（LLM）的访问。这是因为大多数LLM都是以英语为中心的，即它们大多是…...
kafka什么情况下会认为发送失败进而去重试
在Kafka中，发送消息的过程是异步的，即消息后不会立即得到发送结果。Kafka会将消息添加到发送缓冲区，并立即返回一个成功的响应。因此，Kafka并不会直接知道消息是否成功发送到了目标主题的分区。 Kafka在以下情况下会认为发送失败…...
不满足软件包要求‘transformers==4.30.2‘, ‘sse-starlette
transformers4.30.2支持的SSE-Starlette版本是0.14.0...
C# 设置AutoScroll为true没效果的原因分析和解决办法
C#中添加tabControl 分页，将autoscroll设置为true发现缩小窗口没有滚动条效果。该问题出现后，检索发现也有很多人询问了该问题，但是都没有给出解决方案。 原因是内部button的属性Anchor设置为top、left、right、bottom导致的缩小界面窗口也没…...
＜Senior High School Math＞: inequality question
( 1 ) . o m i t (1). omit (1).omit ( 2 ) . ( a 2 − b 2 ) ( x 2 a 2 − y 2 b 2 ) ( x 2 y 2 ) − ( a 2 y 2 b 2 b 2 x 2 a 2 ) ≤ x 2 y 2 − 2 x y ( x − y ) 2 (2). (a^2-b^2)(\frac{x^2}{a^2} - \frac{y^2}{b^2})(x^2y^2)-(\frac{a^2y^2}{b^2}\frac{b^2x^2}{a^…...
详解Python中Pytest和Unittest的区别
昨天在群里面，有两个新手的小伙伴提问：Pytest 和 Unittest是Python中属于最常用的两个测试框架。那么他们有些什么区别呢？ Playwright 为什么只给了Pytest的深度支持，而不是Unittest呢？ 这是个好问题， 田辛…...
零基础入门多媒体音频（1）-音频基础
声音的本质是波动，波形图能直观体现声音的特征。我们常用于描述音频的属性有下面这些： 1.采样率：声音中每秒包含的采样点个数。 2.位宽：每个采样点需要多少个bit进行存储。 3.声道数：声音进行回放需要喇叭的个数。 4.频…...
40 道高频 C++ 面试、笔试题及答案
1. 什么是多态？ 答案： 多态允许对象在运行时表现出不同的行为，具体取决于其类型。 2. 虚函数和纯虚函数之间的区别是什么？ 答案： 虚函数可以被派生类重写，而纯虚函数必须被派生类实现，否则派生…...
【07】进阶html5
HTML5 包含两个部分的更新，分别是文档和web api 文档 HTML5 元素表 元素语义化 元素语义化是指每个 HTML 元素都代表着某种含义，在开发中应该根据元素含义选择元素 元素语义化的好处： 利于 SEO（搜索引擎优化）利于无障碍访问利于浏览器的插件分析网页新增元素 多媒体…...
Linux|centos7|postgresql数据库|yum和编译方式安装总结（全系版本）
一、 yum方式安装postgresql 这个是官方的yum源，包括postgresql的开发包，lib库什么的，很齐全，关键是包括pgbackrest yum install -y https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-la…...
C++提高笔记（五）---STL容器（set/multiset、map/multimap）
1、set / multiset容器 1.1set基本概念 简介：所有元素都会在插入时自动被排序 本质：set和multiset属于关联式容器，底层结构是用二叉树实现 set和multiset区别： set不允许容器中有重复的元素 multiset允许容器中有重复的元素 …...
详解main函数参数argc、argv及如何传参
目录 1、main()函数参数 2、main函数如何传参 2.1 环境准备 2.2 通过 Powershell 窗口传参 2.3 通过vs界面传参 3、int main() 和 int main(int argc, char *argv[]) 特点 1、main()函数参数 在C语言中，main函数可以带参数。main函数的原型通常为以下两种形式…...
解释什么是Web组件化开发及其优势
解释什么是Web组件化开发及其优势 Web组件化开发，是一种将Web应用的界面和功能拆分为独立、可复用的组件的开发方法。这种方法的核心思想是将大型、复杂的Web应用拆分为一系列小型、功能单一的组件，每个组件都负责处理特定的业务逻辑或界面表现。通过组…...
那些场景需要额外注意线程安全问题
主要学习那些场景需要额外注意线程安全问题，在这里总结了四中场景。 访问共享变量或资源 第一种场景是访问共享变量或共享资源的时候，典型的场景有访问共享对象的属性，访问static静态变量，访问共享的缓存，等等。因为…...
（C语言）球球大作战
前言： 这款简易版的球球大作战是一款单人游戏，玩家需要控制一个小球在地图上移动，吞噬其他小球来增大自己的体积。本游戏使用C语言和easyx图形库编写，旨在帮助初学者了解游戏开发的基本概念和技巧。 在开始编写代码之前…...
高级数据结构 ＜AVL树＞
本文已收录至《数据结构(C/C语言)》专栏！ 作者：ARMCSKGT 目录 前言正文AVL树的性质AVL树的定义AVL树的插入函数左单旋右单旋右左双旋左右双旋 检验AVL树的合法性关于AVL树 最后 前言 前面我们学习了二叉树，普通的二叉树没有任何特殊性质&…...
在springboot中利用Redis实现延迟队列
文章目录 前言一、基本思路二、springboot实现案例三、测试总结 前言 在开发过程中，有很多场景都需要用到延迟队列来解决。目前支持延迟队列的中间件也不少，特别是基于JMS模式下的消息中间件基本上都支持延迟队列。但是有时我们项目规模可能比较小&…...
UpGrow评论：AI能将我的Instagram粉丝数增加10倍吗？
UpGrow Review: Can AI Grow My Instagram Followers 10X? 概述 UpGrow是一款专注于Instagram增长的AI驱动型社交媒体工具。它通过其庞大的300多人的网络，先进的定位功能，实时分析以及卓越的客户服务，帮助用户有机地增长Instagram关注者。…...
申请软著提交的演示视频有什么要求
申请软件著作权时，演示视频是一个重要的材料，主要用于展示软件的功能和操作流程。演示视频的要求可能会根据不同的申请机构和项目有所不同，但一般来说，以下是几个常见的要求： 内容完整性：演示视频需要展示…...
mac【启动elasticsearch报错：can not run elasticsearch as root
mac【启动elasticsearch报错：can not run elasticsearch as root 问题原因 es默认不能用root用户启动，生产环境建议为elasticsearch创建用户。 解决方案 为elaticsearch创建用户并赋予相应权限。 尝试了以下命令创建用户，adduser esh 和u…...
[特殊字符] 智能合约中的数据是如何在区块链中保持一致的？
🧠 智能合约中的数据是如何在区块链中保持一致的？ 为什么所有区块链节点都能得出相同结果？合约调用这么复杂，状态真能保持一致吗？本篇带你从底层视角理解“状态一致性”的真相。 一、智能合约的数据存储在哪里…...
。】2022-5-15)
【根据当天日期输出明天的日期(需对闰年做判定)。】2022-5-15
缘由根据当天日期输出明天的日期(需对闰年做判定)。日期类型结构体如下： struct data{ int year; int month; int day;};-编程语言-CSDN问答 struct mdata{ int year; int month; int day; }mdata; int 天数(int year, int month) {switch (month){case 1: case 3:…...
DAY 47
三、通道注意力 3.1 通道注意力的定义 # 新增：通道注意力模块（SE模块） class ChannelAttention(nn.Module):"""通道注意力模块(Squeeze-and-Excitation)"""def __init__(self, in_channels, reduction_rat…...
1.3 VSCode安装与环境配置
进入网址Visual Studio Code - Code Editing. Redefined下载.deb文件，然后打开终端，进入下载文件夹，键入命令 sudo dpkg -i code_1.100.3-1748872405_amd64.deb 在终端键入命令code即启动vscode 需要安装插件列表 1.Chinese简化 2.ros …...
P3 QT项目----记事本（3.8）
3.8 记事本项目总结 项目源码 1.main.cpp #include "widget.h" #include <QApplication> int main(int argc, char *argv[]) {QApplication a(argc, argv);Widget w;w.show();return a.exec(); } 2.widget.cpp #include "widget.h" #include &q…...
关于 WASM：1. WASM 基础原理
一、WASM 简介 1.1 WebAssembly 是什么？ WebAssembly（WASM） 是一种能在现代浏览器中高效运行的二进制指令格式，它不是传统的编程语言，而是一种 低级字节码格式，可由高级语言（如 C、C、Rust&am…...
Spring Cloud Gateway 中自定义验证码接口返回 404 的排查与解决
Spring Cloud Gateway 中自定义验证码接口返回 404 的排查与解决 问题背景 在一个基于 Spring Cloud Gateway WebFlux 构建的微服务项目中，新增了一个本地验证码接口 /code，使用函数式路由（RouterFunction）和 Hutool 的 Circle…...
)
Typeerror: cannot read properties of undefined (reading ‘XXX‘)
最近需要在离线机器上运行软件，所以得把软件用docker打包起来，大部分功能都没问题，出了一个奇怪的事情。同样的代码，在本机上用vscode可以运行起来，但是打包之后在docker里出现了问题。使用的是dialog组件，…...
视觉slam十四讲实践部分记录——ch2、ch3
ch2 一、使用g++编译.cpp为可执行文件并运行(P30) g++ helloSLAM.cpp ./a.out运行 二、使用cmake编译 mkdir build cd build cmake .. makeCMakeCache.txt 文件仍然指向旧的目录。这表明在源代码目录中可能还存在旧的 CMakeCache.txt 文件，或者在构建过程中仍然引用了旧的路…...
Git 3天2K星标：Datawhale 的 Happy-LLM 项目介绍（附教程）
引言 在人工智能飞速发展的今天，大语言模型（Large Language Models, LLMs）已成为技术领域的焦点。从智能写作到代码生成，LLM 的应用场景不断扩展，深刻改变了我们的工作和生活方式。然而，理解这些模型的内部…...