【论文阅读】Resource Allocation for Text Semantic Communications

这是一篇关于语义通信中资源分配的论文。全文共5页，篇幅较短。

摘要

语义通信在传输可靠性方面有着天然优势，而其中的资源分配更是保证语义传输可靠性和通信效率的关键所在，但目前还没有研究者探索该领域。为了填补这一空白，我们研究了语义领域的频谱效率，并重新思考语义感知资源分配问题。具体来说，以文本语义通信为例，首次定义了语义谱效率（S-SE），并用于根据通道分配和传输的语义符号的数量来优化资源分配。此外，为了公平地比较语义通信系统和传统通信系统，开发了一种变换方法，将传统的基于比特的频谱效率转换为S-SE。仿真结果表明了所提出的资源分配方法的有效性和可行性，以及语义通信在S-SE方面的优越性。

关键字

语义通信 语义谱效率 资源分配

引言

语义通信

大家都知道，自从信息革命爆发以来，我们的信息量（数据量）也在不断膨胀。以往当我们进行通信时，是将信息放在信源上，系统就会像快递小哥，发给信宿。

但在这个万物互联的时代，我们的信道已经接近极限，但仍然不足以传输所有数据。这时，语义通信应运而生。
语义通信采用“先理解后发送”的机制，我们不必发送所有信息，仅仅发送最有价值，能够表达意思的信息就可以。

那语义通信怎么工作的呢，或是它的总体架构是怎么样子的。现在，语义通信研究还处于起步阶段，不同的研究团队有着不同的架构设计。而且，针对不同的通信类型（文本通信，音视频通信，图像通信等），语义通信的架构也随之不同。

资源分配

在无线通信中，如何测量信息内容以及频谱效率（SE）是资源分配的基础。我们需要从语义角度重新考虑资源分配。

尽管仍然缺乏完整的数据模型，但借助深度学习（DL）的语义系统设计，可以使得在语义域内定义可计算的SE。在本文中，我们以 DeepSC 为例来探索这种语义感知网络中的 SE 问题和资源分配问题。

贡献

• 针对语义感知网络提出了一种新的资源分配模型。具体来说，首先定义语义谱效率（S-SE）从语义的角度来衡量通信效率。然后提出了一种新的公式，并在信道分配和传输的语义符号的数量方面最大化整体S-SE。
• 为了公平地比较语义通信系统和传统通信系统，开发了一种变换方法将基于比特的SE转换为S-SE。
• 仿真结果验证了所提出的资源分配模型的有效性，以及语义通信系统在S-SE方面的优越性。

公式符号

符号	含义
${\mathbb{R}}^{n\times m}$	大小为 n x m 的真实集合
$\mathbf{x}$	向量
$\mathbf{X}$	矩阵
$x\sim \mathcal{C}\mathcal{N}(\mu ,{\sigma }^2)$	x服从循环对称复高斯分布

系统模型

现在考虑如下图所示的蜂窝网络架构¹。该架构有一个基站，N个移动站。

DeepSC 被用作语义通信模型，并配备每个用户进行文本传输，其中底层文本的语义可以通过 Transformer 有效地提取。假设DeepSC收发器在BS或云平台上进行训练。然后将训练好的语义发射机模型广播给用户。下面我们来将详细介绍 BS 处的 DeepSC 发射器、传输模型和 DeepSC 接收器。

DeepSC Transmitter

第n个用户生成文本向量为$s_n=[w_{n,1},w_{n,2},...,w_{n,l},....,w_{n,L_n}]$，向量总长度为$L_n$。这个向量会被DeepSC Transmitter 映射为Semantic Symbol 向量 $X_n=[{\mathbf{x}}_{\mathbf{n},1},{\mathbf{x}}_{\mathbf{n},2},....,{\mathbf{x}}_{\mathbf{n},{\mathbf{k}}_{\mathbf{n}}{\mathbf{L}}_{\mathbf{n}}}]$。

其中，$X_n\in {\mathbb{R}}^{k_n{L}_n\times 2}$, $X_n$长度会随着$s_n$的增加而增加，在第 n 个用户处，每个单词平均使用 $k_n$ 个语义符号进行编码，而且每个语义符号可以直接通过传输物质传输。

Transmission Model

符号	含义
M = { 1 , 2 , . . , m , . . . , M } \mathcal{M}=\{1, 2, .., m, ..., M\} M={1,2,..,m,...,M}	可用信道集合（带宽为W），M是总数量
${\mathbf{\alpha }}_{\mathbf{m}}=[{\alpha }_{n,1},...,{\alpha }_{n,M}]$	和 第 n 个用户的相关性，只有0 1两个选项
$p_n$	第n个用户的发射功率
$g_n$	大尺度信道增益（包括路径损失和阴影）
$h_{n,m}$	用户 n 在第 m 个信道上的雷利衰落系数
$N_0$	噪声功率谱密度

假设每个信道最多只能分配给一个用户，一个用户至多占据一个信道：
$$\sum _{n=1}^N{\alpha }_{n,m}\le 1$$
$$\sum _{m=1}^M{\alpha }_{n,m}\le 1$$
考虑到信道包含大尺度衰减和小尺度Rayleigh衰减，信噪比（度量用户 n 在第 m 个信道上的信号质量）：

$${\gamma }_{n,m}=\frac{p_n{g}_n|h_{n,m}^2|}{W{N}_0}$$

DeepSC Receiver

符号	含义
${\mathbf{Y}}_n=\sqrt{g_n}{h}_{n,m}{\mathbf{X}}_n+\mathbf{z}$	来自第 n 个用户的信号
${\hat{s}}_n$	估计第 n 个用户的原始向量
B(·)	来自 Transformers (BERT) 模型的句子双向编码器表示，采用预训练的 Sentence-BERT 模型

在 BS 处，来自第 n 个用户的信号可以表示为 $Y_n$。接收到的信号首先由通道解码器解码，从而语义解码器估计句子 ${\hat{s}}_n$。为了评估语义通信在文本传输方面的性能，我们采用语义相似度作为性能指标.
$$\xi =\frac{B(s)B(\hat{s}{)}^T}{|B(s)||B(s)|}$$

语义感知资源分配策略

S-SE 首先被定义为语义感知网络的新指标。然后语义感知资源分配在通道分配和传输的语义符号的数量方面被表述为 S-SE 最大化问题。最后，得到优化问题的最优解。

Semantic Spectral Efficiency （S-SE）

符号	含义
$\mathcal{D}=\{(s_j=[w_{n,1},w_{n,2},...,w_{n,l},....,w_{n,L_n}]){\}}_{j=1}^D$	文本数据集，其中 $s_j$ 是第 j 个句子，长度为 $L_j$，$w_{j,l}$是第 $l$ 个单词。
$I_j$	$s_j$的语义信息量
$p({\mathbf{s}}_{\mathbf{j}})$	$s_j$ 出现概率

假设语义信息可以通过表示语义信息基本单元的语义单元 (sut) 来衡量。基于此，可以定义两个关键的基于语义的性能指标：

• 语义传输速率 (S-R) 👉每秒有效传输的语义信息, 单位suts/s
• 语义谱效率(S-SE) 👉语义信息可以在带宽单位上成功传输的速率，单位suts/s/Hz

我们关注的是长文本的传输，因此L和I应取期望值，而不是随机值。在第n个用户处，平均有 $k_{n}L$ 个语义符号承载着 $I$ 的语义信息量，每个语义符号的平均语义信息量为 $I/(k_{n}L)$。

由于符号速率等于通道带宽对于带通传输，在带宽为W的通道上传输的总语义信息量为 $WI/(k_{n}L)$。（语义信息量和bit数相对应吗），因此，第n个用户在第m个通道上的S-R可以表示为
$${\Gamma }_{n,m}=\frac{WI}{k_{n}L}{\xi }_{n,m}$$
第n个用户在第m个通道上的SS-E可以表示为
$${\Phi }_{n,m}=\frac{{\Gamma }_{n,m}}{W}=\frac{I}{k_{n}L}{\xi }_{n,m}$$

问题建模

符号	含义
$\Phi$	所有用户整体 S-SE

信道分配向量是我们优化变量之一。此外，我们还会优化每个单词的传输语义符号的平均数量 $k_n$，以使每个符号携带更多的语义信息，从而在确保相同的传输可靠性的同时获得更高的 S-SE。

优化目标

$$\underset{{\mathbf{\alpha }}_{\mathbf{n}},k_n}{\max }\Phi =\sum _{n=1}^N\sum _{m=1}^M{\alpha }_{n,m}\frac{I}{k_{n}L}{\xi }_{n,m}$$

通道分配约束条件

• 第 n 个用户是否占用第 m 条信道：
  α n , m ∈ { 0 , 1 } \alpha_{n, m} \in \{0, 1\} αn,m​∈{0,1}

• 每个信道最多只能分配给一个用户：
  $$\sum _{n=1}^N{\alpha }_{n,m}\le 1$$

• 一个用户至多占据一个信道：
  $$\sum _{m=1}^M{\alpha }_{n,m}\le 1$$

平均语义符号数约束条件

每个单词的平均语义符号数允许范围，K 表示最大值
k n ∈ { 1 , 2 , 3 , . . . , K } k_n\in\{1, 2, 3, ..., K\} kn​∈{1,2,3,...,K}

语义相似度约束条件

该约束条件反映所需的最小语义相似度 ${\xi }_{th}$:
$${\xi }_{n,m}\ge {\xi }_{th}$$

SS-E限制条件

$${\Phi }_{n,m}\ge {\Phi }_{th}$$

解决方法

$I/L$ 对于特定类型的源是一个常数，因此不会影响资源分配优化，目标函数可以改写为：
$$\underset{{\mathbf{\alpha }}_{\mathbf{n}},k_n}{\max }\Phi =\sum _{n=1}^N\sum _{m=1}^M{\alpha }_{n,m}\frac{{\xi }_{n,m}}{k_n}$$

${\xi }_{n,m}$ 受 特定语义通信系统和物理信道条件的影响，我们在 AWGN 信道上运行 DeepSC 模型，得到了 ${\xi }_{n,m}$和 $(k_n,{\gamma }_{n,m})$ 之间的映射关系。如下图所示：

由于不同蜂窝链路的正交性，目标函数可以解耦成下面两个等效的独立优化问题。

• P2 在所有候选通道上为所有用户获取SSE，由于${\xi }_{n,m}$只能通过查表方法获得，因此采用穷尽法求解。
  $$\begin{gathered} \underset{k_n}{\max }{\tilde{\Phi }}_{n,m}={\xi }_{n,m}/k_n \\ s.t.C_4{C}_5{C}_6 \end{gathered}$$
• P3 可以看作二向图的最大匹配问题。使用匈牙利算法解决。其中两个顶点分布是 N 和 M，${\tilde{\Phi }}_{n,m}^{max}$是第n个用户与第m个通道之间的权重。
  $$\begin{gathered} \underset{{\mathbf{\alpha }}_{\mathbf{n}}}{\max }\sum _{n=1}^N\sum _{m=1}^M{\alpha }_{n,m}{\tilde{\Phi }}_{n,m}^{max} \\ s.t.C_1{C}_2{C}_3 \end{gathered}$$

仿真结果

在本节，我们进行了两个实验以全面评估所提出的语义感知资源分配方案的性能。

• 将所提出的资源分配模型与传统的资源分配模型进行比较，以验证语义感知网络中的所提出的模型
• 比较语义通信系统和传统通信系统的S-SE，以显示语义通信的优越性

由于传统系统通常在 bit 域中进行评估，我们开发了一种变换方法，将SE 转换成 S-SE ，从而实现公平比较。

变换方法

符号	含义
$C_{n,m}$	第n用户第m信道的传输速率 bits/s
$\mu$	转换因子，每个单词的平均比特数 bits/word

在传统通信系统中， 单词中的每个字母都可以通过源编码器映射到bit。从语义通信角度来看，每个位都可以简单地认为是一个语义符号。因此，等效S-R可以表示为：
$${\Gamma }_{n,m}^{{}^{\prime }}=C_{n,m}\frac{I}{\mu L}{\xi }_{n,m}$$
我们假设传统通信中没有位误差时，${\xi }_{n,m}$等于1。等效S-SE可以表示为：

$${\Phi }_{n,m}^{{}^{\prime }}=R_{n,m}\frac{I}{\mu L}$$

基准

本文所提出的资源分配方案是针对特定的语义系统，即DeepSC。我们将和下面三个基准进行比较：

1. 理想系统：信道可以达到香农极限，且无比特误差。
2. 4G 系统
3. 5G 系统

实验结果

在我们的模拟中，考虑了半径为 r = 500 m 的圆形网络，其中 N 个用户均匀分布。除非另有说明，相关参数列于表 I。

我们首先检查了语义感知网络中的传统资源分配模型。在该仿真中，将理想系统中传统模型的最优信道分配结果以及不同的$k_n$值。然后将得到的 S-SE 与所提出的模型进行比较。如图 3 所示，无论 kn 的值如何，传统模型的 SSE 都小于所提出模型的 SSE，这意味着传统模型不适合语义感知网络。此外，$k_n$ = 3 的传统模型的 S-SE 等于 0，因为在这种情况下语义相似性小于阈值。

图3. 具有不同模型的语义感知网络的 S-SE

下面，我们将不同的通信系统与相应的资源分配模型进行比较。

• 不同系统的 S-SE 与通道数的关系
  当 M 从 1 增加到 5 时，所有系统的 S-SE 都会迅速增加，因为服务更多用户。然后当 M 继续从 5 增加到 10 时，S-SE 增长缓慢而不是保持稳定，因为有更多的通道可用，用户可以选择具有更高 SNR 的通道。
  

• S-SE与发射功率的关系
  随着pn的增加，理想系统的S-SE迅速增加，而语义通信系统、4G系统和5G系统的S-SE先增大后趋于常数，这意味着所有实际系统都具有信噪比增加的上界。此外，语义通信系统由于其压缩数据的能力更强，比 4G 和 5G 具有更大的上限。
  

• S-SE 与转换因子的关系
  语义通信系统的性能保持稳定，因为转换因子与其无关。对于传统系统，S-SE 随着 μ 的增加而减小，因为 S-SE 是 SE 与 μ 的比率，最大 SE 是不同 μ 的固定值。此外，当 μ 大于 19 位/字时，语义通信系统的性能优于 4G 和 5G。然而，当μ小于大约27位/字时，即一个词可以编码为小于27位，语义通信系统的性能比理想系统差。该图表明，语义通信系统是否大大优于传统系统中采用的源编码方案。
  

结论

在本文中，我们研究了语义域中的 SE 问题，并探索了语义通信的资源分配。具体来说，首先定义了 S-R 和 S-SE，以便基于 DeepSC 模型测量语义通信系统的通信效率。为了最大化所有用户的整体SSE，语义感知资源分配被表述为一个优化问题，得到了最优解。

我们也进行了广泛的模拟以评估所提出方案的性能。对于文本传输，当单词通过传统的源编码技术平均映射到超过 19 位时，语义通信系统实现了比 4G 和 5G 系统更高的 S-SE。此外，如果编码单词所需的位增加到超过 27 位，发射功率为 10 dBm，语义通信系统甚至优于理想系统。

未来，如何设计资源分配方法来满足包括单模态和多模态任务在内的多个智能任务的要求，应该进一步研究。

【1】https://www.eet-china.com/mp/a245114.html

---

1. https://zh.wikipedia.org/wiki/%E8%9C%82%E7%AA%9D%E7%BD%91%E7%BB%9C# ↩︎