我们在信息理论安全保证下为高斯窃听通道设计了简短的区块长度代码。我们的方法在于将代码设计中的可靠性和保密性限制解耦。具体而言，我们通过自动编码器处理可靠性约束，并处理具有哈希功能的保密约束。对于小于或等于16的区块长度，我们通过模拟合法接收器的错误概率以及我们的代码构建中的窃听器的泄漏进行评估。这种泄漏被定义为机密信息和窃听通道观察之间的共同信息，并通过基于神经网络的共同信息估计器进行经验测量。我们的仿真结果提供了具有正面保密率的代码的示例，这些代码优于高斯窃听通道的非结构性可获得的最知名的保密率。此外，我们表明我们的代码设计适用于化合物和任意变化的高斯窃听通道，为此，通道统计信息不是完全知道的，但仅属于预先指定的不确定性集。这些模型不仅捕获了与渠道统计估计有关的不确定性，而且还捕获了窃听器堵塞合法传输或通过更改其位置来影响其自身渠道统计的场景。

显示用于误差校正的小型神经网络（NNS）可改善经典通道代码并解决通道模型更改。我们通过多次使用相同的NN使用相同的NN扩展了任何此类结构的代码维度，这些NN与外部经典代码串行串联。我们设计具有相同网络参数的NN，其中每个REED - Solomon CodeWord符号都是对其他NN的输入。与小型神经代码相比，增加了加斯噪声通道的块误差概率的显着改善，以及通道模型变化的稳健性。

最近，基于深层神经网络（DNN）的物理层通信技术引起了极大的兴趣。尽管模拟实验已经验证了它们增强通信系统和出色性能的潜力，但对理论分析的关注很少。具体而言，物理层中的大多数研究都倾向于专注于DNN模型在无线通信问题上的应用，但理论上不了解DNN在通信系统中的工作方式。在本文中，我们旨在定量分析为什么DNN可以在物理层中与传统技术相比，并在计算复杂性方面提高其成本。为了实现这一目标，我们首先分析基于DNN的发射器的编码性能，并将其与传统发射器进行比较。然后，我们理论上分析了基于DNN的估计器的性能，并将其与传统估计器进行比较。第三，我们调查并验证在信息理论概念下基于DNN的通信系统中如何播放信息。我们的分析开发了一种简洁的方式，可以在物理层通信中打开DNN的“黑匣子”，可用于支持基于DNN的智能通信技术的设计，并有助于提供可解释的性能评估。

Ultra-reliable short-packet communication is a major challenge in future wireless networks with critical applications. To achieve ultra-reliable communications beyond 99.999%, this paper envisions a new interaction-based communication paradigm that exploits feedback from the receiver. We present AttentionCode, a new class of feedback codes leveraging deep learning (DL) technologies. The underpinnings of AttentionCode are three architectural innovations: AttentionNet, input restructuring, and adaptation to fading channels, accompanied by several training methods, including large-batch training, distributed learning, look-ahead optimizer, training-test signal-to-noise ratio (SNR) mismatch, and curriculum learning. The training methods can potentially be generalized to other wireless communication applications with machine learning. Numerical experiments verify that AttentionCode establishes a new state of the art among all DL-based feedback codes in both additive white Gaussian noise (AWGN) channels and fading channels. In AWGN channels with noiseless feedback, for example, AttentionCode achieves a block error rate (BLER) of $10^{-7}$ when the forward channel SNR is 0 dB for a block size of 50 bits, demonstrating the potential of AttentionCode to provide ultra-reliable short-packet communications.

最近，已经提出了几种方法，用于使用深神经网络估计来自样本数据的互信息，并且没有知道数据的特写形式分布。这类估算器被称为神经互动信息估计。虽然非常有希望，但是这种技术尚未严格地标记，以便建立它们的功效，易于实现和能力估计的稳定性，这是关节最大化帧工作。在本文中，我们比较文献中提出的不同技术，以估算能力，并提供从业者的效力。特别是，我们研究了相互信息神经估算器（MINE），平滑的互信息下限估计器（微笑）的性能，以及指导信息神经估算器（DINE），并提供对INCONCE的见解。我们在他们学习作为AWGN通道的容量接近的容量接近的输入分布的能力方面评估了这些算法，光学强度信道和峰值功率受限AWGN通道。对于这两种情况，我们对培训过程的各个方面提供了富有洞察力的评论，例如稳定性，初始化的敏感性。

迄今为止，通信系统主要旨在可靠地交流位序列。这种方法提供了有效的工程设计，这些设计对消息的含义或消息交换所旨在实现的目标不可知。但是，下一代系统可以通过将消息语义和沟通目标折叠到其设计中来丰富。此外，可以使这些系统了解进行交流交流的环境，从而为新颖的设计见解提供途径。本教程总结了迄今为止的努力，从早期改编，语义意识和以任务为导向的通信开始，涵盖了基础，算法和潜在的实现。重点是利用信息理论提供基础的方法，以及学习在语义和任务感知通信中的重要作用。

我们正在协助对学习架构的发展，并将其应用于数字通信系统。在此，我们考虑检测/解码问题。我们旨在为这项任务开发最佳的神经体系结构。最佳标准的定义是一个基本步骤。我们建议使用通道输入输出信号对的共同信息（MI），这可以在鉴于通信通道输出观察值的情况下最小化传输代码字的A型构源性信息。 A-posteriori信息的计算是一项艰巨的任务，对于大多数渠道而言，它尚不清楚。因此，必须学会。对于这样的目标，我们提出了基于判别性公式的新型神经估计量。这导致了相互信息神经解码器（思维）的推导。开发的神经体系结构不仅能够解决未知通道中的解码问题，还可以返回对编码方案获得的平均MI的估计以及解码误差概率。报告了几个数值结果，并将其与最大的A型和最大似然解码策略进行了比较。

在多输入多输出（MIMO）系统中使用深度自动码器（DAE）进行端到端通信，是一种具有重要潜力的新概念。在误码率（BER）方面，已示出DAE-ADED MIMO以占地识别的奇异值分解（SVD）为基础的预编码MIMO。本文提出将信道矩阵的左右奇异矢量嵌入到DAE编码器和解码器中，以进一步提高MIMO空间复用的性能。 SVD嵌入式DAE主要优于BER的理论线性预编码。这是显着的，因为它表明所提出的DAES通过将通信系统视为单个端到端优化块来超出当前系统设计的极限。基于仿真结果，在SNR = 10dB，所提出的SVD嵌入式设计可以实现近10美元，并将BER减少至少10次，而没有SVD，相比增长了18倍的增长率最高18倍具有理论线性预编码。我们将这一点归因于所提出的DAE可以将输入和输出与具有有限字母输入的自适应调制结构匹配。我们还观察到添加到DAE的剩余连接进一步提高了性能。

基于深度学习的渠道代码设计最近引起了人们的兴趣，可以替代传统的编码算法，尤其是对于现有代码不提供有效解决方案的渠道。通过反馈渠道进行的沟通就是一个这样的问题，最近通过采用各种深度学习体系结构来获得有希望的结果。在本文中，我们为反馈渠道介绍了一种新颖的学习辅助代码设计，称为广义块注意反馈（GBAF）代码，i）使用模块化体系结构，可以使用不同的神经网络体系结构实现；ii）与现有设计相比，错误的可能性提高了误顺序；iii）可以以所需的代码速率传输。

Link-Adaptation（LA）是无线通信的最重要方面之一，其中发射器使用的调制和编码方案（MCS）适用于通道条件，以满足某些目标误差率。在具有离细胞外干扰的单用户SISO（SU-SISO）系统中，LA是通过计算接收器处计算后平均值 - 交换后噪声比（SINR）进行的。可以在使用线性探测器的多用户MIMO（MU-MIMO）接收器中使用相同的技术。均衡后SINR的另一个重要用途是用于物理层（PHY）抽象，其中几个PHY块（例如通道编码器，检测器和通道解码器）被抽象模型取代，以加快系统级级别的模拟。但是，对于具有非线性接收器的MU-MIMO系统，尚无等效于平衡后的SINR，这使LA和PHY抽象都极具挑战性。这份由两部分组成的论文解决了这个重要问题。在这一部分中，提出了一个称为检测器的称为比特 - 金属解码速率（BMDR）的度量，该指标提出了相当于后平等SINR的建议。由于BMDR没有封闭形式的表达式可以启用其瞬时计算，因此一种机器学习方法可以预测其以及广泛的仿真结果。

近年来，已经进行了重要的研究活动，可以通过深度学习自动化渠道编码器和解码器的设计。由于通道编码的维度挑战，因此通过深度学习技术设计和训练相对较大的神经通道代码非常复杂。因此，文献中的大多数结果仅限于相对较短的代码，其信息位少于100个。在本文中，我们构建了Productaes，这是一个有效的深度学习驱动（编码器，解码器）对的家族，旨在以可管理的培训复杂性来培训相对较大的通道代码（编码器和解码器）。我们基于经典产品代码的想法，并建议使用较小的代码组件构建大型神经代码。更具体地说，我们没有直接培训编码器和解码器的大型神经代码$ k $ and blocklength $ n $，而是提供了一个框架，需要培训对代码参数的神经编码器和解码器$（n_1，k_1）$和$（n_2，k_2）$，这样$ n_1 n_2 = n $和$ k_1 k_2 = k $。我们的培训结果表明，对于参数守则$（225,100）$和中等长度参数码$（441,196）$，与连续的极性码相比，参数码（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$，与连续的极地码相比取消（SC）解码器。此外，我们的结果表明，涡轮自动编码器（涡轮增压器）和最先进的古典代码有意义。这是设计产品自动编码器和培训大型频道代码的开创性工作的第一项工作。

Motivated by recent success of Machine Learning (ML) tools in wireless communications, the idea of semantic communication by Weaver from 1949 has received considerable attention. It breaks with the classic design paradigm of Shannon by aiming to transmit the meaning of a message, i.e., semantics, rather than its exact copy and thus allows for savings in channel uses or information rate. In this work, we extend the fundamental approach from Basu et al. for modeling semantics from logical to probabilistic entailment relations between meaning and messages. Thus, we model semantics by means of a hidden random variable and define the task of semantic communication as transmission of messages over a communication channel such that semantics is best preserved. We formulate the semantic communication design either as an Information Maximization or as an Information Bottleneck optimization problem. Finally, we propose the ML-based semantic communication system SINFONI for a distributed multipoint scenario: SINFONI communicates the meaning behind multiple messages that are observed at different senders to a single receiver for semantic retrieval. We analyze SINFONI by processing images as an example of messages. Numerical results reveal a tremendous rate normalized SNR shift up to 20 dB compared to classically designed communication systems.

在基于学习的语义沟通中，神经网络在传统通信系统中取代了不同的构件。但是，数字调制仍然是神经网络的挑战。基于神经网络的数字调制的固有机制是将神经网络编码器的连续输出映射到离散的星座符号中，这是一个不可差的函数，无法使用现有的梯度下降算法进行训练。为了克服这一挑战，在本文中，我们为使用BPSK调制的数字语义通信制定了联合编码调节方案。在我们的方法中，神经网络输出了每个星座点的可能性，而不是具有混凝土映射。因此，使用了随机代码而不是确定性代码，该代码在每个星座上都有可能的符号保留更多信息。联合编码调制设计可以与频道状态相匹配，从而提高数字语义通信的性能。实验结果表明，我们的方法在广泛的SNR上优于语义通信中现有的数字调制方法，并且低SNR制度中的基于神经网络的模拟调制方法优于基于神经网络的模拟调制方法。

近年来在自动编码器（AE）框架中自动化频道编码器和解码器的设计越来越感兴趣，以便在噪声通道上可靠地传输数据。在本文中，我们为此目的展示了设计AES的新框架。特别地，我们介绍了AE框架，即Listae，其中解码器网络输出解码的消息字候选列表。假设在解码器的输出中可在解码器的输出处获得Genie，并且提出了特定损耗功能，以优化Genie-Aided（GA）-Listae的性能。 Listae是普通AE框架，可以与任何网络架构一起使用。我们提出了一种特定的端到端网络架构，其在一系列组件代码上解码接收的单词，其速率降低。基于所提出的架构的Listae称为增量冗余列表（IR-Listae），在GA解码下的低块误差速率下通过1 dB提高了最先进的AE性能。然后，我们使用循环冗余检查（CRC）代码来替换解码器的Genie，与GA-Listae相比，使CRC-Aided（CA）-Listae具有可忽略的性能损失。由于将CRC附加到消息字，CA-Listae以略微降低的价格显示有意义的编码增益。

我们考虑使用随机球形代码的高维信号$ x $的有损压缩表示之间的分布连接，并在添加白色高斯噪声（AWGN）下的$ X $观察$ x $。我们展示了比特率 - $ R $压缩版的Wassersein距离$ x $及其在AWGN-噪声比率下的AWGN噪声比率下的观察2 ^ {2R} -1 $ 2 ^ {2r} -1 $中的下线性。我们利用此事实基于AWGN损坏的$ x $的AWGN损坏版本的估算者的风险连接到与其比特率 - $ r $量化版本相同的估算器所获得的风险。我们通过在压缩约束下导出推导问题的各种新结果来展示这种联系的有用性，包括Minimax估计，稀疏回归，压缩感和远程源编码中的线性估计的普遍性。

最近的作品表明，现代机器学习技术可以为长期存在的联合源通道编码（JSCC）问题提供另一种方法。非常有希望的初始结果，优于使用单独的源代码和通道代码的流行数字方案，已被证明用于使用深神经网络（DNNS）的无线图像和视频传输。但是，此类方案的端到端培训需要可区分的通道输入表示。因此，先前的工作假设可以通过通道传输任何复杂值。这可以防止在硬件或协议只能接收数字星座规定的某些频道输入集的情况下应用这些代码。本文中，我们建议使用有限通道输入字母的端到端优化的JSCC解决方案DeepJSCC-Q。我们表明，DEEPJSCC-Q可以实现与允许任何复杂的有价值通道输入的先前作品相似的性能，尤其是在可用的高调制订单时，并且在调制顺序增加的情况下，性能渐近接近无约束通道输入的情况。重要的是，DEEPJSCC-Q保留了不可预测的渠道条件下图像质量的优雅降级，这是在频道迅速变化的移动系统中部署的理想属性。

Channel estimation is a critical task in multiple-input multiple-output (MIMO) digital communications that substantially effects end-to-end system performance. In this work, we introduce a novel approach for channel estimation using deep score-based generative models. A model is trained to estimate the gradient of the logarithm of a distribution and is used to iteratively refine estimates given measurements of a signal. We introduce a framework for training score-based generative models for wireless MIMO channels and performing channel estimation based on posterior sampling at test time. We derive theoretical robustness guarantees for channel estimation with posterior sampling in single-input single-output scenarios, and experimentally verify performance in the MIMO setting. Our results in simulated channels show competitive in-distribution performance, and robust out-of-distribution performance, with gains of up to $5$ dB in end-to-end coded communication performance compared to supervised deep learning methods. Simulations on the number of pilots show that high fidelity channel estimation with $25$% pilot density is possible for MIMO channel sizes of up to $64 \times 256$. Complexity analysis reveals that model size can efficiently trade performance for estimation latency, and that the proposed approach is competitive with compressed sensing in terms of floating-point operation (FLOP) count.

这是两部分纸的第二部分，该论文着重于具有非线性接收器的多用户MIMO（MU-MIMO）系统的链接适应（LA）和物理层（PHY）抽象。第一部分提出了一个新的指标，称为检测器，称为比率解码率（BMDR），是非线性接收器的等效量等效的信号与交换后噪声比率（SINR）。由于该BMDR没有封闭形式的表达式，因此有效地提出了基于机器学习的方法来估计其。在这一部分中，第一部分中开发的概念用于开发LA的新算法，可用检测器列表中的动态检测器选择以及具有任意接收器的MU-MIMO系统中的PHY抽象。提出了证实所提出算法的功效的广泛仿真结果。

本文研究了以$ \ mathbb {r}^d $使用球形协方差矩阵$ \ sigma^2 \ sigma^2 \ mathbf {i} $的$ k $学习中心的样本复杂性。特别是，我们对以下问题感兴趣：最大噪声水平$ \ sigma^2 $是什么，对此样品复杂性基本与从标记的测量值估算中心时相同？为此，我们将注意力限制为问题的贝叶斯公式，其中中心均匀分布在球体上$ \ sqrt {d} \ Mathcal {s}^{d-1} $。我们的主要结果表征了确切的噪声阈值$ \ sigma^2 $，而GMM学习问题（在大系统中限制$ d，k \ to \ infty $）就像从标记的观测值中学习一样容易更加困难。阈值发生在$ \ frac {\ log k} {d} = \ frac12 \ log \ left（1+ \ frac {1} {1} {\ sigma^2} \ right）$，这是添加性白色高斯的能力噪声（AWGN）频道。将$ K $中心的集合作为代码，可以将此噪声阈值解释为最大的噪声水平，AWGN通道上代码的错误概率很小。关于GMM学习问题的先前工作已将中心之间的最小距离确定为确定学习相应GMM的统计难度的关键参数。虽然我们的结果仅是针对中心均匀分布在球体上的GMM的，但他们暗示，也许这是与中心星座相关的解码错误概率作为频道代码确定学习相应GMM的统计难度，而不是仅仅最小距离。

与经典线性模型不同，非线性生成模型在统计学习的文献中被稀疏地解决。这项工作旨在引起对这些模型及其保密潜力的关注。为此，我们调用了复制方法，以在反相反的问题中得出渐近归一化的横熵，其生成模型由具有通用协方差函数的高斯随机场描述。我们的推导进一步证明了贝叶斯估计量的渐近统计解耦，并为给定的非线性模型指定了解耦设置。复制解决方案描述了严格的非线性模型建立了全有或全无的相变：存在一个关键负载，最佳贝叶斯推断从完美的学习变为不相关的学习。基于这一发现，我们设计了一种新的安全编码方案，该方案可实现窃听通道的保密能力。这个有趣的结果意味着，严格的非线性生成模型是完美的，没有任何安全编码。我们通过分析说明性模型的完全安全和可靠的推论来证明后一种陈述是合理的。