尽管蒙版语言模型具有高度性能，并且被NLP从业人员广泛采用，但它们不能轻易用于自回归语言建模（下一个单词预测和序列概率估计）。我们提出了一种基于LSTM的自回归语言模型，该模型使用融合（例如串联）使用前缀嵌入（来自验证的蒙版语言模型），以获得语言建模的更丰富的上下文表示。我们发现Fusion有助于可靠地降低困惑（16.74 $ \ rightarrow $ 15.80），甚至在从与培训数据的不同领域传输到数据集后，它甚至可以保留。我们还通过将其下一个单词的惊人估计与人类阅读时间相关联，评估了表现最佳的融合模型。与我们的期望相矛盾，尽管整体上的困惑程度有所改善，但相关性仍然与基线模型相同。最后，尽管我们专注于在文本上预先训练的语言模型作为融合的来源，但我们的方法可能会扩展到将表示为固定尺寸矢量表示的任何信息融合到自动回归语言模型中。这些包括例如句子外部信息是为知识库或多模式编码器的表示形式检索的。