可控的自回归语言生成（英文版）

英文标题：Tractable Control for Autoregressive Language Generation中文摘要：本文提出了一种名为 GeLaTo 的方法，使用可解释的概率模型来强制进行文本生成中的词汇约束，通过使用精简的隐性马尔可夫模型控制 Generative Pre-trained Transformer 2（GPT2）的自回归生成，GeLaTo 在 constrained text generation 的 CommonGen 测试效果上大幅度击败了强大的基准模型，并为控制大型语言模型开辟了新的思路，并推动可解释的概率模型的发展。英文摘要：Despite the success of autoregressive large language models in textgeneration, it remains a major challenge to generate text that satisfiescomplex constraints: sampling from the conditional distribution$\Pr(\text{t