下载掌阅APP，畅读海量书库
立即打开
二元语法模型（Bigram Model）是简单的语言模型之一，基于马尔科夫假设，假设一个词的出现仅与前一个词相关。二元语法模型的核心在于，给定一个文本序列，模型需预测下一个词。
在训练模型时，如何将文字转换为可以计算的数字？常见的方法是构建字典表，将文字或词映射为数字序号。这样，文本序列即可被转换为数字序列，并输入模型进行训练。在模型预测时，可将数字序号转换为文字或词，从而得到模型的输出。这一方法广泛应用于自然语言处理中，是构建文本数据集的基础。以下通过一个样例展示如何将文本转换为数字序号。
收集《唐诗三百首》文件，包含多首唐代诗作。目标是训练模型，使其能够自动生成唐诗。
训练数据如下：将每首唐诗视为一个句子，然后将这些句子拼接形成一个长文本。模型的输入为该长文本，目标是预测下一个词。过程中需解决的问题包括如何将文本转换为数字、如何设计模型，以及如何训练模型。