摘要:

本笔记分析了使用预训练的模型生成文本的示例代码。它的步骤如下:

  1. 使用已加载的分词器 tokenizer 对输入文本进行处理,转换为模型可以理解的格式。输入文本是国家和首都的信息,最后一句是未完成的,需要模型来生成。
  2. 将处理后的输入转移到模型所在的设备上(例如GPU或CPU)。
  3. 使用模型的 generate 方法对输入进行处理,生成预测的输出。
  4. 使用分词器的 decode 方法将生成的输出从模型理解的格式转换回文本,并打印出来。

实例分析

09-30 06:48