[分享] 《拥抱AIGC》二、OpenAi中的参数与术语

二、OpenAi中的参数与术语

模型术语

标志（token）

    标志可以是单词片段，供API用来处理输入提示。

提示（prompt）

    提示在自然语言处理和机器学习中特指一段文本。被用来为语言模型提供上下文和方向。

上下文（context）

    用户提示前的单词和句子。供给语言模型用来根据训练数据中发现的模式和关系，生产最有可能的下一个单词或者短语。

模型置信度（model confidence）

    赋予某一特定预测或输出的确定性或概率水平。

模型参数

Temperature（温度，0~1）

   控制模型答复的随机性，较低的Temperature可以使得模型更具确定性，更高的Temperature每次都会试图给出措辞和风格不一致的答案。

Max Length（最大长度，0~2048）

   控制模型答复的长度。

Stop sequences（停止序列）

   控制答复结束位置。

Frequency penalty（惩罚概率，0~1）

   控制答复生产相同标志的重复性。

Presence penalty（存在惩罚，0~2）

   减少文本中出现过的任何标志的重复机会。

Best of（最佳，0~20）

   生成多个答复，并显示最佳概率的答复。

Pre- and post-response text（答复前文本和答复后文本）

   在模型的答复后面插入文本，以帮助模型为答复做准备。