LLM-API参数解读

大语言模型API参数解读

Temperature 温度

较高的温度将使输出更加随机和多样化。

Top P

较低的 top-p 值会减少多样性并关注更有可能的代币。

Top k

Lower top-k 还将采样集中在每个步骤的最高概率标记上。