Token（词元）

模型读写信息时使用的基本单位，可能是一个汉字、单词的一部分、标点，也可能是图像块或音频片段。

Tokenizer 将原始输入编码为离散 Token ID，模型在词表上的概率分布中预测输出；不同模型的切分规则和词表不同。

子词算法在字符和整词之间折中，让常见片段用较少 Token 表示，同时仍能组合罕见词。

上下文上限、延迟和 API 费用经常按 Token 计算；字符数不能直接等价为 Token 数。