模型 · 深度词条

Context Window(上下文窗口)

模型一次请求能够接收和处理的信息容量,通常按 Token 计算。

专题词条基础释义核对 2026-10-20专题核对 2026-10-20增补 2026-11-194 条来源
本页目录 13 节

四层解释

通俗

模型一次请求能够接收和处理的信息容量,通常按 Token 计算。

专业

上下文窗口限定单次调用的信息预算;输入、输出及其他 Token 如何计入,要看模型与接口规则。容量不等于每个位置都被同等有效利用。

机制

注意力把当前 Token 与窗口内表示建立关系,但位置、噪声、重复和任务结构会影响信息利用。

工程

应给系统提示、用户输入、检索资料、工具结果和输出分别设置预算,并在超限前压缩、检索或分段。

全链路位置

INPUT系统提示、历史、资料和用户输入
→
PROCESS在有限 Token 预算内组织上下文
→
OUTPUT模型可见的单次工作记忆

常见用途

  • 长文档问答
  • 多轮对话
  • Agent 状态管理

专业边界

  • 容量大不等于长文理解稳定
  • 上下文不是永久记忆

常见误解

  • 把整库文档全部塞入窗口就最好
  • 窗口越长成本和延迟不会变化

修表匠的工作台

修表匠在有限的桌面上摆放怀表、零件和图纸,更多手册留在身后的书架。
档案还在书架上,不等于这一轮回答已经用到了它。
虚构示例

老师傅接手一块停走的怀表。身后是整墙手册,桌面却只摆得下机芯、零件盘和几页图纸。徒弟把整套目录都堆上去,反而盖住了这只表需要的装配图。师傅抽出那一页,把目录放回书架。

自拟教学说明

Context Window(上下文窗口)像这一轮能用的桌面,不是身后的全部藏书。没送进窗口的旧记录,不会因为硬盘里有就自动参与回答;即使放进去了,模型也未必用对。真正的容量以 Token 计,不以书页计,生成回答还要留出空间。

窗口容量不等于有效理解能力

Context Window 限定一次模型调用可容纳的信息范围,具体输入、输出和其他 Token 的预算规则取决于接口。能放入长文档并不表示所有段落都被同样有效地利用。2023 年 Lost in the Middle 在其测试模型与任务中观察到信息位置影响表现,不能把当时数值外推给今天所有模型。

依据Lost in the Middle: How Language Models Use Long ContextsEffective Context Engineering for AI Agents

长窗口与 RAG 是组合关系

长窗口便于同时提供更多材料,检索则控制哪些材料值得进入窗口。对于更新频繁、存在权限差异的知识库,先筛选再输入仍有价值。压缩历史可以节省空间,却可能丢掉限定条件;应保留原文位置和关键决策的可追溯记录。

依据Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksEffective Context Engineering for AI Agents

Worked Example

比较两版合同

虚构教学示例,不对应真实业务数据或性能承诺。

  1. 确定任务

    只比较付款日期与违约责任,避免把所有附件无差别加入。

  2. 保留对照

    为两版条款添加版本、条款号和原文引用,避免摘要混成一版。

  3. 检验位置影响

    把关键条款放在不同位置复测,检查是否稳定识别差异。

容量是上限;选择、定位和验证决定实际可用性。

来源与核对记录

S1
Machine Learning GlossaryGoogle for Developers · 官方技术文档 · 查阅 2026-10-24
S2
Effective Context Engineering for AI AgentsAnthropic · 官方工程文章 · 查阅 2026-10-20
S3
Lost in the Middle: How Language Models Use Long ContextsLiu et al. · 原始论文 · 查阅 2026-10-22
S4
Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksLewis et al. · 原始论文 · 查阅 2026-10-22

基础释义核对:2026-10-20。专题核对:2026-10-20。局部增补:2026-11-19。局部修订不代表旧正文全部复核,尚未完成外部专家审稿。