你可能会说
文件一多它好像就忘了前面说过什么
AI 一次能记住的对话长度,超了就开始忘事
大白话解释
上下文窗口就是 AI 一次能同时「看见」的内容总量,包括你这轮的提问、它之前的回答,还有你塞进去的文件。它像一张一次只能摊开这么大的桌面,地方满了就得把旧东西先挪走。
它按词元来算,不是按字数。窗口越大,AI 一口气能参考的资料越多,也越不容易聊着聊着忘了你开头说过的要求。
也可以把它想成一间小会议室:人少时谁都有座,人一多,只好请最早到的几位先出去,剩下的人接着聊。
什么时候会遇到
- 跟 AI 聊了特别久,它突然忘了你十分钟前反复强调的要求。
- 想把一整本 PDF 丢给 AI 总结,它说内容太长处理不了。
- 代码仓库很大,让 AI 一次读完整套代码,它顾此失彼。
- 长对话到后面越答越飘,甚至开始重复前面说过的话。
- 产品里要加「自动总结上一轮对话」的功能,本质就是为了绕开这个上限。
- 看到模型宣传「支持二十万字上下文」,说的就是窗口大小。
可以直接对 Agent 说
「这轮对话太长了,你先用一段话把目前确定的需求和技术选型总结出来,之后每次回答都基于这份总结,不要再翻前面的原文。」
「不要一次读整个仓库,先只列出 src/pages 下的文件清单,我说读哪个你再读哪个。」
「把这份 50 页的需求文档按章节拆成小节,每次只处理一节,处理完记录要点再进入下一节,避免一次性塞太多。」
正文里带下划线的词,是本站其它词条的入口;这一篇自动链了 1 个相关术语。
最容易想岔的地方
常见的错误理解: 上下文窗口就是记忆,越大说明模型越聪明
更准确的理解: 它只是一个容量上限,跟聪明程度没关系。而且塞得越满,中间那部分内容越容易被忽略掉
常见的错误理解: 只要没超上限,塞多少都一样
更准确的理解: 接近上限时回答质量会明显下滑。该丢的旧对话要丢,该单独查的资料别一股脑全塞进去
测一下:真遇到了你会怎么处理
单选 · 选完立刻看解释
你把一个很长的文件整份贴给 AI 让它重构,它每次都漏掉文件开头定义的部分。
最可能的原因是什么?
-
上下文窗口有上限。塞太多时,最早的内容会先被丢掉 —— 表现就是「开头的定义它好像没看见」。
-
编码问题会表现为乱码,而不是「系统性地漏掉开头一段」。
-
窗口上限是硬性的,重试多少次都一样。得先把输入压缩到窗口装得下。
题目只考「这个场景下的第一反应」,不考名词背诵 —— 上下文窗口的定义在上面已经讲过了。