跳到正文
编程术语图鉴

共 30 条词条

简体

上下文窗口

难度 · 硬核

/context-window

也叫: 记忆长度 · 能记住多少 · 对话容量

你可能会说

文件一多它好像就忘了前面说过什么

AI 一次能记住的对话长度,超了就开始忘事

大白话解释

上下文窗口就是 AI 一次能同时「看见」的内容总量,包括你这轮的提问、它之前的回答,还有你塞进去的文件。它像一张一次只能摊开这么大的桌面,地方满了就得把旧东西先挪走。

它按词元来算,不是按字数。窗口越大,AI 一口气能参考的资料越多,也越不容易聊着聊着忘了你开头说过的要求。

也可以把它想成一间小会议室:人少时谁都有座,人一多,只好请最早到的几位先出去,剩下的人接着聊。

什么时候会遇到

  • 跟 AI 聊了特别久,它突然忘了你十分钟前反复强调的要求。
  • 想把一整本 PDF 丢给 AI 总结,它说内容太长处理不了。
  • 代码仓库很大,让 AI 一次读完整套代码,它顾此失彼。
  • 长对话到后面越答越飘,甚至开始重复前面说过的话。
  • 产品里要加「自动总结上一轮对话」的功能,本质就是为了绕开这个上限。
  • 看到模型宣传「支持二十万字上下文」,说的就是窗口大小。

可以直接对 Agent 说

「这轮对话太长了,你先用一段话把目前确定的需求和技术选型总结出来,之后每次回答都基于这份总结,不要再翻前面的原文。」

「不要一次读整个仓库,先只列出 src/pages 下的文件清单,我说读哪个你再读哪个。」

「把这份 50 页的需求文档按章节拆成小节,每次只处理一节,处理完记录要点再进入下一节,避免一次性塞太多。」

正文里带下划线的词,是本站其它词条的入口;这一篇自动链了 1 个相关术语。

最容易想岔的地方

常见的错误理解: 上下文窗口就是记忆,越大说明模型越聪明

更准确的理解: 它只是一个容量上限,跟聪明程度没关系。而且塞得越满,中间那部分内容越容易被忽略掉

常见的错误理解: 只要没超上限,塞多少都一样

更准确的理解: 接近上限时回答质量会明显下滑。该丢的旧对话要丢,该单独查的资料别一股脑全塞进去

测一下:真遇到了你会怎么处理

单选 · 选完立刻看解释

你把一个很长的文件整份贴给 AI 让它重构,它每次都漏掉文件开头定义的部分。

最可能的原因是什么?

题目只考「这个场景下的第一反应」,不考名词背诵 —— 上下文窗口的定义在上面已经讲过了。

提示词 Prompt

怎么问它才能一次就给对,不用来回改

又称 指令 / 给 AI 说的话 / 输入框里打的那段

幻觉 Hallucination

它引用的那个函数根本不存在,是编出来的

又称 胡说八道 / 一本正经编 / AI 编瞎话