什么是上下文窗口 Context Window？为什么 AI 会“忘事”

上下文窗口是模型一次能“看见”的文字总量，用 token 计算。超出窗口的早期内容，模型就不再记得。

窗口大小意味着什么

窗口越大，能一次处理的长文档、对话历史、代码库就越多。

但窗口大不等于记得好，超长上下文里模型对中间部分的注意力也会下降。

怎么应对“忘事”

长任务要主动总结关键信息、分阶段提问，而不是把几万字一次性丢给它。

RAG 的价值之一就是：不用把全部资料塞进窗口，只在每次提问时捞出最相关的几段。

以上就是关于「什么是上下文窗口 Context Window？为什么 AI 会“忘事”」的完整说明。更多 AI 工具与学习教程，欢迎访问 AI学习教程栏目 继续了解。