指南

上下文窗口与 Token:怎样处理长文档

理解模型的工作空间,为回答留出容量,并保留可核查的来源位置。

精炼译文。完整细节请阅读英文全文。 英文全文

上下文是某次响应的工作空间,Token 是内容表示单位;大窗口不保证正确回忆。训练知识、当前对话、记忆、检索和项目文件不同,并非所有保存资料都进入每次响应。语言、代码、表格与格式的 Token 比例不同,应使用供应商计数方法。

输入之外还要容纳说明、历史、工具结果和输出。虚构的 100,000 单位窗口若需 10,000 单位回答,不能塞满 100,000 单位输入;这不是任何产品额度。先确定问题,再按标题、定义、例外与来源标识拆分,不要随意切断条款。

维护目标、已知事实、未决问题和来源位置摘要,但保留原文。多文件先逐来源提取再综合,核查不同章节及例外。遗漏时缩小问题并补充相关材料,记录模型、日期、文件及方法;具体窗口大小应另外维护。

参考链接

原始来源官方来源
工具导航Claude功能、访问与方案