用Grok 4.3处理长文档，记录实用小技巧

最近接了个需求，要把一批技术文档（每份大概两三万字）做摘要和结构化提取。之前这类活都是用Claude干的，效果很好但价格不便宜。想着Grok 4.3的API便宜，而且最近更新后上下文窗口扩到了12.8万token，就试试看能不能用Grok来做。

在 titiai.cn 上查了一下各家模型的上下文窗口和价格对比，确认Grok的窗口够用之后就开始折腾了。用了几天，踩了不少坑，也摸索出一些实用技巧，记录一下。

ScreenShot_2026-07-07_085130_983.png

窗口够不够用

Grok 4.3的上下文窗口是12.8万token，大概能装三万五千行代码或者八万多字中文。我处理的文档每份两三万字，加上系统提示和输出预留，一份文档刚好能塞进去。

但这里有个坑：窗口能装下不等于模型能"看到"。我做了一个测试，把一段关键信息放在文档的中间位置，问Grok这段信息说了什么——十次里只有六次答对了。同样的信息放在开头或结尾，准确率能到九成。

这个现象叫"注意力衰减"，所有Transformer模型都有，但Grok比GPT-5.6和Claude更明显。后面会说怎么应对。

这是我摸索出来的最有效的技巧。把文档的核心结论、关键数据、重要约束放在输入的开头或结尾，不要塞在中间。

具体做法：我在文档前面加了一段"核心要点"摘要（大概两三百字），把最重要的信息列出来。这样即使Grok对中间内容的理解有偏差，核心信息不会丢。

实测效果：加了核心要点之后，Grok对我关心的关键信息提取准确率从六成提到了八成五，提升非常明显。

两三万字的文档里有不少废话——重复的表述、过渡性的段落、样板式的内容。这些内容占token但不提供有效信息。

我现在处理文档之前会先手动砍一刀：删掉重复段落，把长句缩成要点，保留标题、结论、数据，删掉论证过程。一份两万五千字的文档砍完大概一万八千字，省出来的空间可以多处理一份文档。

如果你不想手动砍，也可以用Grok自己做第一轮压缩——让它把文档压缩成要点列表，再用压缩后的内容做深度分析。两轮下来信息保留率大概七成五，比直接塞进去硬啃效果好不少。

如果文档超过了12.8万token的窗口，就得切块。我试了两种切法：

第一种是按固定字数切，每块一万字。这种切法简单粗暴，但容易把一个完整的段落切断，导致上下文丢失。

第二种是按章节切，每块一个完整的章节。这种切法保留了上下文完整性，效果好很多。每块处理完之后生成一份摘要，下一块的输入带上前一块的摘要。

实测下来，按章节切的信息保留率大概七成八，比按字数切的六成五高了十几个百分点。

Grok的输出格式不太稳定——让它输出JSON，有时候十次里有两三次格式不对。我用了一个笨办法但很有效：在Prompt里给一个完整的输出示例，让它照着格式来。

比如我要提取文档里的关键信息，就先给一个示例：{"标题": "xxx", "关键结论": "xxx", "数据来源": "xxx"}，然后说"按照这个格式输出"。给了示例之后，格式遵从率从七成五提到了九成。

Grok的输出token价格是输入的五倍。如果不控制输出长度，它有时候会啰嗦一大堆，token费用蹭蹭涨。

我现在每个Prompt都会加一句"用不超过三百字总结"或者"输出不超过五个要点"。实测下来，限制输出长度之后月费大概省了三成，而且输出质量反而更好了——因为约束逼它只说重点。

同样的文档处理任务，我用Claude和Grok分别跑了一遍：

Claude在质量上全面领先，但价格贵了一倍多。如果你处理的文档对准确率要求极高（比如合同、法律文件），还是用Claude靠谱。如果是一般性的技术文档摘要，Grok加上上面那些技巧之后效果够用，省下来的钱很可观。

用Grok 4.3处理长文档，核心就五件事：重要信息放首尾、先压缩再喂入、按章节分块、给输出示例固定格式、限制输出长度省钱。这五个技巧组合起来，Grok的文档处理效果能从"勉强能用"提升到"基本够用"。质量上确实不如Claude，但价格只有一半不到，对预算敏感的场景来说是个不错的折中。