RCWT：测量LLM调用中协调内容导致的任务预算位移

研究人员提出Roundtable Context Window Test（RCWT）协议，用于测量多智能体和记忆增强LLM系统中协调内容（共享状态、讨论、工具输出等）占用有限上下文窗口导致的任务预算位移。在主要实验中，当固定预算为4096个token时，三个商业模型（GPT-4.1-mini、Claude Haiku 4.5、Gemini 2.5 Flash）在协调内容适度增加时性能保持基线附近，但剩余任务证据降至几百个token时性能急剧下降。进一步消融实验显示，若任务指令和证据完整保留，即使协调内容比例高达95%，所有模型仍能正确返回所有评分字段。表明性能下降主要由任务预算被挤占造成，而非协调内容本身的语义干扰。

此前业界常认为协调内容过多会直接导致LLM语义混乱或注意力分散，RCWT实验证明只要任务证据完整保留，协调比例高也不会影响正确率；真正风险是协调内容挤占了有限上下文预算，导致关键任务证据不足。这改变了多智能体系统优化的核心方向。

LLM调用有固定上下文预算（如4096个token），协调内容（共享状态、历史讨论、工具输出、摘要、角色指令）与当前任务指令/证据共用同一窗口。协调内容消耗的token越多，可用于任务证据的token越少。当任务证据被压缩到几百个token以下时，模型无法准确提取所需信息，性能急剧下降。完整任务消融表明，只要任务证据完整保留，单纯增加协调内容比例不影响性能，因此根本机制是预算位移而非语义干扰。

开发多智能体系统或记忆增强应用时，需将上下文窗口视为有限资源，优先保证任务证据的完整性；监控协调内容占比，避免因过度堆叠协调内容导致任务证据被挤压；可设计动态协调机制，在任务证据临界阈值时自动压缩或外化协调内容（如使用外部存储或摘要替代完整历史）。

• 开发上下文预算可视化工具，实时显示任务与协调内容的token占比及剩余可用空间，辅助开发人员调试。
• 设计自适应协调内容管理模块，根据任务证据当前占用量动态决定是保留完整协调内容还是使用摘要或引用。
• 利用完整任务消融结论，优先确保任务指令和核心证据完整，允许协调内容比例扩展至95%以保留丰富上下文，但需监控是否触发预算位移临界点。

• 不同任务类型（如代码生成、问答、推理）的任务预算位移临界阈值是否一致？
• 协调内容的不同组成部分（如角色指令、共享状态 vs 历史讨论）对预算位移的影响权重是否有差异？
• 开源模型（如Llama、Qwen）是否同样表现出一致的行为模式？是否需要更低的协调比例？
• RCWT协议在更长上下文窗口（如128K）下是否仍有相似的位移效应，还是临界点随总预算线性增长？