跳到正文 / Skip to content
AI 知识地图搜索与文字目录 / Search

在一条对话里切换话题,什么时候会混入旧目标或旧材料?

D011 · D 组织复杂过程 · 多轮状态与中断恢复

回答要点

旧目标或旧材料仍在可见上下文里,而新要求没有明确对象和适用范围时,AI 可能把两者混用。 典型信号是沿用上一个项目的数字、客户名称、写作风格,或把已经否定的方案继续当作前提。无需等到对话很长,这些混用就可能出现。

完整解答

实验为“无关信息会干扰任务”提供了直接证据。Shi 等在数学应用题中加入不影响正确答案的额外信息,发现所测模型的解题表现会受干扰。GSM-IC 研究 Liu 等则在多文档问答和键值检索实验中发现,相关信息的位置会影响提取表现。Lost in the Middle 这些不是对“聊天多少轮会串题”的测量,不能据此设一个统一轮数上限。

日常处理可以从最小的澄清开始:明确现在讨论谁、使用哪份材料、哪些旧要求仍有效。如果只是同一报告改写措辞,保留历史有帮助;如果换成另一个客户、数据集或价值判断,应该显式划定边界。

例如:

接下来处理乙项目的说明书。依据本条附件和下面的要求;甲项目中的数字、人物与结论不适用于乙项目。仅保留“面向新手、使用简体中文”的表达偏好。请直接完成说明书,遇到缺失事实时标明缺口。

随后抽查最容易串用的内容:对象、日期、单位、专有名词和核心目标。如果仍多次回到旧设定,可以把当前有效要求汇总后另开对话。文字上的范围声明是在指导使用信息,并不删除历史记录;涉及保存、记忆或隐私设置,要按产品功能另行处理。

引用文献

1. Shi 等(2023),Large Language Models Can Be Easily Distracted by Irrelevant Context,ICML;GSM-IC 算术任务实验

2. Liu 等(2024),Lost in the Middle: How Language Models Use Long Contexts,TACL;多文档问答与键值检索实验