1. 它在预测下一段文字
聊天机器人由大语言模型（LLM）驱动。模型读取你的消息，然后一小块一小块地写出回答。这些小块叫做 Token——大约相当于一个短词或词的一部分。每一步，它都会根据前面的全部内容选出一个可能的下一个 Token。
因为它是逐步生成答案的，所以在复杂问题上，让它“一步一步思考”或先做计划再回答，往往能提高质量。许多助手现在会在“推理”或“深度思考”模式下自动这样做。
2. 上下文窗口是它的短期记忆
模型一次能“看到”的全部内容——你的消息、它的回复、上传的文件——叫做上下文窗口。现在的窗口能容纳整本书，但仍然有限。在很长的对话中，早期细节可能被遗忘或被忽视。
- 切换到无关的新任务时，开启一个新对话。
- 如果长对话开始跑偏，重新粘贴关键事实。
- 用 Projects、自定义 GPT 或 Gems（第 4 模块）保存长期指令。
3. 训练数据有截止日期
模型从截至某一日期收集的数据中学习。之后的事情——价格、新闻、软件新版本——模型并不知道，除非它能联网搜索或你提供信息。如果答案依赖最新事实，请开启联网搜索或自己粘贴来源。
4. 工具扩展了它的能力
模型本身只会生成文字。连接工具后，助手的能力大幅提升：联网搜索、运行代码、读取文件、生成图像或操作其他应用。当你看到助手在“分析数据”或“浏览网页”，它就是在调用工具并读取结果。
聊天机器人为什么会编造
当模型没有正确信息时，“最像样”的续写可能是一个具体、自信但错误的答案，这叫做幻觉。它最常出现在精确数字、引文、链接、冷门事实和最新事件上。
减少幻觉的方法：提供原始资料，要求它不确定时说“我不知道”，要求给出可打开的来源，并核查一切重要内容。
减少编造的提示词
只根据下面粘贴的文档回答。如果文档里没有答案，就写“文档中没有。”请逐字引用你依据的句子。 [粘贴文档]