The cat sat on the ▌
- mat60%
- floor16%
- chair12%
- roof4%
候选已算出
mat 60% 最高，floor / chair 也能被采到。
先认出这条正在写的回复，再决定下一词
下面就是聊天里那条还没写完的草稿。默认已算出下一词候选；挑最高会收成一句，走偏会把奇怪的词写进气泡。
原因：模型只看已写入的词，给下一片段算概率。下一步：挑最高看它怎么收尾，或走偏看句子怎么歪。
知识点：一次一个片段
气泡和候选条已经演过，这里只给命名。
- 大语言模型一次只写一个 token（文字片段），不是想好整句再吐。
- 每步给出概率分布；默认挑最高，温度高了才敢采低概率。
- 新片段会塞回上下文，下一步只看已经写下的词。
- ⟨EOS⟩ 是结束符：它排到最高时，生成自己停下。
什么时候用、怎么用
它擅长像人一样写，不擅长必须 100% 对的事。
- 信号：要起草、改写、翻译、总结，且你能事后核对。
- 适用：给足材料，再让它按格式写；流畅不等于正确。
- 不适用：精确计算、最新事实、几行代码就能确定的事。
- 最短路径：贴上下文 → 说清要什么 → 对照材料核完再用。
正反例：同一句客服回复，差一个材料
都让它写退款说明，只改有没有贴政策。
它按政策写「符合条件 7 天内可退」，你对照原文后再发出去。
它可能编出很顺的「无理由退款」。越像人话，越容易被直接发出。
快速自测
模型很流畅地写出「我们的退款政策是 7 天无理由」，你下一步最该做什么？
继续查证
术语的技术定义和行为以这些一手或权威资料为准。
下一步学
和本知识点经常一起出现的概念。