猜下一个字接龙：大语言模型怎么写句子

实验目的

理解大语言模型是通过不断预测下一个字（词）来生成文字的。

实验原理

大语言模型在大量文本上训练，学到了字词一起出现的规律。生成时，它根据已有的上文，给每个可能的下一个字（词）估算一个可能性，再从中选出一个接在后面；新的文字又成为上文，重复这一步，直到句子结束。可能性高的字更容易被选中，但不一定每次都选最高的。

实验器材

• 接龙开头的文字
• 模型给出的候选字及其可能性
• 选择并接龙的操作按钮
• 电脑或平板
• 纸和笔（记录自己猜的字）

实验步骤

1. 打开页面，阅读给出的开头文字。
2. 先不看提示，自己猜下一个字，写在纸上。
3. 查看模型给出的候选字和各自的可能性。
4. 选择一个字接到句子后面，进入下一轮。
5. 重复接龙，直到得到一句完整的话。
6. 比较自己的猜测和模型的结果，说说为什么不同。

实验现象与结论

同一个开头，下一个字往往有多个合理的选择，其中常见搭配的可能性更高。每接上一个字，上文就变了，后面的候选字也随之改变。结论：大语言模型生成文字，就是“预测下一个字、接上去、再预测”的循环，依据的是从大量文本中学到的规律。

常见问题

大语言模型真的是一个字一个字生成的吗？

模型是一小段一小段依次预测的，这一小段叫词元，可能是字、词或词的一部分。本演示用“字”来简化说明。

为什么同一个开头，每次接出来的句子可能不一样？

模型给出的是各个候选的可能性，选择时带有一定随机性，所以每次的结果可能不同。