LLM 可视化教学台
这个页面用浏览器端模拟把大语言模型的几个核心环节拆开:分词、嵌入向量、自注意力、下一词采样、temperature/top-p 和 KV cache。它不是线上模型推理服务,而是用可控的小样本帮助读者看清每个步骤改变了什么。
| 观察对象 | 页面里能调的内容 | 建议记录 | 边界说明 |
|---|---|---|---|
| Token | 输入文本、分词片段和序列位置。 | 同一句话在不同切分方式下的 token 数。 | 演示切分不等同于某个商用 tokenizer 的完整实现。 |
| Attention | 注意力权重、上下文窗口和位置影响。 | 哪个 token 对输出贡献最大,是否符合直觉。 | 小矩阵只用于解释机制,不代表真实模型能力。 |
| Sampling | temperature、top-p、候选 token 概率。 | 同一 prompt 下输出多样性如何变化。 | 采样变化说明随机性,不保证事实正确。 |
| KV cache | 已处理 token、缓存复用和增量生成。 | 每一步新增计算量和可复用状态。 | 演示只展示概念,不覆盖真实部署中的显存调度。 |
LLM 可视化教学台
从 token 到下一词生成
这个教学台只使用浏览器端模拟数据,帮助你观察分词、Embedding、Self-Attention、采样和 KV Cache,不加载真实大模型。
输入
选择示例或输入短句
为了保持可解释性,第一版只保留前 16 个 token,并使用确定性的教学权重。
机制链路演示
像调试器一样看一次 LLM 前向过程
按步骤观察 LLM 管线,当前模块会自动打开并高亮。
0
学习顺序
建议先把 temperature 固定,观察 attention 和 token 位置;再只改变 top-p 或 temperature;最后看 KV cache 为什么能减少重复计算。每次只改一个变量,结论才容易复核。
LLM 相关概念很容易被一句“模型会预测下一个词”带过,但真正影响结果的因素很多:输入怎样切分、上下文怎样汇聚、概率怎样截断、缓存怎样复用。这个页面把这些因素拆成小实验,是为了让读者能看到变量变化,而不是把黑盒模型神秘化。
请不要把演示结果理解成真实模型能力评测。页面中的向量和概率只服务于教学,适合用来解释机制、准备课堂演示或排查概念混淆;如果要评估真实模型,需要单独设计数据集、指标、提示词和安全测试。
如果你要把这里的内容用于报告,可以把截图和文字说明一起保存:当前 prompt、参数、候选 token、注意力变化和最终输出。只有这些上下文完整,别人才能复核你的结论,而不是只看到一张孤立的可视化图。
