浩天博客
LLM 可视化教学台

LLM 可视化教学台

LLM 可视化教学台

这个页面用浏览器端模拟把大语言模型的几个核心环节拆开:分词、嵌入向量、自注意力、下一词采样、temperature/top-p 和 KV cache。它不是线上模型推理服务,而是用可控的小样本帮助读者看清每个步骤改变了什么。

观察对象 页面里能调的内容 建议记录 边界说明
Token 输入文本、分词片段和序列位置。 同一句话在不同切分方式下的 token 数。 演示切分不等同于某个商用 tokenizer 的完整实现。
Attention 注意力权重、上下文窗口和位置影响。 哪个 token 对输出贡献最大,是否符合直觉。 小矩阵只用于解释机制,不代表真实模型能力。
Sampling temperature、top-p、候选 token 概率。 同一 prompt 下输出多样性如何变化。 采样变化说明随机性,不保证事实正确。
KV cache 已处理 token、缓存复用和增量生成。 每一步新增计算量和可复用状态。 演示只展示概念,不覆盖真实部署中的显存调度。

LLM 可视化教学台

从 token 到下一词生成

这个教学台只使用浏览器端模拟数据,帮助你观察分词、Embedding、Self-Attention、采样和 KV Cache,不加载真实大模型。

输入

选择示例或输入短句

为了保持可解释性,第一版只保留前 16 个 token,并使用确定性的教学权重。

机制链路演示

像调试器一样看一次 LLM 前向过程

按步骤观察 LLM 管线,当前模块会自动打开并高亮。

0

学习顺序

建议先把 temperature 固定,观察 attention 和 token 位置;再只改变 top-p 或 temperature;最后看 KV cache 为什么能减少重复计算。每次只改一个变量,结论才容易复核。

LLM 相关概念很容易被一句“模型会预测下一个词”带过,但真正影响结果的因素很多:输入怎样切分、上下文怎样汇聚、概率怎样截断、缓存怎样复用。这个页面把这些因素拆成小实验,是为了让读者能看到变量变化,而不是把黑盒模型神秘化。

请不要把演示结果理解成真实模型能力评测。页面中的向量和概率只服务于教学,适合用来解释机制、准备课堂演示或排查概念混淆;如果要评估真实模型,需要单独设计数据集、指标、提示词和安全测试。

如果你要把这里的内容用于报告,可以把截图和文字说明一起保存:当前 prompt、参数、候选 token、注意力变化和最终输出。只有这些上下文完整,别人才能复核你的结论,而不是只看到一张孤立的可视化图。

向下探索