Visual & Interactive Algorithm Learning Platform
AlgoLab
算法可视化与交互学习平台。每个算法页面都是一篇可执行教程，组合说明、公式、代码、分步执行、图表、参数交互和 LLM 解释。
线性模型中的梯度下降
用最小线性回归例子理解 loss、gradient、参数更新，并通过实时调参观察训练曲线与拟合效果。
学习路径：AI 核心原理用 MLP 拟合非线性关系
从最小两层感知机出发，理解隐藏层、ReLU、反向传播和 autograd，并通过交互实验观察 MLP 如何拟合非线性关系。
学习路径：AI 核心原理系统理解 Transformer：Self-Attention 如何让词彼此看见
从最小词序列任务出发，系统拆解 Q/K/V、scaled dot-product attention、softmax、信息融合、多头注意力和 Tiny Transformer 训练过程。
学习路径：AI 核心原理 · 图像生成VAE：从 latent space 到概率生成
从最小二维 latent space 出发，理解 Encoder 如何输出 μ 和 σ、重参数化如何采样 z、Decoder 如何生成结果，以及 reconstruction loss 与 KL loss 如何共同塑造可生成的连续空间。
学习路径：AI 核心原理 · 图像生成学习 Diffusion / DDPM：从加噪去噪到图像生成
从 DDPM 的前向扩散公式出发，用最小二维数据和 16×16 几何图像理解 forward 加噪、高斯噪声张量 epsilon、噪声预测训练目标、reverse 去噪采样和 scheduler 直觉，并通过 Tiny DDPM 实验观察模型如何从雪花噪声中恢复图像结构。
学习路径：AI 核心原理学习 GPT：从预测下一个 token 到 TinyGPT 与规模化范式
用一个最小字符级 GPT 实验理解 decoder-only Transformer：文本如何变成 token 和 embedding，causal self-attention 如何禁止偷看未来，cross entropy loss 如何驱动模型学习下一个 token 的概率分布；再通过文本续写、一位数加法、涌现能力、参数压缩和世界模型视角，理解 GPT 如何从 TinyGPT 骨架走向大规模语言模型范式。
学习路径：AI 核心原理 · 现代 LLM 实战TinyCodeGPT：从零训练一个本地任务代码生成模型
把前面 GPT 的 next-token 原理推进到真实工程闭环：设计 Math、Python、NumPy、Pandas、Matplotlib、ML 六类 task→code 任务，利用大模型蒸馏生成训练数据，自动验证清洗样本，在本机用 PyTorch 训练 TinyCodeGPT，实时观察 loss、token 概率、checkpoint 和生成代码的运行结果，让初学者完整学会自己训练一个小型 LLM 任务模型。
学习路径：AI 核心原理 · 现代 LLM 实战Tool-Calling TinyGPT：训练一个会调用工具的小模型
在 TinyCodeGPT 的本地训练闭环之上进入第二阶段：不再让小模型直接写完整代码，而是训练它把用户请求翻译成 CALL calculator / CALL plot / CALL search 三类结构化工具指令，并在本地执行、验证、评测工具选择准确率、JSON 合法率和执行通过率。
学习路径：现代 LLM 实战LoRA 领域助手：微调一个本地 1.5B~3B 小模型
第三阶段从 TinyGPT 走向真正可用的本地领域助手：选择用户本地已下载的 1.5B~3B instruct 模型，用 LoRA 或 QLoRA 只训练少量 adapter 参数，通过本地 HTTP runner 调用 GPU 优先训练、保存 checkpoint、加载当前 adapter 推理，并用领域问答评测从 loss 走向可用性。
学习路径：图像生成学习 Latent Diffusion：在 latent space 中做 DDPM 图像生成
把 No.4 的 VAE latent space 和 No.5 的 DDPM 加噪去噪接起来，理解 Latent Diffusion 如何先把图像压缩成 latent，再在 latent 空间中训练噪声预测模型，最后通过 Decoder 把去噪后的 latent 还原成图像。
学习路径：图像生成学习 Cross Attention：Prompt 如何控制 Latent Diffusion
在 No.4 VAE、No.5 DDPM 和 No.10 Latent Diffusion 的基础上，理解 Cross Attention 如何把 prompt token 注入 denoising network，让 latent 空间中的每个位置在预测噪声时读取文字条件，从而控制图像生成方向。
学习路径：图像生成学习 DiT：从 U-Net Denoiser 到 Diffusion Transformer
在 No.3 Transformer、No.4 VAE、No.5 DDPM、No.10 Latent Diffusion 与 No.11 条件生成的基础上，理解 DiT 如何把 noisy latent 切成 patch tokens，通过 timestep/class embeddings 与 adaLN-Zero 调制 Transformer blocks，在不改变 DDPM 训练目标和采样规则的前提下，用 Transformer 替换 U-Net denoiser。
学习路径：图像生成学习 Flow Matching：从 Diffusion 到 Rectified Flow
承接 No.4 VAE、No.5 DDPM、No.10 Latent Diffusion、No.11 条件生成与 No.12 DiT，把生成目标从预测噪声改写为学习连续速度场，理解 Flow Matching、Rectified Flow、Reflow 与 ODE 采样，并用 Tiny DiT 在 latent 中完成条件生成。
学习路径：Embedding / RAG学习 Embedding：从 Token 表示到语义向量空间
作为 RAG → Agent 系列的起点，从 text → tokenizer → embedding → vector space → cosine similarity 建立完整数学与工程直觉；通过 2D/3D 空间、Pooling、归一化、相似度矩阵和 Top-k 检索实验，把经典词向量自然过渡到 modern sentence embedding。
学习路径：Embedding / RAGVector Search：从暴力搜索到向量数据库
承接 No.14 已生成的 query / chunk vectors，从逐项打分与 Top-K heap 建立 exact baseline；再用 100→1,000→10,000→100,000 chunks 的浏览器实测撞上 O(Nd) 规模墙，亲手操作 HNSW 与 IVF，并用 Recall@K、候选访问数和尾延迟理解 ANN 的质量—成本权衡，最终封装成 RAG 可复用的 vector index search contract。
学习路径：现代 LLM 实战 · Embedding / RAGRAG：让本地模型读取 AlgoLab 知识
把 No.9 的 Qwen / LoRA 领域助手与 AlgoLab Modules 1–13 的课程文档真正接起来：文档读取、chunk、hash-ngram baseline、Top-K、Context Budget 与检索评测默认在 AlgoLab Backend 的 CPU 上真实执行；只有可选的本地 Transformer embedding 与 Qwen / LoRA 生成才交给模块统一配置的 Local Runner。用“为什么 Tool Calling 不能只看 loss？”验证系统能先定位 No.8，再依据固定证据回答，并分层区分检索、上下文与生成失败。
学习路径：现代 LLM 实战 · Agent / 工程交付ReAct Agent：从一次调用到可控行动循环
概念上直接承接 No.8 的单次 Tool CALL：把本地模型提出的候选动作交给受约束 Runtime 校验与执行，再将真实 Observation 回灌到下一状态，直到提交证据覆盖完整的 Final Answer，或由 max_steps、工具调用、墙钟时间、input/output token 及循环检测安全停止。核心实验不依赖 No.8 的页面、语料或本地服务，而是下载一个包含 Agent、工具、知识资料、prompt、schema、测试和 manifest 的完整示例包；浏览器沿用 No.16 的本地运行方式，直连 127.0.0.1:4890 上的 algolab_local_runner.py，由用户下载的 Qwen2.5 本地模型自主完成 AgentEval Mini knowledge_search → calculator → plot → Final，并返回可按 after_seq 增量轮询的完整 execution trace。
学习路径：现代 LLM 实战 · Agent / 工程交付Planning & Execution：从下一步行动到完整任务
No.17 用 state → action → observation 解决局部的‘下一步做什么’，No.18 把同一控制能力提升为完整任务闭环：先把模糊请求写成带验收证据的 Goal Contract，再拆成具有稳定 Step ID、输入输出契约和依赖关系的 DAG，经 Plan Validation 后调度串行与并行步骤，持续记录状态、预算和取消传播；遇到结构性失败时保留有效产物、替换失败子图并重新验收。核心浏览器实验在同一复杂任务、同一失败注入和同一预算下真实比较 ReAct only、Plan → Execute 与 Plan → Execute → Replan，并从 execution trace 计算七项指标。
学习路径：现代 LLM 实战 · Agent / 工程交付Context & Memory：让长任务不中断、不失忆
No.18 让 Agent 用 Goal、DAG、Execution Ledger 与 Replan 对完整任务负责；No.19 继续解决时间维度上的状态连续性：Conversation History 变长、任务被中断或知识发生更新后，Agent 怎样只把当前、可信、可追溯的最小状态装配进 Prompt Context，并从 checkpoint 安全恢复。本章不把 Memory 简化为向量数据库，而是用同一份长任务 corpus 真实比较 Memory Off、完整历史、摘要、向量记忆与结构化记忆，从实际 read set、冲突、checkpoint 字段与 Context 预算计算 Precision / Recall、Stale Use、Contradiction、Resume、Task Delta、Tokens 与读写延迟。
学习路径：现代 LLM 实战 · Agent / 工程交付Coding Agent Engineering：让 Agent 在真实仓库中工作
No.17 建立 Action → Observation 控制循环，No.18 让 Agent 能规划与 Replan，No.19 让任务可以 checkpoint / resume；No.20 把这些能力放进真实 Git repository。用户下载完整示例包和本地 Qwen2.5-Coder-1.5B-Instruct，浏览器直连 127.0.0.1:4891 的 Mini Coding Agent Runner：模型提出搜索、计划、诊断与交付候选，确定性 Runtime 负责路径授权、真实文件修改、Git、build、lint、test 和 receipts。六个递进实验共用一次模型加载，在隔离 Todo CLI 仓库中真实经历定位、首轮失败、重规划、修复、验证与 diff 审查，也可在明确批准后切换到自选仓库；全程不使用预填成功 trace。