教学项目 Tiny-LLM:从零构建 LLM 推理引擎与 Coding Agent 阅千帆 2026-11-19 12:05:48 教学项目 Tiny-LLM:从零构建 LLM 推理引擎与 Coding Agent 地址:github.com/skyzh/tiny-llm 教学目标是让系统工程师从底层理解并亲手实现大语言模型推理系统。 项目基于 Apple Silicon、MLX、Metal 和 Qwen3,逐步实现 Attention、矩阵计算、KV Cache 和推理调度等核心组件。 Tiny-LLM 强调从数学运算到 GPU Kernel,再到完整推理服务的工程实现过程。 目前还没有全部完工~