LLM 推理教学站

LLM 推理教学站

地址:sglang-learning.vercel.app/
制作者:Yi-Yi
“
前两天 SGLang Summit 在 SF 开,我对 LLM 推理一直挺感兴趣的,就做了个学习网站,把这块从头梳理了一遍。
从一句话进入模型后会发生什么讲起,Attention、KV Cache、Batching 一路串联下来。
用 Teachable Figures 和 Teachable Code 两项 skill 制作的,分享给大家,欢迎看看”



分类