LLaMA on Kerroの奇妙冒険https://blog.kerro.cn/tags/llama/Recent content from Kerroの奇妙冒険Hugozh-CN本博客所有文章除特别声明外，均采用 BY-NC-SA 许可协议。转载请注明出处！Fri, 17 Jul 2026 13:00:00 +0800拆开 LLM（三）：手写 Transformer，然后把它换件成 LLaMAhttps://blog.kerro.cn/2026/07/17/llm-anatomy-03-transformer-to-llama/Fri, 17 Jul 2026 13:00:00 +0800https://blog.kerro.cn/2026/07/17/llm-anatomy-03-transformer-to-llama/ 拆开 LLM（三）：手写 Transformer，然后把它换件成 LLaMA

作者：Kerro（）

llm-anatomy 是一个"把 LLM 拆开看"的教学连载：不调库、不背黑话，每一章把大模型的一个器官亲手造一遍，所有结论都配可复现的实验数字。

上一篇《拆开 LLM（二）：手撕注意力》把注意力这台发动机完全拆开了。这一篇把整车焊出来：先造一台 2017 年的原版 Transformer，再像换汽车零件一样，把它逐件换成 LLaMA。

本文2026-07-17首发于Kerroの奇妙冒険，最后修改于2026-07-17

]]>项目实战