作者董董灿,致力于小伙伴快速入门AI技术。公众号《董董灿是个攻城狮》主理人,多年AI算法开发和调优经验。
本专栏共 7 次课程,会带你从零开始手写一个大模型,并且讲透一个大模型在运行过程中需要的背景和算法原理。
从零实现的内容包含:大模型的前处理/后处理,多头注意力机制的实现,GQA 的实现,前馈神经网络,大模型的后处理等内容。
非常适合想要入门大模型并且有提高的同学,祝你学有所成,收获满满。
扫描下方二维码后查看置顶文章,有更详细的介绍哦。

18订阅
10内容
79.4k字数
订阅专栏

扫码订阅专栏

使用微信扫一扫

编辑结论

适合想通过动手实践深入理解大模型原理的入门者,内容扎实且体系完整。

订阅人数
18
同类 Top 70%
最近更新
650 天前
共 10 篇
免费试读
1 篇
79,387 字
作者
董董灿
创作者
适合你,如果你…
  • 你想从零手写一个能对话的大模型
  • 你对注意力机制、位置编码等技术原理不满足于纸面理解
  • 你希望有一位经验丰富的工程师带你逐步实现
  • 你偏爱小而精的实战课程而非大而全的理论科普
建议跳过,如果你…
  • 已经能独立实现Transformer并熟悉所有细节
  • 只想要理论讲解不需要代码实战
  • 预算有限且更偏好免费零散资源
  • 期待包含训练、微调或工程部署等进阶内容

内容大纲

  1. 1.Part7、构建一个完整的大模型,开始对话付费
  2. 2.Part6、大模型的后处理流程付费
  3. 3.Part 5:实现完整的前馈神经网络层,一鼓作气拿下整个模型(Model)付费
  4. 4.Part 4:实现完整的注意力:嵌入 RoPE 和 KVCache付费
  5. 5.Part3: 实现旋转位置编码付费
  6. 6.开发环境配置付费
  7. 7.Part2: 深入理解 Qwen2 的模型细节,开始实现注意力运算付费
  8. 8.Part1: 熟悉并实战完成文本到词嵌入的整体流程付费
  9. 9.《从零手写大模型》必读 | 大纲付费
  10. 10.Part0、手写大模型前必读付费

常见问题

零基础能学吗?需要哪些前置知识?

需要基础Python编程能力,了解简单神经网络概念即可。专栏会讲解原理,且代码配有注释,零基础也能跟上。

更新频率如何?会持续更新吗?

目前已更新全部7次课程共10篇文章,内容完整。后续可能根据学员反馈补充答疑或扩展内容。

和免费视频或文章比,这个专栏值吗?

免费资源通常零散、缺乏体系。本专栏由一线AI专家系统梳理,每一步都有代码实现和原理解释,能帮你节省大量筛选和试错时间。

学完后能达到什么水平?

能独立手写一个小型大模型推理流程,深入理解Transformer核心组件,为后续学习或工作打下扎实基础。

可以退款吗?

知识付费产品付款后通常不支持退款。建议先通过免费文章了解风格,确认适合再订阅。

查看详细介绍

《从零手写大模型实战》是董董灿为AI技术爱好者打造的实战型专栏,旨在帮助读者从零开始掌握大模型的核心技术与实现方法。

专栏简介

本专栏以Qwen2模型为例,详细讲解大模型的架构、算法及代码实现。内容涵盖文本预处理、词嵌入、注意力机制、旋转位置编码(RoPE)、GQA(分组查询注意力)、前馈神经网络等关键技术点,最终带领读者构建一个完整的大模型并进行实际对话。

内容亮点

  • 系统化学习路径:从tokenization到模型部署,7个Part渐进式教学
  • 原理+实战结合:每个模块均包含算法原理讲解与Python代码实现
  • 前沿技术覆盖:包含RoPE、GQA、KVCache等最新优化技术
  • 完整项目实战:最终实现一个具备对话能力的大模型

适合人群

  • 有一定Python基础的开发者
  • 希望理解Transformer架构细节的AI学习者
  • 想要突破API调用层面,掌握大模型底层技术的工程师

学习收获

  • 深入理解大模型各模块的算法原理
  • 掌握从文本处理到模型推理的完整流程
  • 具备手写简化版大模型的能力
  • 为后续模型调优和二次开发打下坚实基础

准备开始你的 学习之旅 了吗?

立即免费试读,确认风格与节奏符合预期后再订阅。

免费试读
已有 18 人订阅