Appearance
GGML 张量库基础
GGML 是 llama.cpp 的底层张量计算库,提供张量定义、计算图构建和自动微分。
涵盖内容
| 章节 | 核心主题 |
|---|---|
| 概念 | 张量、计算图、自动微分 |
| 代码走读 | ggml.h API、ggml.c 实现 |
| 练习 | 构建计算图、理解前向/反向传播 |
核心概念
- tensor — n 维数组,GGML 的基本数据单元
- compute-graph — 有向无环图(DAG),描述张量间的运算关系
- 自动微分 — 前向传播后自动计算梯度
- 内存池 — 通过
ggml_context管理张量的内存分配
前置知识
- 线性代数基础(矩阵运算)
- C 语言结构体与指针
- 了解神经网络的 forward/backward pass
学习路径
读完本主题后,你将理解:
- GGML 张量的内存布局与类型系统
- 如何用 C API 构建计算图
- 前向传播与梯度计算的执行流程
- GGML 的内存管理策略
→ 下一步:GGML 后端与硬件抽象