Skip to content

GGML 张量库基础

GGML 是 llama.cpp 的底层张量计算库,提供张量定义、计算图构建和自动微分。

涵盖内容

章节核心主题
概念张量、计算图、自动微分
代码走读ggml.h API、ggml.c 实现
练习构建计算图、理解前向/反向传播

核心概念

  • tensor — n 维数组,GGML 的基本数据单元
  • compute-graph — 有向无环图(DAG),描述张量间的运算关系
  • 自动微分 — 前向传播后自动计算梯度
  • 内存池 — 通过 ggml_context 管理张量的内存分配

前置知识

  • 线性代数基础(矩阵运算)
  • C 语言结构体与指针
  • 了解神经网络的 forward/backward pass

学习路径

读完本主题后,你将理解:

  • GGML 张量的内存布局与类型系统
  • 如何用 C API 构建计算图
  • 前向传播与梯度计算的执行流程
  • GGML 的内存管理策略

→ 下一步:GGML 后端与硬件抽象