学习 / TSENGCHEN BLOG

Linux-PageCache-And-IO--06-Embedded-DMA-Practice

01_Learning · 第 9 / 23 篇

嵌入式 DMA 与 dma-buf 实践

本章把页缓存”只传引用”的思想迁移到设备间:驱动与 DMA 引擎、多媒体系各硬件单元(ISP/编解码/显示/GPU)之间如何共享一块内存而不 memcpy。这是 RK 平台上最实用的零拷贝形态。参考文档:Documentation/core-api/dma-api-howto.rst、Documentation/driver-api/dma-buf.rst。

1. CPU 拷贝为什么会出现在驱动里

典型反例:摄像头采集驱动把数据读到内核缓冲,应用 read() 再拷一份;编码前再拷一份进编码器输入缓冲。一帧 1080p NV12 约 3MB,30fps 链路里 memcpy 三次就是每秒 270MB 的纯 CPU 带宽和 cache 污染。嵌入式 SoC 内存带宽本来就紧(共享 DDR 给 CPU/GPU/VPU/ISP 抢),消除这些拷贝收益比服务器更大。

消除手段就是让 DMA 直接读写”最终目的地”的那块内存,全程只在各使用者之间传递”这块内存的引用”。

2. DMA 映射:流式与一致性

驱动使用 DMA 前必须让 CPU 和设备对”这块内存”达成一致——物理地址(或 IOMMU 映射后的设备地址)与 CPU 缓存状态。DMA API(include/linux/dma-mapping.h)分两类:

2.1 流式映射(streaming)

内存本来另有用途(比如就是页缓存、或用户缓冲区),临时借给 DMA 用:

dma_addr_t dma_handle;
dma_handle = dma_map_single(dev, buf, len, DMA_TO_DEVICE);
/* 填描述符、启动 DMA ... 完成后: */
dma_unmap_single(dev, dma_handle, len, DMA_TO_DEVICE);
  • dma_map_* 时 CPU 侧做缓存维护:DMA_TO_DEVICE 方向 clean(把 cache line 冲到 DDR),DMA_FROM_DEVICE 方向 invalidate(丢弃 cache line,防止旧值被 CPU 再读到);
  • 映射期间 CPU 不得碰这块内存(不能改、也不该读)——与 MSG_ZEROCOPY 同一条纪律;
  • 别名映射进阶:异步方向(设备写、CPU 未决读)在完成后用 dma_sync_single_for_cpu() 交还所有权。半途改写、忘记 unmap/sync 是驱动 DMA bug 的两大来源。

2.2 一致性映射(coherent)

长生命周期、CPU 和设备频繁交替访问(描述符环、控制结构):

vaddr = dma_alloc_coherent(dev, size, &dma_handle, GFP_KERNEL);
  • 通常来自非缓存内存或 IOMMU 一致域,CPU 写设备立即可见,无需手工同步;
  • 代价:非缓存内存访问慢,不要拿来放大块数据流。

2.3 swiotlb 与 IOMMU(RK 语境)

  • 设备寻址能力不足(如 32 位 DMA 设备碰上 4GB 以上内存)时,内核用 swiotlb 弹性缓冲区(bounce buffer)中转——等于自动插了一次拷贝,性能敏感路径要避免;
  • RK 平台多数媒体 IP 挂在各自 Rockchip IOMMU 后(DTS 中 rockchip,iommu 节点),dma_map 走 IOMMU 路径:设备看到的是连续 IOVA,物理页可以离散——所以媒体大缓冲不必强求物理连续。

3. dma-buf:设备间的”页引用”标准件

dma-buf 把”一块可被多设备共享的内存”抽象为一个文件描述符。生产者导出,消费者导入:

编码器驱动(导出方)                          显示控制器(导入方)
dma_buf_export() → dma_buf_fd()
  ↓ 应用拿到 fd(through V4L2/DRM UAPI)
                                dma_buf_get(fd)
                                dma_buf_attach()      ← 声明我要用
                                dma_buf_map_attachment()
                                  → 返回 sg_table(页引用集合)
                                  → IOMMU 建好设备地址映射
                            (显示器直接从这个地址读帧,零拷贝)

关键点:

  • sg_table 就是 bvec 的亲戚:一串 {page, len, offset}。第 3、5 章的页引用思想在设备域的对应物。
  • dma_resv(reservation object)锁管理共享语义:写者独占、读者共享,隐式同步够用时零成本,GPU 上下文用 fence 显式同步。
  • 生命周期由 fd 引用计数 + attach 引用计数共同管理,谁最后用完谁释放——和 folio_put() 一个思想。

4. CMA:给 DMA 的大块连续内存

某些老 IP(无 IOMMU、只支持有限 burst/地址窗口)需要物理连续大内存,开机预留即 CMA:

reserved-memory {
    #address-cells = <1>;
    #size-cells = <1>;
    ranges;
    cma: cma@0 {
        compatible = "shared-dma-pool";
        reusable;             /* 平时给页缓存用,需要时再收回来 */
        size = <0x10000000>;  /* 256MB */
        linux,cma-default;
    };
};
  • reusable 是关键:空闲时这块内存借给页缓存当缓存用(走 migration),DMA 申请时再迁移腾出——CMA 和页缓存在这里握手;
  • 有 IOMMU 的 IP(RK3588 大部分媒体单元)不需要 CMA 大预留,按需离散分配即可,能省大量预留内存;
  • 观测:/sys/kernel/debug/cma/cma-default/ 下 used/count;dmesg | grep -i cma 看开机预留结果。

5. V4L2/DRM:零拷贝链路的用户态接口

V4L2 三种 buffer 交换模式(Documentation/userspace-api/media/v4l/buffer.rst):

模式内存归属零拷贝链路用法
V4L2_MEMORY_MMAP驱动分配,应用 mmap单设备最简,跨设备需拷贝
V4L2_MEMORY_USERPTR应用 malloc地址乱、对齐难保证,基本弃用
V4L2_MEMORY_DMABUF某设备导出 fd跨设备标准做法

RK 典型 camera→编码链路:

rkisp 采集, MMAP 分配 buffer 并导出 fd(VIDIOC_EXPBUF)
  → 应用 qbuf 该 fd 到 rkvenc/mpp 的 DMABUF 输入队列
  → 编码输出 fd 可再 qbuf 给 rga 缩放或 drm 显示
全程同一个 dma-buf fd 在设备间流转, CPU 不摸数据

DRM 侧对应机制是 prime(DRM_IOCTL_PRIME_FD_TO_HANDLE):dma-buf fd 与 GEM handle 互转,GPU/显示读到的是同一块内存。

6. 调试与观测

  • dma-buf 总览:/sys/kernel/debug/dma_buf/bufinfo——每个 buffer 的大小、exporter、attach 者列表。链路上”帧没显示完就被释放”之类问题先看这里的引用者。
  • DMA 映射调试:内核打开 CONFIG_DMA_API_DEBUG,映射/解映射不配对、地址越界会告警。
  • 缓存一致性问题特征:图像花屏但 CRC 数据正确、复现依赖 CPU 频率/负载——优先怀疑漏了 dma_sync_* 或映射方向搞反。
  • 帧链路排查顺序:bufinfo 确认同一 fd 被两端 attach → v4l2-ctl --stream-mmap/--stream-dmabuf 单独验证每段 → 简化到两设备最小链路。

自检题

  1. dma_map_single 在 DMA_TO_DEVICE 和 DMA_FROM_DEVICE 方向分别对 CPU 缓存做什么?为什么方向不同动作相反?
  2. 流式映射期间 CPU 为什么不能访问这块内存?需要中途访问时用什么 API 交还/取回所有权?
  3. 有 IOMMU 的设备为什么可以不依赖 CMA?swiotlb 出现意味着什么?
  4. dma-buf 的 sg_table 和第 5 章 skb 的 frags 在思想上有何相同?
  5. 描述 rkisp→编码器零拷贝链路中应用要做的系统调用序列,以及数据被 memcpy 的次数。

参考答案见 07-Appendix-Answers-and-Resources.md。

01_Learning · 文档目录
上一篇Linux-PageCache-And-IO--05-Zero-Copy下一篇Linux-PageCache-And-IO--07-Appendix-Answers-and-Resources