NVMe管理命令为何不用SGL？-1

最新推荐文章于 2025-02-12 20:52:47 发布

古猫先生

最新推荐文章于 2025-02-12 20:52:47 发布

阅读量977

点赞数 10

CC 4.0 BY-SA版权

分类专栏： NVMe 文章标签：服务器大数据人工智能

34 篇文章

订阅专栏

本文详细解释了NVMePRP和SGL在Host与Controller数据交互中的作用，包括它们如何帮助定位内存地址，Linux内核中如何通过iod->use_sgl和sgl_threshold决定使用哪种模型，以及在不同场景下的应用和控制器兼容性检查。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

上周末在公众号后台收到粉丝留言，主要是关于SGL的交流：“SGL为啥不能用于nvme admin cmd”？

回答这个问题前，首先，我们先回顾下NVME PRP和SGL的基本原理以及应用场景。

在Host与Controller之间有数据交互时，Controller会多次访问Host内存。比如执行NVMe Read/Write:

当Host下发NVMe Write命令时，Host会先放数据放在Host内存中，然后通知Controller过来取数据。Controller接到信息后，会通过PCIe Memory Read TLP读取相应的数据，接着Host返回的PCIe Completion报文中会携带数据给Controller，最后再写入NAND中。
当Host下发NVMe Read命令时，Controller先从NAND中读出相应数据，然后通过PCIe Memory Write TLP将数据写入Host内存中。

上述Read/Write均有访问Host内存进行数据交互，那么，问题来了：

不怕，NVMe给Host配备了两大"法宝"：PRP和SGL。这两个模型均可以帮助Host告知Controller数据在Host内存中的具体地址。

PRP和SGL是描述Host内存物理空间的两种方式，本质的不同是：PRP必须是物理页对齐的，而SGL则可以表述任意的物理空间。如下图。

在Linux内核中，Block层下发的IO请求以BIO表示。我们需要通过DMA发送这些数据，Command使用dma_alloc_coherent分配DMA地址，但是BIO是存放在普通的内核线程空间的（线程的虚拟空间不能直接作为DMA地址）。

Linux函数nvme_map_data能够将虚拟空间地址（BIO数据存放地址）转换成DMA可用地址，并且多个IO请求的DMA地址可以通过scatterlist来表示。有了DMA地址就可以把BIO封装成NVMe Command发送出去。

所以，linux驱动中nvme_map_data中针对NVME Command的IO传输格式就有了很重要的设定。比如，函数nvme_map_data中有iod->use_sgl的结果可以觉得IO传输过程中是使用SGL还是PRP。

而iod->use_sgl的返回结果依赖函数nvme_pci_use_sgls的判断，主要有两种情况：

当SGL不支持的时，iod->use_sgl返回false，对应的IO数据传输就采用PRP了。
当平均请求大小avg_seg_size值小于SGL阈值sgl_threshold时，也返回false，需要采用PRP。也就是说，使用SGL情况，必须要要求avg_seg_size大于等于sgl_threshold。SGL比较适合大块数据的传输。

sgl_threshold的定义是32KB，avg_seg_size和sgl_threshold的计算对比关系如下示例：

blk_rq_nr_phys_segments = 2，blk_rq_payload_bytes = 8k，那么，avg_seg_size = blk_rq_payload_bytes/blk_rq_nr_phys_segments=4K，这种情况avg_seg_size<sgl_threshold,那就需要采用PRP了。
blk_rq_nr_phys_segments = 2，blk_rq_payload_bytes = 64k，那么，avg_seg_size = blk_rq_payload_bytes/blk_rq_nr_phys_segments=32K，这种情况avg_seg_size=sgl_threshold,那就可以采用SGL了。
blk_rq_nr_phys_segments = 16，blk_rq_payload_bytes = 64k，那么，avg_seg_size = blk_rq_payload_bytes/blk_rq_nr_phys_segments=4K，这种情况avg_seg_size<sgl_threshold,那就需要采用PRP了。