mmap简单理解

 我来答
新科技17
2022-07-08 · TA获得超过5967个赞
知道小有建树答主
回答量:355
采纳率:100%
帮助的人:78.4万
展开全部

在开始谈零拷贝之前,首先要对传统的IO方式有一个概念。

基于传统的IO方式,底层实际上通过调用 read() 和 write() 来实现。

通过 read() 把数据从硬盘读取到内核缓冲区,再复制到用户缓冲区;然后再通过 write() 写入到 socket缓冲区 ,最后写入网卡设备。

整个过程发生了 4次用户态和内核态的上下文切换 4次拷贝 ,具体流程如下:

那么,这里指的 用户态 内核态 指的是什么?上下文切换又是什么?

简单来说,用户空间指的就是用户进程的运行空间,内核空间就是内核的运行空间。

如果进程运行在内核空间就是内核态,运行在用户空间就是用户态。

为了安全起见,他们之间是互相隔离的,而在用户态和内核态之间的上下文切换也是比较耗时的。

从上面我们可以看到,一次简单的IO过程产生了4次上下文切换,这个无疑在高并发场景下会对性能产生较大的影响。

那么什么又是 DMA 拷贝呢?

因为对于一个IO操作而言,都是通过CPU发出对应的指令来完成,但是相比CPU来说,IO的速度太慢了,CPU有大量的时间处于等待IO的状态。

因此就产生了DMA(Direct Memory Access)直接内存访问技术,本质上来说他就是一块主板上独立的芯片,通过它来进行内存和IO设备的数据传输,从而减少CPU的等待时间。

但是无论谁来拷贝,频繁的拷贝耗时也是对性能的影响。

那么对于零拷贝而言,并非真的是完全没有数据拷贝的过程,只不过是减少用户态和内核态的切换次数以及CPU拷贝的次数。

这里,仅仅有针对性的来谈谈几种常见的零拷贝技术。

mmap+write简单来说就是使用 mmap 替换了read+write中的read操作,减少了一次CPU的拷贝。

mmap 主要实现方式是将读缓冲区的地址和用户缓冲区的地址进行映射,内核缓冲区和应用缓冲区共享,从而减少了从读缓冲区到用户缓冲区的一次CPU拷贝。

整个过程发生了 4次用户态和内核态的上下文切换 3次拷贝 ,具体流程如下:

mmap 的方式节省了一次CPU拷贝,同时由于用户进程中的内存是虚拟的,只是映射到内核的读缓冲区,所以可以节省一半的内存空间,比较适合大文件的传输。

相比 mmap 来说, sendfile 同样减少了一次CPU拷贝,而且还减少了2次上下文切换。

sendfile 是Linux2.1内核版本后引入的一个系统调用函数,通过使用 sendfile 数据可以直接在内核空间进行传输,因此避免了用户空间和内核空间的拷贝,同时由于使用 sendfile 替代了 read+write 从而节省了一次系统调用,也就是2次上下文切换。

整个过程发生了 2次用户态和内核态的上下文切换 3次拷贝 ,具体流程如下:

sendfile 方法IO数据对用户空间完全不可见,所以只能适用于完全不需要用户空间处理的情况,比如静态文件服务器。

Linux2.4内核版本之后对 sendfile 做了进一步优化,通过引入新的硬件支持,这个方式叫做DMA Scatter/Gather 分散/收集功能。

它将读缓冲区中的数据描述信息--内存地址和偏移量记录到socket缓冲区,由 DMA 根据这些将数据从读缓冲区拷贝到网卡,相比之前版本减少了一次CPU拷贝的过程

整个过程发生了 2次用户态和内核态的上下文切换 2次拷贝 ,其中更重要的是完全没有CPU拷贝,具体流程如下:

DMA gather 和 sendfile 一样数据对用户空间不可见,而且需要硬件支持,同时输入文件描述符只能是文件,但是过程中完全没有CPU拷贝过程,极大提升了性能。

对于文章开头说的两个场景:RocketMQ和Kafka都使用到了零拷贝的技术。

对于MQ而言,无非就是生产者发送数据到MQ然后持久化到磁盘,之后消费者从MQ读取数据。

对于RocketMQ来说这两个步骤使用的是 mmap+write ,而Kafka则是使用 mmap+write 持久化数据,发送数据使用 sendfile 。

已赞过 已踩过<
你对这个回答的评价是?
评论 收起
华南检测机构
2025-03-04 广告
ISTA 3E测试是对集合包装的综合模拟测试,适用于我司产品固定于托盘或滑板上的单元运输包装。测试涵盖温湿度预处理、冲击测试(包括斜面冲击和旋转棱跌落)、压缩测试及振动测试,全面评估包装在运输过程中的安全性与可靠性。测试样品需与出货包装一致... 点击进入详情页
本回答由华南检测机构提供
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式