开发文章

内存映射文件原理探索

一直都对内存映射文件这个概念很模糊,不知道它和虚拟内存有什么区别,而且映射这个词也很让人迷茫,今天终于搞清楚了。。。下面,我先解释一下我对映射这个词的理解,再区分一下几个容易混淆的概念,之后,什么是内存映射就很明朗了。

 

原理

首先,“映射”这个词,就和数学课上说的“一一映射”是一个意思,就是建立一种一一对应关系,在这里主要是只 硬盘上文件 的位置与进程 逻辑地址空间 中一块大小相同的区域之间的一一对应,如图1中过程1所示。这种对应关系纯属是逻辑上的概念,物理上是不存在的,原因是进程的逻辑地址空间本身就是不存在的。在内存映射的过程中,并没有实际的数据拷贝,文件没有被载入内存,只是逻辑上被放入了内存,具体到代码,就是建立并初始化了相关的数据结构(struct address_space),这个过程有系统调用mmap()实现,所以建立内存映射的效率很高。

内存映射原理.jpg

图1.内存映射原理 

 

既然建立内存映射没有进行实际的数据拷贝,那么进程又怎么能最终直接通过内存操作访问到硬盘上的文件呢?那就要看内存映射之后的几个相关的过程了。

 

mmap()会返回一个指针ptr,它指向进程逻辑地址空间中的一个地址,这样以后,进程无需再调用read或write对文件进行读写,而只需要通过ptr就能够操作文件。但是ptr所指向的是一个逻辑地址,要操作其中的数据,必须通过MMU将逻辑地址转换成物理地址,如图1中过程2所示。这个过程与内存映射无关。

 

前面讲过,建立内存映射并没有实际拷贝数据,这时,MMU在地址映射表中是无法找到与ptr相对应的物理地址的,也就是MMU失败,将产生一个缺页中断,缺页中断的中断响应函数会在swap中寻找相对应的页面,如果找不到(也就是该文件从来没有被读入内存的情况),则会通过mmap()建立的映射关系,从硬盘上将文件读取到物理内存中,如图1中过程3所示。这个过程与内存映射无关。

 

如果在拷贝数据时,发现物理内存不够用,则会通过虚拟内存机制(swap)将暂时不用的物理页面交换到硬盘上,如图1中过程4所示。这个过程也与内存映射无关。

 

 

效率


 

从代码层面上看,从硬盘上将文件读入内存,都要经过文件系统进行数据拷贝,并且数据拷贝操作是由文件系统和硬件驱动实现的,理论上来说,拷贝数据的效率是一样的。但是通过内存映射的方法访问硬盘上的文件,效率要比read和write系统调用高,这是为什么呢?原因是read()是系统调用,其中进行了数据拷贝,它首先将文件内容从硬盘拷贝到内核空间的一个缓冲区,如图2中过程1,然后再将这些数据拷贝到用户空间,如图2中过程2,在这个过程中,实际上完成了 两次数据拷贝 ;而mmap()也是系统调用,如前所述,mmap()中没有进行数据拷贝,真正的数据拷贝是在缺页中断处理时进行的,由于mmap()将文件直接映射到用户空间,所以中断处理函数根据这个映射关系,直接将文件从硬盘拷贝到用户空间,只进行了 一次数据拷贝 。因此,内存映射的效率要比read/write效率高。

 

read系统调用原理.jpg

下面这个程序,通过read和mmap两种方法分别对硬盘上一个名为“mmap_test”的文件进行操作,文件中存有10000个整数,程序两次使用不同的方法将它们读出,加1,再写回硬盘。通过对比可以看出,read消耗的时间将近是mmap的两到三倍。

 

复制内容到剪贴板
  1. #include<unistd.h>  
  2.   
  3. #include<stdio.h>  
  4.   
  5. #include<stdlib.h>  
  6.   
  7. #include<string.h>  
  8.   
  9. #include<sys/types.h>  
  10.   
  11. #include<sys/stat.h>  
  12.   
  13. #include<sys/time.h>  
  14.   
  15. #include<fcntl.h>  
  16.   
  17. #include<sys/mman.h>  
  18.   
  19.    
  20.   
  21. #define MAX 10000  
  22.   
  23.    
  24.   
  25. int main()  
  26.   
  27. {  
  28.   
  29. int i=0;  
  30.   
  31. int count=0, fd=0;  
  32.   
  33. struct timeval tv1, tv2;  
  34.   
  35. int *array = (int *)malloc( sizeof(int)*MAX );  
  36.   
  37.    
  38.   
  39. /*read*/  
  40.   
  41.    
  42.   
  43. gettimeofday( &tv1, NULL );  
  44.   
  45. fd = open( "mmap_test", O_RDWR );  
  46.   
  47. ifsizeof(int)*MAX != read( fd, (void *)array, sizeof(int)*MAX ) )  
  48.   
  49. {  
  50.   
  51. printf( "Reading data failed.../n" );  
  52.   
  53. return -1;  
  54.   
  55. }  
  56.   
  57. for( i=0; i<MAX; ++i )  
  58.   
  59.    
  60.   
  61. ++array[ i ];  
  62.   
  63. ifsizeof(int)*MAX != write( fd, (void *)array, sizeof(int)*MAX ) )  
  64.   
  65. {  
  66.   
  67. printf( "Writing data failed.../n" );  
  68.   
  69. return -1;  
  70.   
  71. }  
  72.   
  73. free( array );  
  74.   
  75. close( fd );  
  76.   
  77. gettimeofday( &tv2, NULL );  
  78.   
  79. printf( "Time of read/write: %dms/n", tv2.tv_usec-tv1.tv_usec );  
  80.   
  81.    
  82.   
  83. /*mmap*/  
  84.   
  85.    
  86.   
  87. gettimeofday( &tv1, NULL );  
  88.   
  89. fd = open( "mmap_test", O_RDWR );  
  90.   
  91. array = mmap( NULL, sizeof(int)*MAX, PROT_READ|PROT_WRITE, MAP_SHARED, fd, 0 );  
  92.   
  93. for( i=0; i<MAX; ++i )  
  94.   
  95.    
  96.   
  97. ++array[ i ];  
  98.   
  99. munmap( array, sizeof(int)*MAX );  
  100.   
  101. msync( array, sizeof(int)*MAX, MS_SYNC );  
  102.   
  103. free( array );  
  104.   
  105. close( fd );  
  106.   
  107. gettimeofday( &tv2, NULL );  
  108.   
  109. printf( "Time of mmap: %dms/n", tv2.tv_usec-tv1.tv_usec );  
  110.   
  111.    
  112.   
  113. return 0;  
  114.   
  115. }  
  116.   
  117.    
  118.   
  119.    
  120.   
  121.    
  122.   
  123. 输出结果:  
  124.   
  125. Time of read/write: 154ms  
  126.   
  127. Time of mmap: 68ms   

 

感谢 mg0832058 支持 磐实编程网 原文地址:
blog.csdn.net/mg0832058/article/details/5890688

文章信息

发布时间:2016-11-28

作者:mg0832058

发布者:aquwcw

浏览次数: